USA idufirma sai inference-kiipide ostuks 400 miljoni dollari laenu

Tehisintellekti taristufirma General Compute kaasas Upper90-lt 400 miljonit dollarit, pannes laenu tagatiseks SambaNova inference-kiibid. Tehing näitab, et investorid otsivad GPU-de kõrval odavamaid lahendusi juba treenitud tehisintellektimudelite käitamiseks.

USA tehisintellekti taristufirma General Compute sai investeerimisfirmalt Upper90 400 miljoni dollari suuruse laenu, mille tagatiseks kasutatakse inference’iks ehk juba treenitud tehisintellektimudelite käitamiseks mõeldud kiipe. Tegemist võib olla esimese sellise rahastusega, kus laenu tagatiseks on spetsiaalselt inference’i jaoks loodud pooljuhid.

General Compute’i asutas tegevjuht Finn Puklowski. Mais kaasas ettevõte 15 miljonit dollarit seemnevoorus, et rajada SambaNova kiipidel põhinev niinimetatud neocloud. Erinevalt AWS-i ja Azure’i üldotstarbelisest pilvetaristust on neocloudid mõeldud peamiselt tehisintellekti töökoormustele.

SambaNova SN50 kiibid tarbivad vähem energiat ega vaja kallist vesijahutust. General Compute’i väitel võimaldavad need GPU-põhiste pilvedega võrreldes inference’i käitada kuni 16 korda kiiremini ning paigaldada kiibid rohkematesse andmekeskustesse. Uue ettevõtte jaoks on aga suure hulga kiipide hankimine keeruline.

Upper90 tegevjuht ja kaasasutaja Billy Libby, kes töötas varem Goldman Sachsi kvantitatiivse kauplejana, rahastas 2021. aastal GPU-de ostu andmekeskuseettevõttele Crusoe. «Kui me Nvidia GPU-sid esimese rühmana rahastasime, oli turg ebatõhus,» ütles Libby. Tema sõnul võttis Upper90 riski ajal, mil traditsioonilised laenuandjad kahtlesid kiipide väärtuse püsimises.

Nüüd peab Upper90 GPU-turgu paremini mõistetavaks ja võib-olla ülevarustatuks. Libby sõnul vajavad ettevõtted üha rohkem avatud lähtekoodiga mudelite käitamise taristut: «Kõik ei vaja superarvutit, kuid kõik vajavad inference’it ja tehisintellekti.» General Compute’i juhtkonna hinnangul võib Nvidia-väliste kiipide levik muuta inference’i odavamaks; sarnast suunda järgib TensorWave, mis teeb koostööd AMD-ga.