Groq Inc., dobro financirani proizvođač čipova za zaključivanje umjetne inteligencije, kupio je drugu startup Definitive Intelligence Inc. za neobjavljenu sumu.
Tvrtke su danas objavile transakciju. Dogovor će pomoći Groqu da poboljša mogućnosti svoje najnovije ponude, platforme u oblaku pod nazivom GroqCloud koja pruža pristup na zahtjev svojim AI čipovima.
Groq je 2016. godine osnovao glavni izvršni direktor Jonathan Ross, bivši inženjer Google LLC-a koji je izumio TPU procesore za strojno učenje pretraživačkog diva. Tvrtka je podržana s više od 360 milijuna dolara sredstava. Prikupila je većinu tog kapitala kroz rundu serije C koju su zajednički vodili Tiger Global Management i D1 Capital početkom 2021.
Groqov vodeći proizvod je AI čip poznat kao LPU Inference Engine. Optimiziran je za pokretanje velikih jezičnih modela s fokusom na zaključivanje ili zadatak pokretanja umjetne inteligencije u proizvodnji nakon što je obučena. U referentnom testu u studenom, Groqov LPU postavio je rekord u brzini zaključivanja dok je pokretao popularni Llama 2 70B LLM tvrtke Meta Platform Inc.
LPU se sastoji od jezgri nazvanih TSP od kojih svaka uključuje oko 230 megabajta memorije. Prema Groqu, TSP-ovi su međusobno povezani mrežom na čipu koja pruža detaljne informacije o tome koliko je vremena potrebno da podaci putuju između različitih jezgri. Ove informacije pomažu ubrzati vrijeme odgovora LLM-a.
Što brže dio podataka stigne do jezgre čipa putem ugrađene mreže, to prije može započeti obrada. Informacije koje LPU pruža o svojoj ugrađenoj mreži omogućuju LLM-ima da identificiraju najbrže rute putovanja podataka i koriste ih za ubrzanje izračuna. Groq tvrdi da njegov čip može izvoditi zaključke do 10 puta brže od konkurentskih proizvoda.
Definitive Intelligence, koju je tvrtka kupila, pružatelj je analitičkih usluga sa sjedištem u Palo Altu u Kaliforniji koji je prethodno prikupio više od 10 milijuna dolara financiranja. Nudi aplikaciju pokretanu umjetnom inteligencijom koja korisnicima omogućuje postavljanje upita skupovima podataka s uputama na prirodnom jeziku. Softver je također pogodan za srodne zadatke kao što je stvaranje vizualizacija podataka.
Groq je prilikom akvizicije detaljno opisao da mu je Definitive Intelligence pomogao izgraditi GroqCloud, nedavno lansiranu platformu putem koje pruža pristup na zahtjev LPU-ovima. Programeri mogu koristiti platformu kako bi se upoznali s čipovima tvrtke i izradili aplikacije optimizirane za njihovu arhitekturu. Ugrađena knjižnica resursa za učenje obećava olakšanje procesa uključivanja.
Nakon akvizicije, suosnivač i izvršni direktor Definitive Intelligencea Sunny Madra pridružit će se Groqu kako bi vodio poslovnu jedinicu zaduženu za GroqCloud. Početni prioriteti jedinice uključuju proširenje kapaciteta platforme i povećanje baze korisnika. Groq je rekao da će akvizicija također podržati pokretanje drugog odjela, Groq Systems, koji će se usredotočiti na pomoć organizacijama kao što su vladine agencije u implementaciji tvrtkinih LPU-ova.
Pocetno poduzece? Je li to startup kompanija?