Inteligență Artificială & LLM

NVIDIA a plătit 20 de miliarde de dolari pentru a „licenția” tehnologia Groq. Chiar l-a cumpărat

NVIDIA a plătit 20 de miliarde de dolari pentru a „licenția” tehnologia Groq. Chiar l-a cumpărat

NVIDIA a ajuns la un acord de „licență” a activelor de la Groq și va plăti 20 de miliarde USD pentru aceste active. Compania – a nu fi confundată cu chatbot-ul lui Elon Musk, Grok – proiectează și produce cipuri AI pentru inferența modelelor de ani de zile. Citatele din jurul „licențelor” sunt importante, deoarece aceasta nu este o afacere: este o achiziție deghizată.

Ce s-a întâmplat

Miercuri, au apărut știri că NVIDIA a fost de acord să semneze un acord de licențiere cu Groq. Această știre a fost confirmată de către cei responsabili pentru Groq în blogul lor, în care vorbeau despre un acord de licență la scară globală pentru a accelera tehnologia non-exclusive pentru inferență globală. Dar ceea ce spun ambele companii este un lucru și ceea ce este de fapt acesta este cu totul altul.

Groq (nu Grok) este noul fenomen AI, dar nu face LLM-uri: face jetoane care îi fac să zboare
Groq (nu Grok) este noul fenomen de inteligență artificială, dar nu le face cipuri fly:

Cum să cumpărați o companie fără să o cumpărați

Ca parte a acordului, CEO-ul și co-fondatorul companiei, Jonathan Ross, va merge să lucreze pentru NVIDIA, la fel ca Sunny Madra, actualul său președinte, și alți directori seniori care „se vor alătura NVIDIA pentru a ajuta NVIDIA să avanseze și să extindă această tehnologie licențiată”. La Groq ei subliniază că vor continua să funcționeze ca o „companie independentă” condusă de Simon Edwards, care a fost directorul lor financiar (CFO) și va deveni acum CEO.

NVIDIA păstrează (aproape) totul

În septembrie, Groq a strâns o rundă de finanțare de 750 de milioane de dolari, situându-și evaluarea la 6,9 miliarde de dolari. Au participat Disruptive, Blackrock și alte companii. Alex Davis, CEO al Disruptive, a indicat pe CNBC că NVIDIA va păstra toate noile afaceri lansate de Groq, cu excepția unui activ Groq.

Cea mai mare „pseudoachiziție” NVIDIA

Această operațiune este de departe cea mai importantă pentru NVIDIA, care a cumpărat compania israeliană Mellanox — care proiectează cipuri — pentru 6,9 miliarde de dolari, obținute de CEO-ul intern al CN2019, într-un e-mail intern. Jensen Huang de la NVIDIA a explicat că „în timp ce adăugăm angajați talentați în rândurile noastre și acordăm licențe pentru proprietatea intelectuală a lui Groq, nu achiziționăm Groq ca companie”. Expresia este semnificativă, dar sensibilă, iar NVIDIA ar putea dori să scape de controlul autorităților de reglementare cu acest tip de pseudo-achiziție.

Au făcut deja o altă pseudo-achiziție înainte

În septembrie anul trecut, NVIDIA a făcut o mișcare identică prin "pariând" 900 de milioane de dolari pe serverul de pornire Enfabrica. Ca și în acest caz, au numit această operațiune un acord de licență pentru tehnologia lor, dar, ca și în acest caz, ceea ce s-a întâmplat este că, alți angajați ai Sankar Enfabrica, membrii directorului general al companiei Sankar Enfabrica, au denumit personalul de la NVIDIA.

Ce este Groq. Deși numele este confundat cu cel al chatbot-ului xAI, acest startup AI face ceva foarte diferit de acel model. Groq a fost fondată în 2016 de un grup de foști ingineri Google condus de Jonathan Ross și Douglas Wightman. Ross a fost unul dintre designerii Tensor Processing Units (TPU), iar Wightman a făcut parte din Google

Ce face Groq

Compania a proiectat cipuri AI care sunt special specializate în deducerea modelelor AI sau, cu alte cuvinte, accelerarea execuției acelor modele. În timp ce NVIDIA și alte companii se concentrează în special pe cipuri pentru antrenamentul modelelor, o fază la fel de critică, ele nu sunt la fel de pregătite pentru inferență.

Chatboți la viteză maximă

Aici intervine Groq, care ne permite să accelerăm extraordinar inferența și să ne asigurăm că atunci când discutăm cu modele la viteză foarte mare. Acesta este momentul în care se obțin viteze foarte mari de token/s, mult peste alte infrastructuri. Nu numai atât, Groq este și mai ieftin datorită cipurilor sale specializate, așa că dacă doriți ca chatbot-ul dvs. să răspundă la viteză maximă, cipurile Groq sunt o opțiune fantastică.

Cum să fii un monopol fără să spui asta

Această investiție a NVIDIA demonstrează intenția de a-și diversifica afacerea și de a nu rămâne blocat în propriile soluții. Operațiunea uriașă îi oferă un avantaj competitiv major, deoarece niciuna dintre marile companii de inteligență artificială de astăzi nu s-a concentrat în mod special pe cipurile de inferență. Groq a făcut-o încă de la început, iar cu această „afacere” pare clar că dominația NVIDIA în acest sector poate fi întărită. Este, spun unii analiști, o mișcare defensivă mai degrabă decât una strategică și ar putea avea dreptate: Google devine din ce în ce mai puternic cu TPU-urile sale, iar faptul că Groq face acum practic parte din NVIDIA — deși nu vor să concureze mai bine cu Google în continuare — va permite să concureze mai bine cu Google. rivali care încep să conteste această dominație.

Imagine | Groq | NVIDIA

În investigația noastră tehnică | Problema AMD nu este că nu face GPU-uri bune pentru AI. Încă nu este nici măcar aproape de NVIDIA

Partajează acest dosar: