Google Cloud își lansează a opta generație de cipuri AI TPU pentru a reduce dependența de Nvidia

Google Cloud a anunțat miercuri că a opta generație de cipuri AI construite intern, unitățile de procesare tensorială (TPU), va fi divizată în două versiuni distincte. Un cip, denumit TPU 8t, este dedicat antrenării modelelor, iar celălalt, TPU 8i, este orientat spre inferență.

Inferența reprezintă utilizarea continuă a modelelor, adică procesul care are loc după ce utilizatorii trimit diverse prompturi sau cereri.

Compania prezintă pentru aceste noi TPU-uri specificații de performanță remarcabile față de generațiile anterioare. Se anunță de până la 3 ori mai rapid antrenamentul modelelor AI, o îmbunătățire de 80% a performanței raportate la cost și posibilitatea de a face peste 1 milion de TPU-uri să funcționeze împreună într-un singur cluster. Concluzia este clară: mult mai multă putere de calcul, cu un consum mai mic de energie și costuri reduse pentru clienți, comparativ cu versiunile precedente. Aceste cipuri sunt numite TPUs, nu GPUs, deoarece aceste procesoare personalizate cu consum redus au fost inițial botezate Tensor.

Totuși, cipurile Google nu reprezintă deocamdată un atac direct și total la planurile Nvidia pentru viitor. La fel ca alți mari furnizori de cloud, inclusiv Microsoft și Amazon, Google folosește aceste cipuri pentru a completa sistemele bazate pe Nvidia deja prezente în infrastructura sa, nu pentru a le înlocui complet. De altfel, Google promite că platforma sa cloud va pune la dispoziție cel mai nou cip Nvidia, Vera Rubin, mai târziu în acest an.

Este posibil ca, într-o zi, hiperscalerii care își construiesc propriile cipuri AI – între care Amazon, Microsoft si Google – să ajungă să depindă mai puțin de Nvidia, pe măsură ce companiile își mută nevoile de inteligență artificială în cloud și își adaptează aplicațiile pentru a rula pe aceste cipuri proprietare.

Cu toate acestea, în prezent nu este deloc avantajos să pariezi împotriva Nvidia. Analistul de top pe piața cipurilor, Patrick Moore, a glumit pe X amintind că, încă din 2016, când gigantul căutărilor a lansat primul său TPU, el prezisese că aceasta ar putea fi o veste proastă pentru Nvidia (și pentru Intel). Înt între timp, Nvidia a ajuns la o capitalizare de piață de aproape 5 trilioane de dolari, ceea ce arată clar că acea predicție nu a rezistat probei timpului.

Dacă lucrurile vor decurge conform planurilor Nvidia, creșterea Google ca furnizor de servicii cloud pentru AI ar trebui, de fapt, să genereze mai mult business pentru producătorul de cipuri, nu mai puțin, chiar dacă o parte importantă a sarcinilor de lucru va rula pe cipurile dezvoltate de Google.

Mai mult, Google afirmă că a ajuns la un acord de colaborare cu Nvidia pentru a dezvolta tehnologii de rețelistică avansată, menite să permită sistemelor bazate pe Nvidia să funcționeze și mai eficient în cadrul cloudului său. Cele două companii lucrează în special la consolidarea tehnologiei de rețelistică software numită Falcon, creată și open-source de Google în 2023 în cadrul organizației Open Compute Project, considerată „nașul” tuturor inițiativelor open source pentru hardware de centre de date.