Google ha presentato lunedì 9 novembre due nuovi sistemi di unità di elaborazione tensoriale di ottava generazione, ampliando l’offerta di hardware per l’intelligenza artificiale. Il TPU 8tx è pensato per chi ha bisogno di più protezione dei dati sensibili; il TPU 8i Max per chi necessita di maggiore capacità di memoria. Si aggiungono a due sistemi annunciati in aprile, mentre la società cerca una presenza più ampia nel mercato della potenza di calcolo per l’IA.
Secondo Google, le novità sono configurazioni costruite su chip già esistenti e non progetti di chip del tutto nuovi. Le TPU erano nate per i servizi interni; ora sono offerte ai clienti tramite Google Cloud e, secondo l’azienda, anche nei loro centri dati. Google dichiara di avere quasi 100 clienti TPU. Reuters rileva che l’espansione accresce la concorrenza con Nvidia nel settore degli acceleratori per l’IA.
Il TPU 8tx è rivolto a governi e imprese regolamentate che trattano informazioni riservate. Google afferma che utilizza lo stesso silicio del TPU 8t insieme a processori host AMD EPYC di quinta generazione e protegge dati e parametri dei modelli anche durante l’elaborazione. La società sostiene che la rete può ridurre la latenza fino alla metà rispetto all’8t, con una perdita di prestazioni pressoché nulla.
Il TPU 8i Max è destinato ad applicazioni che devono gestire molte informazioni nello stesso momento, come agenti IA impegnati su codice software o lunghi video. Riunisce due chip TPU 8i in un unico pacchetto. Secondo Google, raddoppia capacità di calcolo, memoria SRAM integrata e larghezza di banda della memoria ad alta velocità rispetto all’8i. Così più calcolo può trovare spazio nello stesso rack di un centro dati.
Le due aggiunte portano a quattro i sistemi TPU di ottava generazione: 8t per l’addestramento su larga scala, 8i per il ragionamento a bassa latenza, 8tx per l’elaborazione riservata e 8i Max per ampie finestre di contesto. Google dice inoltre che sta ampliando il supporto a PyTorch e ad altri strumenti per sviluppatori, affinché l’hardware sia più facile da usare. Le cifre sulle prestazioni sono dichiarazioni aziendali e non sono state verificate in modo indipendente.
Google non ha indicato né una data generale di disponibilità né i prezzi nell’annuncio. I clienti dovranno valutare se le funzioni di sicurezza, la memoria e il software siano adatti alle loro attività, mentre l’azienda sviluppa le offerte cloud e per i centri dati. Reuters riferisce che i ricavi trimestrali di Google Cloud sono più che raddoppiati a 30,71 miliardi di dollari, a conferma della rilevanza economica dell’infrastruttura IA.
Commenti