Google stellte am Montag, dem 9. November, zwei neue Tensorprozessor-Systeme der achten Generation vor. Damit erweitert der Konzern sein Angebot an Hardware für künstliche Intelligenz für Kunden, die sensible Daten stärker schützen oder mehr Speicherkapazität nutzen wollen. TPU 8tx und TPU 8i Max ergänzen nach Angaben des Unternehmens zwei im April angekündigte Systeme. Google will damit seine Rolle im Markt für KI-Rechenleistung ausbauen.
Laut Google handelt es sich um neue Systemkonfigurationen auf Grundlage bestehender Chips und nicht um völlig neue Chipdesigns. Die TPUs dienten zunächst internen Diensten; inzwischen bietet Google sie Kunden über Google Cloud und nach eigenen Angaben auch in deren Rechenzentren an. Das Unternehmen spricht von fast 100 TPU-Kunden. Reuters sieht in der Erweiterung stärkeren Wettbewerb mit Nvidia bei KI-Beschleunigern.
TPU 8tx richtet sich an Behörden und regulierte Unternehmen, die vertrauliche Informationen verarbeiten. Nach Angaben von Google nutzt das System denselben Chip wie TPU 8t und kombiniert ihn mit Hostprozessoren der fünften AMD-EPYC-Generation. Daten und Modellparameter sollen auch während der Verarbeitung geschützt bleiben. Google zufolge halbiert das Netzwerkdesign die Latenz gegenüber dem 8t im besten Fall nahezu, bei geringem Leistungsverlust.
TPU 8i Max zielt auf Anwendungen, die große Informationsmengen gleichzeitig verarbeiten müssen, etwa KI-Agenten bei der Analyse von Programmcode oder langen Videos. Das System vereint zwei TPU-8i-Chips in einem Gehäuse. Google gibt an, dass sich Rechenleistung, integrierter SRAM-Speicher und Bandbreite des Hochleistungsspeichers gegenüber dem 8i verdoppeln. So soll mehr Rechenleistung in derselben Fläche eines Rechenzentrumsracks Platz finden.
Mit den beiden Ergänzungen umfasst Googles achte TPU-Generation vier Systeme: 8t für das Training großer Modelle, 8i für Schlussfolgerungen mit geringerer Latenz, 8tx für vertrauliche Verarbeitung und 8i Max für große Kontextfenster. Google erweitert nach eigenen Angaben auch die Unterstützung für PyTorch und andere Entwicklerwerkzeuge. Die Leistungswerte stammen vom Unternehmen und sind nicht unabhängig überprüft.
Google nannte in der Ankündigung weder einen allgemeinen Verfügbarkeitstermin noch Preise. Kunden müssen prüfen, ob Sicherheitsfunktionen, Speicher und Software zu ihren Aufgaben passen, während das Unternehmen sein Cloud- und Rechenzentrumsangebot ausbaut. Reuters berichtete, dass sich der Quartalsumsatz von Google Cloud auf 30,71 Milliarden Dollar mehr als verdoppelte. Das verdeutlicht die wirtschaftliche Bedeutung des KI-Infrastrukturgeschäfts.
Kommentare