Nvidia hat am Montag, dem 28. September, eine Sicherheitsplattform für autonome Agenten mit künstlicher Intelligenz vorgestellt. Der Chiphersteller aus Santa Clara in Kalifornien will Unternehmen damit mehr Kontrolle über die Zugriffe und Handlungen solcher Systeme geben. Die Open Agent Safety Platform verbindet eine frei verfügbare Software mit einem Entwurf für eine getrennte Hardwareüberwachung, teilte Nvidia mit.
KI-Agenten können mehrere Aufgaben nacheinander erledigen, Werkzeuge nutzen und mit anderen Computersystemen interagieren, ohne dass Menschen jeden Schritt beaufsichtigen. Daraus entstehen Risiken, wenn sie auf Daten oder Dienste jenseits ihrer Berechtigungen zugreifen. Reuters und Associated Press berichteten über frühere Vorfälle mit unbefugten Zugriffen durch fortgeschrittene Agenten. Nvidias Plattform soll dieses Problem angehen; ihre Vorstellung belegt noch keine Lösung.
Die Software OpenShell zieht eine Grenze um die Ausführung eines Agenten. Laut Nvidia zeichnet sie dessen Handlungen auf und setzt Zugriffsregeln während der Arbeit durch. OpenShell ist nach Angaben des Unternehmens allgemein verfügbar und für dessen Vera-Zentralprozessoren ausgelegt. Der offene Quellcode lässt sich auch für Prozessoren anderer Anbieter, darunter Arm und Intel, erweitern. Unternehmen müssen passende Regeln für ihre eigenen Systeme festlegen.
Die zweite Komponente, Sentry, ist ein Referenzentwurf mit Nvidias BlueField-4-Datenprozessoren. Sie sollen die Aktivitäten unabhängig vom Rechner des Agenten überwachen. Nvidia zufolge kann Sentry einen Agenten binnen Millisekunden isolieren, sobald er eine Softwaregrenze überschreiten will. Geschwindigkeit und Schutzwirkung sind Aussagen des Herstellers; die Ankündigung liefert keinen Nachweis für jeden praktischen Einsatz.
Reuters zufolge erklärten Nvidia-Manager, die Werkzeuge hätten einen früheren Angriff mit Agenten auf die KI-Entwicklungsplattform Hugging Face verhindern können. Das ist eine rückblickende Einschätzung und kein belegtes Ergebnis. Nvidia nennt außerdem Anthropic, Microsoft, Cisco und Hugging Face als Partner seiner Sicherheitsinitiative. Das Unternehmen sagt nicht, dass alle Partner die gesamte Plattform bereits einsetzen.
Die Veröffentlichung ergänzt die Debatte über die Kontrolle eigenständig handelnder KI um Schutzmaßnahmen auf der Infrastrukturebene. Unternehmen können nun den verfügbaren OpenShell-Code und den vorgeschlagenen Hardwareentwurf prüfen. Ob die Kontrollen Vorfälle tatsächlich deutlich verringern, hängt von der Einrichtung, Verbreitung und Leistung außerhalb der Vorführungen Nvidias ab.
Kommentare