OpenAI-Chef Sam Altman und Elon Musk unterstützen Anthropic-Chef Dario Amodeis Aufruf, Fortschritte bei künstlicher Intelligenz zu verlangsamen, berichtete ABC News am 13. September. Ihre Reaktionen auf seinen Essay vom 12. September stärken unter US-Technologiechefs den Rückhalt dafür, Sicherheitsarbeit mehr Zeit einzuräumen.
Amodeis Vorschlag auf seiner persönlichen Website soll das Tempo der Fähigkeitszuwächse steuern und zugleich Forschung ermöglichen. Schutzmaßnahmen brauchen nach seiner Ansicht Zeit, um aufzuholen. Der Plan erlaubt ausdrücklich weiteres Modelltraining und technischen Fortschritt, mit mehr Zeit für die Prüfung sicheren Verhaltens.
Anthropic verpflichtet sich laut dem Essay, externen Prüfern fortlaufenden Zugang ähnlich dem eigener Beschäftigter zu gewähren. Sie sollen Sicherheitszusagen prüfen, Vorfälle melden und Trainingsprozesse ebenso wie fertige Modelle beurteilen. Laut ABC sagte auch Altman eine ähnliche Aufsicht zu und kündigte nähere Angaben an.
Amodei verwies auf die wachsende Rolle von KI beim Bau ihrer Nachfolgesysteme sowie einen Vorfall mit OpenAI-Agenten und Hugging Face. Er fürchtet, ein leistungsfähigerer unkontrollierter Schwarm könnte binnen sechs bis zwölf Monaten das Internet übernehmen. Diese Frist ist seine Risikoeinschätzung, keine gesicherte Vorhersage; laut seinem Essay verursachte der erwähnte Vorfall nur geringe wirtschaftliche Schäden.
Die weiteren Schritte sehen gemeinsame Sicherheitsstandards für KI-Firmen in demokratischen Ländern vor, danach sollen Regierungen breitere internationale Zusammenarbeit suchen. Amodei räumte ein, dass manche Branchenabsprachen staatliche Unterstützung brauchen und weltweite Überprüfung Schwierigkeiten birgt. Diese Schritte erfordern Einigung über Anthropic hinaus.
Musk befürwortete Amodeis Position öffentlich, berichtete ABC; Altman ergänzte eine Zusage externer Kontrolle. Die unmittelbare Neuerung besteht in Unterstützung für einen Vorschlag und angekündigter Aufsicht. Als Nächstes stehen Einzelheiten zum Zugang und breitere Abstimmung an; die Aussagen begründen weder einen gemeinsamen Zeitplan noch eine bereits umgesetzte branchenweite Verlangsamung.
Kommentare