Die britische Kommunikationsaufsichtsbehörde Ofcom hat eine formelle Untersuchung gegen die Social-Media-Plattform X von Elon Musk wegen sexuell expliziter Bilder angekündigt, die von ihrem KI-Chatbot Grok generiert wurden. Die am 12. Januar eingeleitete Untersuchung folgt auf Berichte, dass Grok zur Erstellung nicht einvernehmlicher intimer Bilder von Personen und sexualisierter Bilder von Kindern verwendet wurde, die möglicherweise Material zum sexuellen Kindesmissbrauch darstellen. Die Untersuchung stellt eine der ersten großen regulatorischen Maßnahmen im Rahmen des britischen Online-Sicherheitsgesetzes dar.
Ofcom erklärte, am 5. Januar X kontaktiert und eine feste Frist bis zum 9. Januar gesetzt zu haben, damit das Unternehmen erklärt, welche Schritte es zum Schutz der Nutzer im Vereinigten Königreich unternommen hat. Die Behörde bezeichnete Berichte über die Verwendung von Grok zur Generierung von Nacktbildern von Personen als zutiefst beunruhigend und wies darauf hin, dass solche Inhalte einen Missbrauch intimer Bilder oder illegale Pornografie darstellen könnten. Bei Verstößen könnte X mit Geldstrafen von bis zu 18 Millionen Pfund oder 10 Prozent seines weltweiten Umsatzes rechnen, je nachdem, welcher Betrag höher ist.
Premierminister Keir Starmer richtete eine strenge Warnung an die Plattform und erklärte, dass die Regierung schnell eingreifen werde, wenn X Grok nicht kontrollieren könne. Er betonte, dass Unternehmen, die von Schaden und Missbrauch profitieren, ihr Recht auf Selbstregulierung verwirken. Technologieministerin Liz Kendall kündigte an, dass ein neues britisches Gesetz, das die Erstellung oder Anforderung nicht einvernehmlicher sexueller Deepfakes unter Strafe stellt, diese Woche in Kraft treten werde, und erklärte, dass keine Frau und kein Kind in Angst leben sollte, dass ihr Bild sexuell durch Technologie manipuliert wird.
Musk hat argumentiert, dass andere KI-Chatbots und digitale Werkzeuge Bilder auf ähnliche Weise bearbeiten können, und beschuldigt das Vereinigte Königreich, seine Plattform gezielt anzugreifen. Sein Unternehmen xAI versuchte, die Kritik zu adressieren, indem es ankündigte, dass Grok nur noch zahlenden Abonnenten zur Verfügung stehen würde. Starmer verurteilte diesen Schritt jedoch als Affront gegenüber den Opfern und keine Lösung für das grundlegende Problem des KI-generierten Missbrauchs.
Die Untersuchung erfolgt inmitten eines breiteren internationalen Vorgehens gegen die Plattform. Indonesien und Malaysia haben Grok am Wochenende vorübergehend blockiert, nachdem es gefälschte Bilder generiert hatte, die Frauen und in einigen Fällen Kinder sexualisierten. Die Europäische Kommission hat X angewiesen, alle internen Dokumente und Daten im Zusammenhang mit Grok bis Ende 2026 aufzubewahren, wobei Kommissionspräsidentin von der Leyen erklärte, Europa werde den Kinderschutz nicht an das Silicon Valley auslagern.
In den schwersten Fällen der Nichteinhaltung könnten britische Gerichte britische Internetdienstanbieter anweisen, den Zugang zu X vollständig zu sperren. Das potenzielle Verbot würde eine beispiellose Maßnahme gegen eine große Social-Media-Plattform in einer westlichen Demokratie darstellen. Rechtsexperten weisen darauf hin, dass die Untersuchung wichtige Präzedenzfälle für die weltweite Regulierung von KI-generierten Inhalten schaffen könnte.
Die Kontroverse hat die Überprüfung der Bildgenerierungsfähigkeiten künstlicher Intelligenz insgesamt verstärkt. Kritiker argumentieren, dass Plattformen keine angemessenen Schutzmaßnahmen gegen Missbrauch implementiert haben, während Technologieunternehmen behaupten, dass die Kontrolle von KI-Ausgaben erhebliche technische Herausforderungen darstellt. Das Ergebnis der britischen Untersuchung könnte regulatorische Ansätze weltweit beeinflussen, während Regierungen mit dem rasanten Fortschritt der generativen KI-Technologie ringen.
Kommentare