Die Philippinen kündigten am Donnerstag an, den Zugang zu Elon Musks KI-Chatbot Grok zu blockieren und schließen sich damit Malaysia und Indonesien bei einem regionalen Durchgreifen an, da Bedenken bestehen, dass das Tool sexualisierte Bilder generieren kann, einschließlich Inhalten, die Risiken für die Kindersicherheit darstellen. Telekommunikationsminister Henry Rhoel Aguda erklärte, das Land erwarte, Grok bis heute Abend auf den gesamten Philippinen zu blockieren.
Die Entscheidung kommt, während südostasiatische Nationen schnelle Maßnahmen gegen den von xAI entwickelten Chatbot ergreifen, nachdem Berichte über Nutzer aufgetaucht sind, die nicht einvernehmliche explizite Bilder erstellen. Renato Paraiso, amtierender Geschäftsführer des Zentrums für Cyberkriminalitätsermittlung und -koordinierung, bestätigte, dass die Regierung mit der Nationalen Telekommunikationskommission zusammenarbeitet, um das Verbot umzusetzen. Er betonte die Dringlichkeit und erklärte, dass das Internet jetzt gereinigt werden müsse, da mit dem Aufkommen der KI viel toxischer Inhalt erscheine.
Malaysia und Indonesien wurden am Wochenende die ersten Länder, die Grok vollständig blockierten, wobei Indonesien sein Verbot am Samstag und Malaysia am Sonntag umsetzte. Die koordinierte regionale Reaktion spiegelt die wachsende Besorgnis der asiatischen Regierungen über KI-generierte explizite Inhalte wider. Kaliforniens Generalstaatsanwalt Rob Bonta hat ebenfalls eine Untersuchung gegen xAI und Grok wegen derselben Bedenken eingeleitet.
Als Reaktion auf den zunehmenden internationalen Druck kündigte X am Mittwoch an, die Möglichkeit für alle Grok- und X-Nutzer zu blockieren, Bilder von Personen in Bikinis, Unterwäsche und ähnlicher Kleidung in Jurisdiktionen zu erstellen, in denen solche Handlungen als illegal gelten. Philippinische Beamte gaben jedoch an, dass das Versprechen von X keine Auswirkungen auf die Pläne der Regierung haben würde, und fügten hinzu, sie würden beobachten, ob die Plattform ihre Versprechen einhält.
Die Kontroverse dreht sich um Groks Bildgenerierungsfähigkeiten, die Kritikern zufolge ausgenutzt wurden, um sexualisierte Deepfakes von echten Personen ohne deren Einwilligung zu erstellen. Es tauchten Berichte über Nutzer auf, die explizite Bilder von öffentlichen Persönlichkeiten, Prominenten und gewöhnlichen Menschen generierten, was ernsthafte Bedenken hinsichtlich Privatsphäre und Einwilligung aufwarf. Kinderschutzgruppen waren besonders lautstark und warnten davor, dass solche Technologie zur Erstellung von Kindesmissbrauchsmaterial verwendet werden könnte.
Technologieanalysten merken an, dass dies eine der bedeutendsten regulatorischen Herausforderungen für KI-Bildgenerierungswerkzeuge darstellt. Das schnelle Handeln mehrerer Regierungen signalisiert einen möglichen Wandel hin zu einer strengeren Aufsicht über generative KI-Fähigkeiten. Branchenbeobachter vermuten, dass andere Länder mit ähnlichen Einschränkungen folgen könnten, da die Bedenken über KI-generierte schädliche Inhalte weiter wachsen.
Musks xAI ist seit der Einführung von Grok zunehmender Prüfung ausgesetzt, wobei Kritiker argumentieren, das Unternehmen habe keine angemessenen Schutzmaßnahmen gegen Missbrauch implementiert. Das Unternehmen hat noch keine umfassende Antwort auf die wachsende Liste von Ländern gegeben, die den Zugang zu seiner Plattform blockieren.