Ein Bundesrichter lehnte am Freitag den Eilantrag von xAI gegen Minnesotas Verbot von KI-Technik zur Erzeugung falscher Nacktbilder ab. Damit kann die erste Regelung dieser Art in einem US-Bundesstaat am 1. August in Kraft treten. Das Unternehmen von Elon Musk muss sich während seiner fortgesetzten Verfassungsklage an das Gesetz halten.
Minnesotas Vorschrift untersagt Betreibern von Webseiten, Anwendungen und Software, Nutzern realistisch veränderte Bilder oder Videos mit intimen Körperteilen identifizierbarer Menschen zu ermöglichen. Auch Werbung für entsprechende Dienste ist verboten. Eine Ausnahme gilt für Werkzeuge, die erhebliche individuelle technische oder künstlerische Fähigkeiten eines menschlichen Anwenders verlangen.
Der amtliche Gesetzestext ermächtigt den Generalstaatsanwalt des Bundesstaates, für jeden rechtswidrigen Zugriff, Download oder Einsatz bis zu 500.000 Dollar Zivilstrafe zu verlangen. Abgebildete Personen dürfen außerdem auf Entschädigung, Strafschadenersatz, Rechtskosten und eine gerichtliche Verfügung klagen. Staatlich eingezogene Beträge fließen an Organisationen für Opfer sexueller Übergriffe, häuslicher Gewalt, Kindesmisshandlung und anderer Straftaten.
xAI reichte vor dem Stichtag eine 38-seitige Bundesklage ein und bezeichnete die Regelung als übermäßig breiten Eingriff in geschützte Meinungsäußerung. Nach Angaben der Associated Press bemängelt der Konzern einen fehlenden Schutz für Anbieter, die Missbrauch nach bestem Wissen verhindern, sowie die mögliche Erfassung einvernehmlicher oder selbst erstellter Inhalte. Minnesotas Interesse an der Bekämpfung nicht einvernehmlicher synthetischer Nacktbilder stellte xAI nicht infrage.
Minnesotas Generalstaatsanwalt Keith Ellison verteidigte die Maßnahme als Antwort auf Technik, die Betroffenen ihre Würde nehmen und emotionale, persönliche sowie berufliche Schäden verursachen kann. Laut xAI verbieten Groks Regeln illegale, schädliche oder missbräuchliche Nutzung einschließlich privatsphärenverletzender Bildänderungen. Der Anbieter könne Konten sperren und mutmaßliches Material über sexuellen Kindesmissbrauch melden.
Die Entscheidung betrifft nur den vorläufigen Rechtsschutz und entscheidet nicht endgültig über die verfassungsrechtlichen Argumente von xAI. Der Rechtsstreit geht deshalb weiter. Sein Ausgang könnte prägen, wie andere US-Bundesstaaten generative Bilddienste regulieren und ob die Verantwortung vor allem bei den Urhebern missbräuchlicher Deepfakes oder auch bei den Anbietern der dafür eingesetzten Technik liegt.
Kommentare