Apple hat am 16. Oktober seine App-Store-Regeln gegen intime Bilder ohne Einwilligung verschärft, auch für KI-generierte Inhalte. Laut der Mitteilung an Entwickler müssen Apps solche Inhalte aktiv verhindern und entfernen. Bei unzureichenden Schutzmaßnahmen droht Entwicklern der Ausschluss aus dem Store.
Das Unternehmen erklärte, Pornografie und Apps zur Erzeugung sexuell expliziter Bilder realer Menschen ohne Erlaubnis seien bereits verboten. Die Änderungen erweitern den Schutz und richten sich gegen Apps, die schädliche Funktionen während der Prüfung verbergen und erst nach der Freigabe aktivieren.
Nach Richtlinie 1.2 müssen soziale Plattformen und Apps für KI-Inhalte anstößiges Material filtern, Meldemöglichkeiten anbieten, schnell reagieren und das Sperren missbräuchlicher Konten ermöglichen. Apples veröffentlichte Regeln verlangen zudem Kontaktdaten, damit Nutzer die Entwickler erreichen können.
Der neue Abschnitt 2.5.19 betrifft verborgene, inaktive oder undokumentierte Funktionen. Laut Apple kann das Verstecken von Funktionen im Programmcode zur Entfernung der App und Schließung des Entwicklerkontos führen. Nutzer und Prüfer müssen verstehen können, was die Software tut.
Der Änderung gingen kritische Fragen zur Durchsetzung voraus. 9to5Mac erinnerte am 16. Oktober daran, dass das Tech Transparency Project im Januar Dutzende KI-Entkleidungsapps identifizierte. Der Bericht nennt auch die Anordnung von Behörden in San Francisco vom Juli, acht Apps zur Erstellung intimer Bilder ohne Einwilligung zu entfernen.
Für Entwickler knüpft Apple den weiteren Vertrieb an ausreichenden Schutz und Maßnahmen nach gemeldeten Verstößen. Das Unternehmen kann die Entfernung beanstandeter Inhalte und einen Plan für bessere Regelbefolgung verlangen. Schwere oder wiederholte Verstöße können zur sofortigen Entfernung der App und zum Ausschluss des Entwicklers aus Apples Programm führen.
Kommentare