Apple ha rafforzato il 16 ottobre le regole dell’App Store contro le immagini intime senza consenso, anche se create dall’IA. La società afferma che le app dovranno prevenirle ed eliminarle attivamente: chi non offre tutele adeguate potrà essere escluso dallo store. È una stretta sulla sicurezza.
La società precisa che la pornografia e le app che creano immagini sessualmente esplicite di persone reali senza permesso erano già vietate. Ora la protezione è più ampia, perché riguarda anche le app che nascondono capacità dannose durante la verifica e le attivano solo dopo l’approvazione.
La regola 1.2 richiede a piattaforme social e app creative IA di filtrare materiale inaccettabile, offrire segnalazioni, rispondere rapidamente e dare la possibilità di bloccare account abusivi. È inoltre obbligatorio pubblicare recapiti: così l’utente può contattare chi sviluppa l’app, secondo le regole di Apple.
La nuova sezione 2.5.19 riguarda funzionalità nascoste, inattive o non documentate. Secondo Apple, occultarle nel codice può comportare la rimozione dell’app e la chiusura dell’account sviluppatore. L’attività del software dovrà essere comprensibile a utenti e revisori: è un requisito di chiarezza.
La novità segue le critiche ai controlli. Il 16 ottobre, 9to5Mac ha ricordato che il Tech Transparency Project aveva già individuato decine di app IA per simulare nudità a gennaio. Ha inoltre riferito che a luglio le autorità di San Francisco hanno ordinato ad Apple di ritirare otto app capaci di creare immagini intime senza consenso.
Per gli sviluppatori, la possibilità di continuare la distribuzione è legata a tutele adeguate e all’azione dopo le segnalazioni. La società può chiedere la rimozione dei contenuti e un piano di conformità. Per violazioni gravi o ripetute potrà disporre l’esclusione immediata sia dell’app sia dello sviluppatore dal programma Apple.
Commenti