Apple reforzó el 16 de octubre las reglas de su App Store para combatir las imágenes íntimas creadas sin consentimiento, incluidas las generadas por IA. Su anuncio para desarrolladores exige prevenir y eliminar estos contenidos, con riesgo de expulsión de la tienda si las salvaguardas son insuficientes.
La compañía señaló que ya prohibía la pornografía y las aplicaciones que generan imágenes sexualmente explícitas de personas reales sin permiso. Los cambios amplían esa protección y apuntan a las aplicaciones que ocultan capacidades dañinas durante la revisión y las activan después de recibir aprobación.
La norma 1.2 exige a las plataformas sociales y aplicaciones de creación con IA filtrar material inaceptable, ofrecer herramientas de denuncia, responder pronto y permitir bloquear cuentas abusivas. Apple también exige datos de contacto para que los usuarios puedan localizar a los desarrolladores.
La nueva sección 2.5.19 aborda funciones ocultas, inactivas o no documentadas. Según las reglas de Apple, esconder funciones en el código puede provocar la retirada de la aplicación y el cierre de la cuenta del desarrollador. Usuarios y revisores deben entender qué hace el programa.
La actualización llega tras críticas a la aplicación de las normas. El 16 de octubre, 9to5Mac recordó que Tech Transparency Project identificó decenas de aplicaciones de desnudo mediante IA en enero. También informó de que las autoridades de San Francisco ordenaron a Apple en julio retirar ocho aplicaciones capaces de generar imágenes íntimas sin consentimiento.
Para los desarrolladores, Apple vincula la continuidad de la distribución a salvaguardas adecuadas y a actuar ante infracciones señaladas. La empresa puede pedir la retirada del contenido y un plan para mejorar el cumplimiento. Las faltas graves o reiteradas pueden causar la retirada inmediata de la aplicación y la expulsión del desarrollador de su programa.
Comentarios