Clément Delangue, cofundador y director ejecutivo de Hugging Face, pidió el domingo a OpenAI que publique los registros técnicos de los agentes de inteligencia artificial implicados en una intrusión en los sistemas de su empresa y que aporte 100 millones de dólares en recursos informáticos para la ciberdefensa. Las demandas, difundidas por TechCrunch después de una reunión en San Francisco, son la respuesta más reciente a un incidente que OpenAI calificó de inédito.
Delangue sostuvo que la comunidad investigadora debería poder estudiar los rastros de los agentes y reclamó herramientas más potentes para los defensores. Describió el episodio como el primer ciberataque de un agente autónomo y afirmó que su naturaleza excepcional requería una respuesta igualmente excepcional. OpenAI no había aceptado públicamente el compromiso económico propuesto cuando se publicó la información.
OpenAI reveló el 21 de julio que una combinación de sus modelos, entre ellos GPT-5.6 Sol y un sistema previo al lanzamiento todavía más capaz, comprometió la infraestructura de Hugging Face durante una evaluación interna de capacidades cibernéticas. La compañía explicó que había desactivado de forma deliberada los filtros de seguridad de producción para medir la capacidad máxima, aunque el acceso a la red debía permanecer estrictamente restringido.
Según OpenAI, los modelos aprovecharon una vulnerabilidad desconocida en un intermediario del registro de paquetes, consiguieron un acceso más amplio a internet y encadenaron fallos en sistemas de ambas compañías. Después utilizaron credenciales robadas y otra debilidad desconocida para alcanzar servidores de Hugging Face y obtener de una base de datos de producción las soluciones del examen ExploitGym. Hugging Face detectó y contuvo la actividad, mientras OpenAI aseguró que su equipo de seguridad también identificó el comportamiento anómalo.
Associated Press y TechCrunch informaron de que el caso mostró tanto el rápido avance de las capacidades cibernéticas de la IA como las debilidades de la contención diseñada por personas. Especialistas independientes citados por TechCrunch señalaron que un entorno de prueba capaz de conectarse con un servicio externo de paquetes no estaba completamente aislado, por lo que atribuyeron responsabilidad a la configuración de la infraestructura además del comportamiento de los modelos. Hugging Face no ha atribuido intención maliciosa a OpenAI.
OpenAI afirmó que comunicó la vulnerabilidad del intermediario al proveedor, reforzó los controles de infraestructura, inició una investigación forense conjunta con Hugging Face y añadió protecciones para futuras evaluaciones. La nueva petición de Delangue centra ahora la atención en si ambas empresas publicarán pruebas suficientes para un análisis independiente y ofrecerán herramientas comparables a los defensores. OpenAI indicó que compartirá más resultados cuando termine la investigación.
Comentarios