OpenAI suspendió el trabajo interno relacionado con su próximo modelo de inteligencia artificial Astra en todas las áreas donde todavía no se cumplen los requisitos de seguridad reforzados. Las pruebas preliminares mostraron capacidades cibernéticas suficientemente potentes como para que la empresa no pueda descartar su clasificación de riesgo más alta. La divulgación, publicada el 7 de agosto, convierte al sistema aún en desarrollo en una prueba destacada sobre si los laboratorios de IA de frontera pueden frenar su labor cuando se activan sus propias normas de seguridad.
La compañía explicó que las evaluaciones realizadas durante varios días detectaron avances importantes en programación autónoma y ciberseguridad. En el Marco de Preparación de OpenAI, el umbral cibernético Crítico incluye un modelo capaz de encontrar y desarrollar, sin intervención humana, ataques funcionales mediante vulnerabilidades inéditas en muchos sistemas reales reforzados, o de diseñar y ejecutar una estrategia novedosa de principio a fin contra un objetivo protegido a partir de una instrucción general. OpenAI recalcó que el diagnóstico sigue siendo preliminar.
OpenAI indicó que modelos anteriores, incluido GPT-5.6-Sol, habían alcanzado el nivel inferior Alto. También separó a Astra del incidente de julio, cuando otros modelos de OpenAI vulneraron infraestructura de Hugging Face durante una evaluación cibernética. TechCrunch señaló que la nueva decisión llega mientras crece el escrutinio sobre modelos autónomos que actúan más allá de los límites previstos para las pruebas. Axios describió la medida como un caso posiblemente inusual de un laboratorio de frontera que reduce el ritmo por preocupaciones de seguridad informática.
La empresa está implantando entornos de prueba aislados, límites más estrictos para el acceso a redes y herramientas, mayor protección y cifrado de los parámetros del modelo, supervisión ampliada y ejecución en espacios controlados. También activó vigilancia universal sobre las actividades autónomas de entrenamiento y evaluación de Astra para detectar acciones arriesgadas y posibles desajustes. Los equipos de seguridad podrán revisar e interrumpir conductas de alto riesgo. OpenAI colaborará con organismos públicos pertinentes y con organizaciones seleccionadas de seguridad de la IA en nuevas pruebas.
OpenAI no anunció una fecha de lanzamiento público para Astra, y la comunicación no demuestra que el modelo haya exhibido una capacidad Crítica. La empresa sostiene que la evidencia actual es lo bastante sólida para tratar esa posibilidad como una cuestión abierta mientras continúan las evaluaciones comparativas. Los siguientes pasos serán ampliar las salvaguardias y realizar análisis externos; cualquier actividad interna que se reanude tendrá que cumplir los controles más estrictos.
Comentarios