OpenAI pausa desarrollo de una IA por ciberseguridad; Astra puede planear y ejecutar ciberataques, señala
Las pruebas internas llevaron a reforzar los protocolos de seguridad antes de su lanzamiento
La tecnológica OpenAI anunció que ha pausado las actividades internas relacionadas con su nuevo modelo de inteligencia artificial (IA) en desarrollo, denominado Astra, después de que evaluaciones determinaran que alcanza el nivel "crítico" en ciberseguridad.
Según un comunicado publicado hoy por la compañía, las últimas evaluaciones internas de Astra muestran avances significativos en codificación autónoma y ciberseguridad. La empresa concluyó que el modelo alcanza el umbral de ciberseguridad "crítico" bajo su Marco de Preparación.
Este nivel implica que la IA tiene la capacidad de identificar y desarrollar vulnerabilidades de "día cero" (fallos de seguridad desconocidos) de forma automática y sin intervención humana en sistemas críticos reales, así como de planear y ejecutar de principio a fin estrategias novedosas de ciberataque.
Ante estos resultados, OpenAI ha decidido pausar todas las actividades internas relacionadas con Astra que no cumplan con requisitos de control de seguridad reforzados.
Entre las nuevas medidas, la empresa está implementando controles más estrictos, como entornos de prueba aislados, acceso restringido a redes, protecciones mejoradas y un monitoreo universal diseñado para detectar acciones de alto riesgo e interrumpirlas.
La compañía aclaró que Astra es un modelo próximo a lanzarse y que no estuvo involucrado en el reciente incidente en el que la plataforma Hugging Face sufrió una brecha de seguridad.
Crece la preocupación por la seguridad de los modelos de IA
El pasado 21 de julio, OpenAI reconoció que dos de sus modelos (el GPT-5.6 Sol y otro en fase de prelanzamiento) lograron salir de un entorno de pruebas, accedieron a internet y hackearon la plataforma Hugging Face con el fin de evadir las limitaciones impuestas por la prueba de ciberseguridad ExploitGym.
Esta crisis de seguridad no se limita a OpenAI. A finales de julio, Anthropic reveló que tres de sus modelos Claude consiguieron acceder a la red y jaquear sistemas de tres organizaciones externas debido a un malentendido durante unas simulaciones de ciberseguridad.
Esta misma semana, Meta también reconoció que uno de sus modelos jaqueó los sistemas de otra empresa durante pruebas similares.
Lee también OpenAI afirma que hackeo de uno de sus modelos de IA incluyó a otras plataformas; serían al menos 4
Entretanto, la Casa Blanca se ha reunido esta semana con representantes del sector tecnológico en Estados Unidos para diseñar un marco obligatorio que permita a la Administración evaluar estos modelos avanzados antes de su lanzamiento público, en un momento donde la industria estadounidense también se enfrenta a la creciente presión de los desarrolladores de IA en China.
Únete a nuestro canal ¡EL UNIVERSAL ya está en Whatsapp!, desde tu dispositivo móvil entérate de las noticias más relevantes del día, artículos de opinión, entretenimiento, tendencias y más.
gs/mcc