OpenAI ha confirmado sus planes para lanzar próximamente su modelo más avanzado, Astra, aunque lo hará de manera limitada y con fines defensivos tras reforzar su entrenamiento para minimizar el riesgo de daños cibernéticos graves.
En el marco del incidente de ciberseguridad de Hugging Face, OpenAI desveló que estaba desarrollando Astra, un modelo que no tuvo nada que ver con dicho 'hackeo', pero que por las consecuencias que tuvo y la investigación que se inició, acabó pausado temporalmente.
El objetivo era ajustar el nuevo modelo a los estándares de seguridad de su marco de evaluación interno, tras alcanzr un umbral crítico en ciberseguridad. En este tiempo, también se le ha incorporado el aprendizaje que deja el incidente de Hugging Face.
Ahora, el laboratorio de inteligencia artificial cree que "las medidas de seguridad de Astra minimizan suficientemente el riesgo de daños graves para su liberación" en base a su Marco de Preparación. Ello les permite pensar en lanzarlo próximamente, aunque primero para un grupo de evaluadores y posteriormente a través del programa de defensa Daybreak Blue, lo que significa que no se pondrá en manos del público general.
Astra es un modelo capaz de identificar y desarrollar vulnerabilidades de día cero funcionales de todos los niveles de gravedad, así como de diseñar y ejecutar estrategias novedosas de principio a fin para ciberataques.
Según OpenAI, "representa un aumento significativo en las capacidades de ciberseguridad en comparación con GPT-5.6 Sol", lo que se traduce en que "es significativamente más eficiente en el uso de tokens y más capaz en la identificación de vulnerabilidades y el desarrollo de exploits", como indica en un comunicado.
Las medidas de seguridad implementadas han reforzado la alineación de Astra, que muestra un mayor respeto por las restricciones explícitas de seguridad que GPT-5.6 Sol, manteniendo su actuación a su ámbito autorizado. El objetivo es que los agentes que impulse no actúen por su cuenta, como ocurrió en el incidente de Hugging Face.
También se han implementado medidas de control, con las que se pretende reducir el abuso cibernetico, es decir, que pueda ser explotado por actores maliciosos para desarrollar exploits o llevar ataques de extremo a extremo.
