Anthony Albanese es un nombre que es normal que no nos suene demasiado porque, realmente, la política de Oceanía es algo que nos queda lejos. Sin embargo, resulta que es el Primer Ministro australiano y acaba de convertirse en noticia al denunciar que una IA ha pirateado una web gubernamental.
Esa IA es un agente de OpenAI, y ha tenido acceso sin autorización a datos no confidenciales del sistema público de salud de Australia. Lo preocupante es que ya ni sorprende.
En corto. Como exponen en el diario australiano The Age, Albanese ha salido a la palestra para denunciar que un agente de inteligencia artificial de la estadounidense OpenAI irrumpió en una base de datos de Medicare y, además, en al menos otros tres sistemas gubernamentales.
El primer ministro se refirió a la situación como "obviamente inaceptable", a la vez que intentaba mandar un mensaje de tranquilidad afirmando que "no se accedió a los datos médicos de los ciudadanos", pero apuntando que ahora necesitan salvaguardas "para proteger nuestro estilo de vida". Es un mensaje que apoya el ministro de Defensa, asegurando que el portal violado no tenía datos médicos individuales, datos bancarios o historiales de los ciudadanos.
El Gobierno de EEUU no se cree el relato de OpenAI: si una IA "descontrolada" comete un crimen, el responsable será su empresa
Calendario. En este caso hay indignación por partida doble. Primero por ver cómo un agente extranjero se infiltra así en una de tus bases de datos, pero segundo por los tiempos. Porque esta información se hace pública hoy, pero OpenAI se dio cuenta de ello en agosto y no fue hasta el 10 de septiembre cuando avisaron al gobierno australiano. En The Age exponen el siguiente calendario:
- 18 de junio - el agente de OpenAI viola el portal del Servicio de Informes de Estadísticas de Medicare y otros tres sitios webs del Gobierno, de los que sólo puede hacerse con información disponible públicamente.
- Agosto - OpenAI se da cuenta de la violación y comienza a investigar.
- Primera semana de septiembre - El ministro de Defensa australiano se reúne con Sam Altman, pero nadie le informa de la situación.
- 10 de septiembre - OpenAI informa a los servicios de seguridad de Australia.
- 15 de septiembre - Tras la investigación, el servicio de seguridad informa al Centro de Seguridad Cibernética de Australia.
- 17 de septiembre - El Gobierno es informado.
- 23 de septiembre - Albanese lo hace público y manda un mensaje de "extrema preocupación" a Sam Altman.
Llamada de atención. Desde el equipo de ciberseguridad del gobierno de Australia se han tomado esto con indignación, pero también como "una llamada de atención". Alastair MacGibbon es el jefe de ciberseguridad y señala que "no hubo malicia y golpeó un sistema que no era crítico". Asimismo, describen el incidente como una llamada de atención que demuestra que las defensas cibernéticas de Australia no son las adecuadas y que hay que introducir más financiación en el Instituto de Seguridad de la IA para prevenir ataques que, esta vez sí, puedan ser malintencionados.
MacGibbon continúa afirmando que es algo que demuestra que Australia debe ser atractiva para los mejores laboratorios de inteligencia artificial de frontera para poder entrenar modelos de vanguardia e ingenieros que tengan herramientas de cara a evitar que "un grupo criminal o un estado hostil como China usen un agente para causar daño". Desde el ministerio de Economía Digital reman en la misma dirección, afirmando que es algo que demuestra "claramente que nuestros sistemas no son robustos". Porque, además, no es la primera vez que tienen brechas importantes.
"OpenAI ha mostrado una profunda falta de respeto al gobierno australiano" - David Shoebridge, senador australiano
En el peor momento. Todo esto se ha hecho público justo cuando, precisamente, Australia está en conversaciones con OpenAI y Anthropic para convertirse en el primer país al margen de Estados Unidos en el que las dos empresas entrenen sus modelos.
Y, al margen del lío político y lo que puede suponer para las negociaciones con las dos startups, la información del hackeo también se produce cuando el propio gobierno quiere convencer a los votantes de los beneficios económicos y de seguridad de la inversión en IA.
Ay, mecachis. ¿Qué dice OpenAI de todo esto? Pues que el bot estaba simplemente llevando a cabo un proyecto de investigación y sólo vio datos del Servicio de Informes de Estadísticas de Medicare que estaban en un sitio web utilizado principalmente por académicos. Desde la empresa afirman que, en el curso de estas pruebas rutinarias, "los modelos toman medidas inesperadas" en un nuevo ejemplo de echar balones fuera responsabilizando a la tecnología.
En BBC podemos leer que la IA no tiene malas intenciones y que simplemente el modelo "intentaba buscar respuestas y estadísticas disponibles para responder preguntas sobre Australia en el proceso de una evaluación interna. Durante el mismo, los modelos realizaron acciones que no habíamos previsto"
Como decía hace unas líneas, el caso australiano no es el primero y, de hecho, recientemente una revisión de Transluce (confirmado posteriormente por OpenAI) descubrió que algunos de sus agentes piratearon la biblioteca digital de la universidad de Nuevo México y se colaron en una base de datos estadounidense en la que hay información sobre empleo. El caso más grave fue cuando otro modelo descontrolado se coló de forma furtiva en los sistemas de Hugging Face este verano.
Meta quiere que llevemos su agente de IA siempre encima, así que ha creado un Tamagotchi
Volviendo al tema australiano, la oposición no es tan políticamente correcta y ha lanzado un dardo doble. Por un lado, el líder de la oposición, asegura que Australia debería haber tenido ya acceso a los mejores modelos posibles para fortalecer las defensas cibernéticas. Por otro, el senador de los Verdes afirmó que Estados Unidos es cada vez más un país rebelde que piensa que su ejército, su industria de IA y su comercio puede utilizarse contra el resto del mundo".
También comentó que "OpenAI ha mostrado una profunda falta de respeto al gobierno australiano", criticando que, aún con todo, los dirigentes se plegarán a lo necesario para atraer a la empresa de Sam Altman. Y, aunque el tono de OpenAI haga parecer que es una chiquillada y el de Albanese parezca una bronca de padre decepcionado, según BBC se trata del primer ataque de un modelo de IA a una web gubernamental. Eso ya suena más serio.
En Xataka | "Lo único que hacemos es pulsar Enter": La IA prometía liberar a los programadores, pero les está quitando la ilusión por trabajar
