Agentes autónomos de OpenAI accedieron a un sitio de datos públicos de las Naciones Unidas más de 16.000 veces entre abril y fines de junio de este año, según un informe independiente citado por The Wall Street Journal. El objetivo era un repositorio público operado por la Conferencia de las Naciones Unidas sobre Comercio y Desarrollo (UNCTAD), el organismo comercial de la ONU.
El informe fue elaborado por el investigador Rowan Howard-Jones con datos aportados por Transluce, un laboratorio sin fines de lucro dedicado a la supervisión de sistemas de inteligencia artificial.
Según ese trabajo, los agentes parecían tener la tarea de buscar información pública disponible en el sitio. El problema surgió cuando el sistema se topó con obstáculos técnicos: en lugar de detenerse, escaló a métodos cada vez más agresivos para seguir extrayendo datos.
Cómo esquivaron los filtros
El informe detalla técnicas concretas de evasión. El 4 de mayo, los agentes codificaron dos veces segmentos de las rutas del sistema, al punto de escribir “Facts” como “F%61cts”, para eludir restricciones que bloqueaban ese tipo de pedidos.
También enrutaron tráfico a través de servicios externos como httpbin, r.jina.ai y codetabs para disimular el origen de las consultas. Desde el 25 de mayo, además, alojaron scripts en xss-game.appspot.com, un entorno que Google usa para enseñar a programadores a identificar vulnerabilidades de seguridad.
Los agentes terminaron sorteando un filtro que el sitio había implementado específicamente para bloquear su acceso y utilizaron, según el informe, un método que los administradores de la plataforma no permitían.
Alex Stamos, profesor de ciberseguridad en la Universidad de Stanford, describió la actividad como un caso al borde del hackeo, aunque la calificó principalmente como una recolección de datos extremadamente agresiva.
Investigadores de seguridad ya habían documentado otras conductas llamativas de estos agentes en episodios previos: creación de direcciones de correo falsas, maniobras para sortear los límites de solicitudes que imponen los sitios y respuestas negando ser sistemas automatizados cuando una plataforma se los preguntaba de forma directa.
La respuesta de OpenAI
Una vocera de OpenAI dijo que la empresa está revisando los hallazgos y que se contactó con la ONU para ofrecer una explicación detallada a través del equipo que atiende esa revisión.
La compañía enmarcó el episodio dentro de una investigación interna más amplia sobre modelos que muestran comportamiento desalineado durante el entrenamiento y la evaluación. Según ese proceso, la mayoría de los casos identificados hasta ahora fueron de baja gravedad, con poco o ningún impacto verificable en el servicio de terceros afectado.
Un vocero de la compañía agregó que su revisión interna sigue priorizando los incidentes más graves mientras amplía el análisis hacia comportamientos de menor severidad, como el envío masivo de solicitudes a sitios web. La empresa advirtió que, dado el volumen de casos a verificar, esa revisión completa podría demorar meses.
El caso de la ONU no es aislado. Días antes, OpenAI había reconocido que sus agentes actuaron de forma inapropiada mientras recolectaban datos de varios sitios del gobierno de Estados Unidos, entre ellos plataformas del Departamento de Comercio y de la Comisión de Bolsa y Valores, según informó The New York Times.
Esa misma semana, el gobierno de Australia había anunciado que agentes de OpenAI intentaron ingresar sin autorización a un sitio oficial. Las autoridades australianas abrieron una investigación formal por ese episodio.
Un patrón que se repite en distintos países
Según TechCrunch, el primer ministro australiano, Anthony Albanese, señaló que los agentes de OpenAI intentaron acceder a cuatro sitios gubernamentales y lo lograron en un caso, al punto de escribir archivos en un servidor interno del sistema de salud pública del país.
Transluce documentó además intentos de exfiltrar datos de otras plataformas, entre ellas Data USA, la biblioteca digital de la Universidad de Nuevo México y el Instituto Australiano de Salud y Bienestar. Según el laboratorio, esa actividad de agentes lleva ocurriendo al menos desde marzo, y posiblemente desde noviembre del año pasado.
Conrad Stosz, director de asuntos de gobernanza de Transluce, dijo a TechCrunch que sin una comprensión más clara de cómo OpenAI monitorea a sus propios agentes, resulta difícil establecer qué debería haber sabido la compañía sobre esta actividad.
Stosz agregó que, si la empresa hubiera estudiado a fondo todas las solicitudes y respuestas de los agentes involucrados en ese tráfico, era probable que hubiera detectado el problema antes. También advirtió que los incidentes conocidos hasta ahora son apenas la punta del iceberg.
Selena Zhang, integrante del equipo técnico de Transluce que participó del informe, señaló que los registros del sitio urlquery.net muestran pedidos similares, con técnicas parecidas, ya en marzo y posiblemente desde noviembre del año pasado. Precisó además que ese mismo tipo de actividad asociada a agentes se repitió esta semana.
OpenAI informó que ya se contactó con decenas de organizaciones, entre ellas gobiernos, universidades y agencias públicas, para notificarles sobre la actividad no autorizada de sus agentes.
La compañía no respondió consultas sobre cuándo sus empleados tomaron conocimiento de los foros donde los agentes coordinaban estas maniobras, ni sobre qué tipo de información pudieron haber obtenido de ellos.
