Anthropic detectó una célula vinculada al norte de Yemen que utilizaba Claude para desarrollar sistemas de guiado y navegación de armas. El caso se suma a las advertencias sobre los riesgos de una inteligencia artificial cada vez más autónoma y difícil de controlar.
La discusión sobre los riesgos de la inteligencia artificial dejó de estar limitada a escenarios hipotéticos. Un informe de Anthropic reveló que una célula de actores maliciosos con base en el norte de Yemen utilizó su modelo de inteligencia artificial, Claude, para avanzar en el desarrollo de distintos tipos de armamento.
Según explicó la compañía, la organización llevaba adelante tres programas de desarrollo de armas y recurrió a Claude para reemplazar a un equipo de ingenieros especializados en software de guiado, navegación y control.
Entre los proyectos identificados había un cohete guiado mediante un calculador de vuelo tipo smartphone y con capacidad de autoguiado, un misil balístico con un alcance previsto superior a los 2.000 kilómetros y un proyectil equipado con un sistema descrito como un tipo de planeador hipersónico.
Anthropic aseguró que bloqueó las cuentas utilizadas en cuanto detectó las actividades ilegales y que compartió información sobre el caso con el objetivo de reducir los riesgos asociados a los responsables.
La IA y el problema del control
El episodio adquiere especial relevancia en medio de una discusión cada vez más intensa dentro de la propia industria tecnológica. Investigadores que trabajaron en empresas como Anthropic, Google DeepMind y OpenAI vienen expresando preocupación por la velocidad con la que avanzan los modelos de inteligencia artificial y por las dificultades para garantizar que sus capacidades permanezcan bajo control.
Uno de los casos recientes es el de Jacob Coxon, quien trabajó en OpenAI y posteriormente en Anthropic. Tras abandonar la compañía, cuestionó la carrera de los grandes laboratorios por desarrollar sistemas cada vez más avanzados.
El investigador advirtió sobre un escenario en el que las capacidades de los modelos podrían superar las herramientas disponibles para garantizar su seguridad. La preocupación está relacionada con la posibilidad de que sistemas cada vez más autónomos puedan realizar tareas complejas con una supervisión humana limitada.
También Evan Hubinger, investigador de Anthropic especializado en seguridad y alineamiento de inteligencia artificial, ha señalado los riesgos que podría implicar el desarrollo de sistemas cada vez más capaces.
Hubinger incluso estimó que existe más de un 10% de probabilidad de que una futura inteligencia artificial provoque una catástrofe existencial durante la próxima década. Se trata de una valoración personal sobre escenarios futuros y no de una predicción acerca de los sistemas que utilizan actualmente los usuarios.
Un caso concreto de uso militar
El caso revelado por Anthropic agrega una dimensión concreta a esas advertencias. De acuerdo con la compañía, Claude fue utilizado como una herramienta para acelerar tareas que normalmente requerirían conocimientos técnicos especializados.
La posibilidad de que una herramienta de inteligencia artificial pueda asistir en áreas como programación, navegación o sistemas de control plantea un desafío para las empresas que desarrollan estos modelos. Se trata de impedir que sus capacidades sean utilizadas para facilitar actividades que pueden tener consecuencias materiales.
Anthropic sostuvo que actuó contra las cuentas involucradas y comunicó la información relevante para contribuir a reducir los riesgos. El episodio muestra, al mismo tiempo, las dificultades que enfrentan las compañías para detectar y frenar usos indebidos una vez que sus modelos se encuentran disponibles.
Qué pasó en Yemen
El episodio ocurre además en un contexto de creciente tensión en Yemen. El país volvió a sumirse en la guerra en julio, después de más de cuatro años de tregua entre los hutíes y el gobierno yemenita, respaldado por Arabia Saudita.
Este viernes, los hutíes tomaron una isla considerada de alto valor estratégico en el estrecho de Bab el Mandeb, un punto clave para las rutas marítimas internacionales que conecta el océano Índico con el mar Rojo.
El contexto militar vuelve especialmente sensible cualquier información relacionada con el desarrollo de nuevas capacidades armamentísticas y con el uso de herramientas de inteligencia artificial para ese propósito.
La entrada ¿Hasta dónde llega la IA? Usaron inteligencia artificial para desarrollar misiles y sistemas de armas se publicó primero en El Resaltador.
