El avance irrestricto de la inteligencia artificial recibe críticas, pero es posible que ninguna de las que oímos hasta ahora hayan sido tan contundentes como las de Jacob Coxon, un investigador que trabajó en OpenAI y que recientemente renunció a su cargo en Anthropic.
A pocos días de apartarse de la compañía que desarrolla el chatbot Claude, el especialista publicó una serie de tuits explosivos en los que echó luz sobre los riesgos asociados a esas tecnologías. “Las personas que están creando inteligencia artificial piensan que (esos sistemas) podrían matarnos a todos para finales de esta década”, escribió.
Coxon, de origen británico, trabajó tres años en OpenAI antes de sumarse a los equipos de Anthropic. En ambas compañías se dedicó al preentrenamiento de los modelos de IA. Por eso, sus señalamientos ganan visibilidad: no es un crítico externo, sino un insider.
“Pronto serán sistemas sobrehumanos”, alertó Coxon
Luego de apartarse de Anthropic —compañía que recientemente superó en ingresos a la reconocida OpenAI dirigida por Sam Altman—, Coxon instó a no subestimar el poder de la inteligencia artificial. “Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana, adquirir poder y recursos reales”, aseguró. “Ese proceso no desacelerará”, agregó el investigador de 27 años.
Respecto a su frase más alarmista, aquello de que la IA acabará matándonos, señaló: “Muchos ejecutivos e investigadores moderarán su lenguaje para sonar sensatos, pero escucho a las mismas personas expresar miedo en privado. Ninguna otra actividad humana representa este nivel de riesgo”.
El exjefe de Coxon respaldó sus advertencias: “Realmente creemos que la IA nos matará”
En sus comentarios categóricos, el exintegrante de OpenAI y Anthropic opinó que “ninguna de las dos compañías actúa de manera responsable”. En este marco, era esperable que representantes de aquellas organizaciones salgan al ruedo a rebatir las aseveraciones de Coxon o, al menos, a minimizarlas.
Sin embargo, Evan Hubinger, que fue su jefe en el grupo a cargo del chatbot Claude, se sumó al hilo de tuits en X, apoyándolo.
“Jacob tiene razón. Realmente creemos con sinceridad que la IA podría matar a todos los humanos”, escribió. Hubiner añadió que considera que esa posibilidad es menor al 10% y pronto respaldó parcialmente los planes de la empresa en la que trabaja.
“Creo que Anthropic está haciendo lo mejor que puede, pero aún no tenemos un plan para resolver el alineamiento para la superinteligencia y no estamos claramente en camino de lograrlo”, reconoció.
En su perfil en la red social X, Hubinger señala que es líder de alineación en Anthropic, pero que sus opiniones son personales. Además, indica que anteriormente fue parte de compañías con participación en el negocio de la IA, entre ellas Google y OpenAI.
Los temores por el avance de la IA, en contexto
Coxon señaló que los popes en el negocio de la inteligencia artificial están inmersos en una “carrera por llegar primero” y notó que ese apremio es una de las variables que intensifica los riesgos.
Estos comentarios circulan luego de que agentes de IA desarrollados por las firmas en las que trabajó el investigador británico se rebelaran y, en algunos casos, atacaran a plataformas de terceros, escapando de la supervisión humana. Uno de los casos más resonantes tuvo como protagonistas a sistemas de OpenAI, que por cuenta propia vulneraron a servicio Hugging Face.
Además, esta misma semana Google reconoció que, en un experimento, agentes basados en Gemini hicieron trampa para resolver problemas matemáticos, confabulando entre sí en conversaciones vertidas en un foro.
A la luz de esos incidentes y otros similares, las advertencias de Coxon ganan visibilidad. Refiriéndose a las organizaciones en las que trabajó, arrojó una conclusión potente: “Están corriendo hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas”, cerró.
