Un exintegrante de DeepMind, la división de Google especializada en inteligencia artificial, advirtió que esas tecnologías podrían “matarnos a todos” en los próximos años, al conseguir capacidades que superarán con creces a las humanas.
Los comentarios de Bilal Chughtai, que recientemente renunció a su cargo en la compañía estadounidense, se suman a las alertas que se encendieron en la escena tecnológica en particular y en la sociedad en general, luego de que un exinvestigador de OpenAI y Anthropic compartiera predicciones similares.
“Las empresas que desarrollan IA creen que (esos sistemas) nos matarán en la próxima década”, fue la sentencia más resonante de Jacob Coxon, quien en pocas jornadas se convirtió en el vocero de las preocupaciones por el avance irrestricto de los agentes automatizados.
Aunque vaticinios como los de Coxon y Chughtai circularon previamente, incluso en boca de expertos de renombre y ejecutivo de alto rango, el debate en torno al creciente poder de la inteligencia artificial se agitó como nunca antes.
Los representantes de las principales compañías del sector salieron al ruedo a compartir su visión respecto a esta problemática, entre ellos Sam Altman de OpenAI y Dario Amodei de Anthropic; e incluso resonaron comentarios de figuras de la política como Donald Trump y Xi Jinping.
“La IA tiene potencial para matarnos”, dijo el exintegrante de Google DeepMind
“Creo sinceramente que la IA tiene el potencial de matarnos a todos y que podríamos estar quedándonos sin tiempo para evitar este desenlace”, escribió en las redes sociales Chughtai, que comenzó a trabajar en el sector en el año 2022 y que recientemente renunció al laboratorio de Google, donde se dedicó a la seguridad y alineación de la inteligencia artificial general.
“Es posible que las empresas de IA logren, en los próximos años, crear sistemas de IA superinteligentes que superen con creces las capacidades humanas en todos los ámbitos”, escribió en publicaciones en X y LinkedIn.
El investigador manifestó que no tiene seguridad respecto a que esas tecnologías serán fieles a las intenciones de los desarrolladores y señaló que las IAs desalineadas podrían salirse de control para concretar acciones que resultarían en la “pérdida permanente de poder o la muerte de la humanidad”.
“Nuestra comprensión actual sobre cómo entrenar sistemas de IA que deseen profundamente lo mismo que nosotros es extremadamente rudimentaria”, agregó.
“Debemos ajustar el ritmo de desarrollo de la IA”, dijo Chughtai
Tal como señala New York Post, el exintegrante de DeepMind contempló una luz de esperanza en medio del agitado debate. En este punto, dijo que aún es posible desarrollar inteligencia artificial en forma segura, aunque para ello es necesario que las empresas del sector pongan un freno a la “carrera frenética” en la que están inmersas.
“Debemos ajustar el ritmo de desarrollo de la IA a una velocidad que la sociedad pueda gestionar, permitiendo abordar los riesgos emergentes antes de que se produzcan daños extremos”, opinó.
Las consideraciones de Chughtai, sumadas a las de Coxon, tienen especial relevancia debido a que se trata de opiniones de insiders del sector, involucrados en el desarrollo y supervisión de estos avances. Por supuesto, también destacan en esta discusión los comentarios de los líderes de las organizaciones detrás de los principales sistemas.
Por su parte, Amodei de Anthropic, en el marco del evento Dreamforce 2026 que se celebra en San Francisco, dijo: “Teníamos una predicción sobre qué tan capaces serían los modelos de IA, pero lo que no dimensionamos fue la velocidad con la que se volverían centrales para todo lo que ocurre en el mundo”. El CEO del grupo detrás de Claude señaló, además, que hoy solo aprovechamos entre el 5% y el 10% del valor potencial de la IA.
En el mismo encuentro, Altman reconoció: “Creo que el mundo tiene razón en tener miedo”. El cofundador y actual CEO de OpenAI concluyó: “Creo que la gente también percibe la velocidad con la que todo avanza. Casos como el accidente de Hugging Face y otros incidentes en el sector hacen que ya no se necesite tanta imaginación como antes para pensar cómo esto podría salir mal”.
