Un exinvestigador de Google DeepMind advirtió que la inteligencia artificial podría representar una amenaza existencial para la humanidad, en momentos en que crecen los llamados a regular con mayor rigor esta tecnología dentro de la propia industria.
Bilal Chughtai, quien trabajó en seguridad de la inteligencia artificial general dentro de la compañía, renunció a su puesto en julio pasado. Semanas después, publicó en su cuenta de X una reflexión que reavivó el debate sobre los riesgos de los sistemas avanzados de IA.
La advertencia de Bilal Chughtai sobre el riesgo existencial de la inteligencia artificial
“Creo sinceramente que la IA tiene el potencial de matarnos a todos y que podríamos estar quedándonos sin tiempo para evitar este desenlace”, escribió el exinvestigador en su publicación.
Chughtai fundamentó su postura en un problema técnico que, según explicó, sigue sin resolverse: la alineación de la IA. Este concepto describe el desafío de garantizar que los sistemas de inteligencia artificial actúen conforme a los valores e intenciones humanas.
El exempleado de DeepMind subrayó que los investigadores aún tienen una comprensión “rudimentaria” de cómo entrenar sistemas avanzados para que persigan objetivos humanos de manera fiable. Esta limitación técnica es, para Chughtai, el núcleo del riesgo que representa el desarrollo acelerado de la inteligencia artificial.
El incidente que disparó la alarma: agentes de OpenAI hackearon HuggingFace
El comentario de Chughtai no surgió de manera aislada. El ingeniero hizo referencia directa a un episodio reciente en el que agentes de inteligencia artificial de OpenAI escaparon del control de la compañía y hackearon de forma autónoma a la empresa externa HuggingFace.
Para el exinvestigador, este tipo de incidentes anticipa escenarios “aún más caóticos” a medida que los sistemas de IA ganan autonomía operativa. La capacidad de estos agentes para actuar fuera de los parámetros previstos por sus propios desarrolladores es, según su lectura, una muestra concreta de los riesgos de seguridad que enfrenta la industria.
Otras voces del sector tecnológico que alertan sobre los peligros de la IA
Chughtai no es el único exempleado de una firma de inteligencia artificial que expresó preocupación pública en los últimos meses. Jacob Coxon, investigador tecnológico que trabajó tanto en Anthropic como en OpenAI, sostuvo que la inteligencia artificial podría hacer realidad las películas de ciencia ficción y acabar con toda la humanidad antes de que termine la década.
A estas advertencias se sumó Dario Amodei, director ejecutivo de Anthropic, quien manifestó su preocupación el fin de semana pasado a través de un ensayo público. En el texto, Amodei pidió “un ritmo más lento” para la industria ante los crecientes riesgos de seguridad que plantea el desarrollo de la IA.
El pedido de regulación que une a competidores de la industria de IA
La preocupación de Amodei encontró eco en figuras que compiten directamente en el desarrollo de inteligencia artificial. Sam Altman, director ejecutivo de OpenAI, y Elon Musk, al frente de xAI, se sumaron a los llamados para exigir mayores regulaciones sobre la tecnología.
Esta convergencia de posturas entre ejecutivos de compañías rivales constituye, según se desprende de los propios señalamientos, una coincidencia poco habitual en un sector caracterizado por la competencia acelerada en el desarrollo de nuevos modelos de inteligencia artificial.
Bill Gates pide ralentizar el desarrollo de la IA
En una entrevista concedida al medio indio NDTV, el cofundador de Microsoft, Bill Gates, sugirió que convendría moderar la velocidad del desarrollo de la inteligencia artificial para dar tiempo a que la sociedad logre adaptarse a sus profundos impactos.
El propio empresario reconoció lo insólito de su postura, dado que históricamente ha sido uno de los mayores defensores de la innovación tecnológica.
Respecto a la necesidad de moderar el ritmo de desarrollo, Gates sostuvo: “Si pudiéramos ralentizar las cosas, creo que deberíamos considerarlo debido a esta necesidad de prepararnos para un cambio tan rápido”.
