La posibilidad de que los sistemas de inteligencia artificial alcancen capacidades que sus creadores no puedan comprender ni controlar generó una fuerte discusión dentro de la industria tecnológica esta semana después de que Jacob Coxon, exempleado de OpenAI y Anthropic, declarara que la IA podría matarnos a todos a finales de esta década.
Evan Hubinger, exjefe de Coxon y actual investigador en Anthropic, respaldó públicamente parte de sus afirmaciones y reconoció que todavía no existe un plan para garantizar que una futura superinteligencia actúe de acuerdo con los objetivos humanos.
Esta secuencia expuso una discusión que atraviesa a toda la industria: los sistemas avanzan con rapidez y sus propios desarrolladores admiten que todavía no saben cómo controlar todas las capacidades que podrían adquirir.
Ahora, el tema escaló y la pregunta que preocupa no solo al ecosistema tecnológico, sino a toda la sociedad, es qué tan realistas son estas advertencias. “Yo creo que estos avisos deben ser tomados en serio, principalmente porque provienen de personas que participaron directamente en el desarrollo de estos modelos y conocen el funcionamiento interno de las compañías”, expresó a TN Tecno Facundo Díaz, especialista en inteligencia artificial y fundador de la empresa de computación cuántica /q99.
En la misma línea, Michael Raynolds, experto en inteligencia artificial y analista en política tecnológica con una trayectoria en startups en Estados Unidos, con quien TN Tecno conversó sobre este tema, aseguró que, a pesar de que las preocupaciones en el sector son reales, se debe tener cuidado con la forma en que se habla de estos riesgos: “Hoy no estamos 100% seguros de si la IA llegará a ser peligrosa o se nos escapará de las manos. Pero lo que sí sabemos es que estos sistemas cada día ganan capacidad, a un ritmo vertiginoso, y a veces, se comportan de formas que no habíamos previsto. Yo no entraría en pánico, por ahora, pero tampoco ignoraría las advertencias”.
Por su parte, Anupam Singh, especialista en IA en Roblox, limitó su opinión al uso de la inteligencia artificial dentro de la plataforma y, en particular, a la creación de videojuegos: “Todo el mundo está hablando de esto esta semana. Leo mucho sobre el tema y creo que en este momento hay mucho intento de generar titulares”, afirmó a TN Tecno. Desde su experiencia cotidiana con estas herramientas, Singh no observa un riesgo inmediato en ese ámbito y puso el foco en el trabajo necesario para incorporar la tecnología de manera segura: “Trabajo con inteligencia artificial todos los días. En la creación de juegos, no veo un peligro. Veo que va a haber mucho trabajo por hacer. Por eso invertimos en seguridad de la IA desde hace casi una década, incluso desde antes de la expansión de la inteligencia artificial generativa”, señaló.
Qué podría pasar si una IA hace algo que sus creadores no esperaban
Para Facundo Díaz, el peligro va más allá de que una inteligencia artificial desarrolle una intención o una voluntad propia. “La IA no es buena ni mala y definitivamente no tiene la intención de destruirnos, de hecho, no tiene ninguna intención”, afirmó. Pero existen escenarios concretos en los que sus capacidades podrían causar daños por el uso que les dé una persona o por la forma imprevista en que el sistema resuelva una tarea: “El primero es una IA potente en malas manos, con malas intenciones”, explicó. Y mencionó como ejemplo la posibilidad de utilizar estas herramientas con fines bioquímicos o bélicos, dos ámbitos en los que un modelo avanzado podría ampliar las capacidades de actores maliciosos.
El segundo escenario aparece cuando la propia IA encuentra una solución que sus creadores no habían previsto. En ese caso, el sistema podría cumplir el objetivo asignado y causar consecuencias graves durante el proceso. “Una IA, tratando de resolver algo que se le pidió, puede llegar a un camino que podría ser devastador para la humanidad. Eso depende mucho del poder que tenga y de lo que esté controlando”, señaló.
En ese sentido, Raynolds comentó algo similar. Los primeros problemas que podrían llegar a aparecer serían menos espectaculares que supuestos escenarios de ciencia ficción, pero con consecuencias concretas: “Claro que sí. Una IA podría tomar decisiones que no entendemos, exponer información privada o encontrar maneras de sortear restricciones”, explicó.
Luego, el nivel de riesgo dependerá en gran medida de los recursos que el sistema pueda utilizar y los peligros podrían volverse mucho más serios si se conectan herramientas de IA con sistemas financieros, redes informáticas o infraestructura del mundo real.
¿Las empresas deberían desacelerar el desarrollo de la inteligencia artificial?
La velocidad con la que avanza la tecnología es otro de los puntos que preocupa a los especialistas. Los principales laboratorios compiten por desarrollar modelos cada vez más capaces, mientras las herramientas destinadas a evaluar y controlar su comportamiento intentan seguir ese mismo ritmo.
Para Raynolds, cuyo trabajo consiste en asesorar a empresas en el cumplimiento de regulaciones tecnológicas, la discusión debería enfocarse en si las medidas de seguridad progresan a la misma velocidad que las capacidades de los sistemas. “Yo creo que la pregunta es si la industria está avanzando al mismo ritmo que la tecnología o no. Para explicarme mejor: deberíamos preguntarnos si las empresas pueden construir una IA más poderosa más rápido de lo que pueden entenderla y controlarla. En ese caso, entonces desacelerar puede tener sentido”, explicó.
En ese aspecto, el experto señaló que cualquier reducción unilateral tendría un alcance limitado debido a la competencia entre compañías y países, porque si una compañía se detiene, eso no significa necesariamente que todas las demás vayan a hacerlo también.
Díaz identificó una dificultad similar. Desde su experiencia como emprendedor, sostuvo que la intención de llegar primero y superar a los competidores puede llevar a los responsables de una compañía a minimizar las posibles consecuencias de sus desarrollos: “Ves que podés hacer cosas con la tecnología que son transformadoras. Ves que la competencia lo está haciendo, querés llegar primero, querés marcar la cancha”, expresó.
La competencia señalada por ambos especialistas también apareció en la respuesta institucional que Anthropic publicó esta semana. La empresa sostuvo que el sector necesita mecanismos comunes para evitar que una compañía quede en desventaja si decide adoptar controles más estrictos o demorar el lanzamiento de un modelo.
Qué controles podrían reducir los riesgos de la IA
Raynolds planteó que una parte de la respuesta debe concentrarse en las evaluaciones que se hacen antes de que los modelos más avanzados sean lanzados. Estas pruebas tienen especial importancia en casos de modelos con autonomía para usar herramientas, navegar por internet o interactuar con sistemas externos.
Pero también reclamó mayor participación de especialistas externos y obligaciones claras para informar incidentes y señaló que los organismos públicos necesitan equipos técnicos capaces de comprender el funcionamiento de los modelos que deben supervisar.
En ese sentido, Díaz expresó: “No soy fan de la regulación, creo que suele frenar más la innovación que otra cosa, pero entiendo que hay que tomar ciertos recaudos o asegurar ciertos límites.
Sobre los límites, Raynolds cree que tienen que orientarse a evitar que los sistemas sean desplegados antes de que existan mecanismos suficientes para controlarlos o que sean más poderosos que nuestra capacidad para manejarlos.
Las declaraciones de Coxon y Hubinger dejaron en evidencia que ni siquiera los propios creadores de los sistemas de IA, ni los investigadores que trabajan en los principales laboratorios, pueden asegurar cómo se comportarían sistemas mucho más avanzados que los actuales.
Esa incertidumbre plantea dos preguntas decisivas, que por ahora no tienen solución: hasta dónde llegará esta tecnología, y si podremos reconocer a tiempo las primeras señales de que comienza a escaparse de nuestro control. Al ritmo al que evolucionan los sistemas de IA, no falta mucho para que tengamos la respuesta.
