En noviembre de 2023, la primera cumbre mundial sobre seguridad de la inteligencia artificial, celebrada en Bletchley Park, Inglaterra, puso el foco en las amenazas más graves imaginables que plantean los modelos de IA más potentes. Muchos consideraban entonces que se trataba de ciencia ficción y que los riesgos reales eran más mundanos, como la pérdida de empleos o el fraude en exámenes.
Tres años después, Dario Amodei, director de Anthropic, instó el pasado sábado a ralentizar el ritmo de desarrollo de la IA, y los líderes de dos empresas rivales, Sam Altman, de OpenAI, y Elon Musk, se mostraron de acuerdo.
El planteo se suma a otras voces de alarma dentro del propio sector. El investigador Jacob Coxon, que dejó Anthropic, declaró a la BBC que el personal encargado de desarrollar estos sistemas sentía un “miedo genuino” por el futuro de la humanidad. El conjunto conforma un coro de voces serias que abogan por una desaceleración, aunque la propuesta, lejos de ser una solución sencilla, enfrenta obstáculos prácticos y geopolíticos considerables.
La carrera de Estados Unidos contra China
Uno de los principales frenos a cualquier pausa es la competencia geopolítica. El presidente Donald Trump afirmó que Estados Unidos lleva ventaja sobre China en la carrera de la IA y sostuvo que “quien gane en IA será el vencedor”. China, por su parte, no muestra intención de quedar en segundo lugar.
El consenso entre observadores del sector es que, aunque una empresa decida frenar su desarrollo, las demás no lo harán, por lo que quien se detenga simplemente quedará rezagado. La dinámica recuerda al momento álgido de la campaña por el desarme nuclear, cuando el problema, igual que ahora, era que nadie quería dar el primer paso.
A esto se suma la pregunta de quién supervisaría una desaceleración de este tipo y si sería viable depender de que las empresas de IA fueran transparentes sobre lo que hacen y, sobre todo, sobre lo que deciden no hacer.
El plan de tres puntos de Amodei genera dudas
Amodei propuso en su publicación un esquema con tres elementos: supervisión independiente de los modelos de IA durante su desarrollo, y regulaciones tanto sectoriales como globales. Sin embargo, algunos observadores cuestionan su aplicación práctica. “Nadie ha dado una explicación sustancial de lo que significa ‘desaceleración’”, afirma Ed Zitron, director ejecutivo de EZ Primary Research, citado por la cadena británica.
“¿Colocar a un infiltrado de METR —donde se incorporó uno de los que dejaron Anthropic— en cada empresa de IA? ¿Una ‘coordinación’ democrática y global? Para mí, eso no significa nada”, sentencia.
Zitron advierte que detener el entrenamiento de modelos de IA dejaría a las empresas vulnerables frente a sus rivales chinos: “sus productos quedarán congelados en el tiempo y serán replicados por laboratorios chinos”. Según él, “esto podría hacer estallar la burbuja pero, por ahora, tenemos muy poca información sobre lo que implica exactamente una desaceleración”.
El peso económico de la IA complica cualquier freno
En Reino Unido, la IA es una pieza clave de la estrategia de crecimiento económico: se han anunciado planes para desplegarla a mayor escala dentro del NHS (Servicio Nacional de Salud) con el fin de mejorar la atención al paciente, y la tecnología impulsó la economía británica durante el verano. “No hay plan B”, comentó a la BBC un antiguo asesor gubernamental.
El sector consume enormes cantidades de dinero y recursos naturales sin generar, hasta la fecha, ingresos equivalentes. Numerosos informes sugieren que algunas empresas que adoptaron la tecnología se sienten decepcionadas con los resultados, y los economistas especulan con que no todos los gigantes actuales sobrevivan a una eventual “nivelación” del sector, es decir, el estallido de una burbuja.
Las que logren perdurar, sin embargo, podrían convertirse en las megacorporaciones más poderosas jamás conocidas, con los problemas que eso conlleva.
La decisión de OpenAI de frenar su salida a bolsa admite dos lecturas: un gesto de responsabilidad frente a la seguridad pública, o la maniobra de una empresa que advirtió que no obtendrá los beneficios esperados si su producto se percibe como peligroso.
Alexander Voica, de la empresa británica Synthesia, señala que “nadie puede predecir con certeza cómo evolucionará esta tecnología”. Y agrega: “Lo único que me preocupa de que nos apresuremos a regular ahora, cuando todavía hay muchas incógnitas, es que la medida pueda resultar contraproducente”.
La responsabilidad recae en las empresas
Para Sasha Luccioni, fundadora de Sustainable AI Group, el problema no son los riesgos existenciales de la IA sino “la codicia corporativa de las empresas que la están creando”. En la misma línea, la científica informática Wendy Hall, que asesoró a la ONU sobre IA, sostiene que la crisis actual se debe a que las empresas no actúan con la responsabilidad debida.
Compara la situación con la de un ganadero cuyo toro se escapa del cercado y causa destrozos, y termina culpando al animal: “la culpa no es del toro, sino del ganadero”, señala, en referencia a que las vallas —los mecanismos de control y seguridad de la IA— no eran lo suficientemente resistentes.
No todos comparten la idea de que la regulación estricta sea la solución. Parker Thayer, investigador del Capital Research Centre, un centro de estudios de tendencia conservadora, expresó esta semana en X que existe un impulso político oculto para “regular la IA hasta hacerla desaparecer”, una publicación que acumuló casi ocho millones de visualizaciones. Se trata de una postura extrema y no demostrada, pero que evidencia la falta de consenso sobre el camino a seguir.
Sea cual sea el desenlace, la controversia actual ya podría haber afectado la reputación de las empresas líderes del sector. Como plantea la profesora Hall: “¿Invertiría usted en una empresa que afirma que va a provocar la extinción de la humanidad?”.
