Hay un número que se ha vuelto viral en Twitter estos días: más del 10%. Esa es la probabilidad que Evan Hubinger, un investigador de Anthropic, cree que existe de que la inteligencia artificial acabe con todos los humanos durante la próxima década. El comentario respaldó la decisión de Jacob Coxon, un compañero suyo que acaba de abandonar la compañía denunciando que las empresas de IA están "jugando con nuestras vidas". Ese porcentaje es ciertamente aterrador, pero hay un problema con esa cifra: no significa absolutamente nada.
Miedo a la superinteligencia. Hubinger de hecho aclaraba que consideraba bajo el riesgo que plantean los modelos de IA actuales. Para él lo preocupante es lo que puede estar por venir: una superinteligencia creada por automejora recursiva, o lo que es lo mismo: sistemas de IA que ayuden a crear sistemas de IA mejores aún. para Coxon, que prefirió abandonar su trabajo —como otros antes que él, también en la competencia—, los próximos uno o dos años serán decisivos y pide que tanto OpenAI como Anthropic no se abalancen en esa carrera, algo difícil de lograr cuando la IA ya se está usando para acelerar la investigación en IA.
¿Cómo nos matará la IA? En The Wall Street Journal dividen los escenarios de extinción de los que hablan los expertos en dos grandes familias. Una, más hollywoodiense, es la pérdida de control: un sistema de IA mucho más inteligente podría tener objetivos incompatibles con los de la humanidad y adquirir la capacidad suficiente para impedir que lo detengamos. La otra es menos llamativa, pero igualmente preocupante: que sigamos controlando la IA, pero alguien la use para crear un virus letal, lanzar ciberataques o atacar infraestructuras críticas.
El 10% podría ser el 90% igualmente. Para llegar a ese escenario del que habla Hubinger tendrían que encadenarse una serie de eventos decisivos. Tendríamos que crear sistemas de IA muy superiores a nosotros, que éstos pudieran acelerar el desarrollo de sus sucesores, que esa aceleración fuera rápida y que adquieran suficiente autonomía y no podamos detenerlos. El célebre p(doom) (la probabilidad de la extinción) es de momento tan solo una estimación subjetiva que trata de poner números a la incertidumbre. Ese 10% no está medido experimentalmente, y su significado real es nulo porque no hay pruebas ni evidencias de que tenga sentido. Igual que es 10% podría ser 90% o 0%.
La amenaza de la IA a la humanidad es "absurdamente ridícula": lo dice el máximo responsable de IA en Meta
Pero la preocupación existe. Hubinger no es un cualquiera: dirige la estrategia de alineamiento de Anthropic, lo que significa de que es responsable de que los modelos de la compañía trabajen alineados con los seres humanos y persigan un fin común y beneficioso (especialmente) para la humanidad. Samuel Marks, otro de los directivos de Anthropic, explica que entre los desarolladores hay una preocupación real por un potencial deasstre, sobre todo entre los veteranos. Que Coxon haya renunciado a su participación económica en la empresa refuerza el valor de su menaje, pero eso solo demuestra que cree en él, no que su creencia sea correcta.
Anthropic no está haciendo mal del todo las cosas. En una entrevista en Wired, Coxon asegura que considera que Anthropic es más responsable que Anthropic en materia de alineamiento y que no ha detectado que nadie allí esté recortando esfuerzos en materia de seguridad. Para él el problema es que precisamente quien recorte esos esfuerzos sea otro: un competidor como OpenAI, o quizas un laboratorio de IA chino. Aquí alude al dilema del prisionero: incluso una empresa convencida de que debería frenar el desarrollo de la IA tiene demasiados incentivos para continuar si piensa uq elos demás no van a hacerlo.
China complica las cosas. La preocupación que muestran expertos de IA occidentales no es un caso aislado: en China existe una creciente comunidad de expertos investigando sobre la seguridad de los agentes de IA, la pérdida de supervisión humana y la automejora recursiva. En el informe State of AI Safety in China 2026 precisamente se detectan esas preocupaciones, y figuras como el premio Turing Andrew Yao participan en estrategias de seguridad y gobernanza de IA. Eso sí: no es habitual que los responsables de DeepSeek, Alibaba o Moonshot hablen de esos riesgos para la humanidad. La preocupación existe, pero su expresión pública es muy distinta a la que se exhibe en Silicon Valley.
El mundo debería unirse. Coxon precisamente cree que un acuerdo entre Anthropic y OpenAI sería tan solo el primer paso para mitigar esos riesgos: lo ideal es que hubiera un esfuerzo de cooperación internacional que implicase a China. En esa alianza debería por ejemplo hablarse de controlar el cómputo avanzado de forma similar a como se tratan los materiales nucleares. Es aquí importante señalar que EEUU y China están preparando este mes sus primeras conversaciones bilaterales centradas en la seguridad de la IA.
Si hay tanto riesgo, ¿por qué siguen construyéndolas? La razón es sencilla: quienes plantean esos riesgos también ven el otro lado de las cosas. Coxon habla de cómo la IA puede ayudar a curar enfermedades, acelerar descubrimientos científicos o permitir alcanzar una abundancia extraordinaria. Existe además el convencimiento entre las empresa de IA de que si la superintelgiencia puede crearse alguien acabará haciéndolo, así que es preferible intentarlo que quedarse atrás. La inacción, detener el desarrollo, acaba siendo peor.
Imagen | Xataka con Magnific
En Xataka | "Será muy turbulento": por qué Bill Gates cree que no estamos preparados para lo que se nos viene encima con la IA
-
La noticia
"Están jugando con nuestras vidas": un investigador de Anthropic cree que hay un 10% de posibilidades de que la IA acabe con la humanidad
fue publicada originalmente en
Xataka
por
Javier Pastor
.
