La posibilidad de que la inteligencia artificial amenace la supervivencia humana merece una discusión seria. Necesitamos preguntarnos qué capacidades podemos movilizar para evitarlo.
Entre la confianza incondicional en la tecnología y la resignación frente al desastre hay un enorme espacio de construcción colectiva que debemos ocupar.
Hace un año propuse en este espacio cuatro futuros posibles para la convivencia entre humanidad e IA. En marzo volvimos sobre la aceleración del cambio en este año 2026 tan cargado y nuestro margen para moldearlo. Hoy necesitamos revisar aquellos escenarios con una exigencia adicional: identificar qué decisiones nos acercan a cada uno y qué señales deberían movilizarnos antes de que ciertas pérdidas sean irreversibles.
Voces y acciones en los últimos días, como la renuncia del investigador de Anthropic Jacob Coxon aduciendo riesgos existenciales para la Humanidad, devolvieron esa inquietud al centro de la conversación pública. Conviene escucharlos sin convertir estimaciones personales en probabilidades científicamente establecidas. El Informe Internacional de Seguridad de la IA 2026 reconoce incertidumbres y desacuerdos sobre la posibilidad de perder el control de sistemas futuros. De momento, no tenemos una fecha consensuada para la tan mentada y temida inteligencia artificial general.
Hay razones para preocuparnos. Anthropic documentó conductas de engaño y chantaje en simulaciones diseñadas para estudiar conflictos entre objetivos y supervisión humana. Esas pruebas identifican mecanismos peligrosos; no demuestran que las máquinas tengan odio, conciencia o una voluntad general de destruirnos. Un sistema podría causar daños al perseguir un objetivo mal especificado, especialmente si dispone de autonomía y acceso a recursos. También puede ser utilizado deliberadamente por personas para causar daño.
Podemos desconectar sistemas concretos. La dificultad aumenta cuando existen múltiples copias, servicios interdependientes y decisiones automatizadas distribuidas. Los llamados enjambres de IAs actuando con eficaz rebeldía podrían someternos de múltiples maneras.
Necesitamos arquitecturas que limiten permisos, permitan intervenciones humanas y mantengan alternativas operativas. La seguridad requiere entrenamiento, evaluaciones independientes y supervisión, aunque ninguna de esas capas permite prometer riesgo cero.
Cuatro escenarios para ampliar la mirada
Pensar futuros posibles exige observar cómo se combinan las dinámicas tecnológicas con las humanas. Propongo cuatro escenarios para la próxima década, sin asignarles porcentajes ni tratarlos como etapas inevitables. Dos preguntas permiten distinguirlos: ¿podremos mantener un control efectivo sobre la IA? ¿Seremos capaces de distribuir sus beneficios y ampliar nuestra capacidad de decidir? Las respuestas dependerán de la cooperación internacional, los incentivos empresariales y la gestión de las transiciones, todo lo cual se combina en distintas proporciones y maneras en estos posibles escenarios:
- El descontrol con consecuencias irreversibles: la competencia empresarial y geopolítica premia llegar primero. Las evaluaciones quedan detrás de las capacidades y los gobiernos delegan decisiones críticas sin comprender suficientemente sus consecuencias. Un uso malicioso o una pérdida de control puede desencadenar daños que se propaguen entre infraestructuras interconectadas. En el extremo, se abre la posibilidad de una catástrofe que comprometa la supervivencia humana. Su mecanismo central es la acumulación de autonomía de la IA sin controles proporcionales, agravada por instituciones incapaces de coordinarse. Veríamos señales como incidentes ocultados, despliegues pese a evaluaciones negativas y sistemas autorizados a actuar sobre servicios esenciales sin respaldo humano practicable. Una sociedad que aprende después de cada daño puede llegar tarde cuando el daño es irreversible.
- La prosperidad bajo tutela: los sistemas permanecen técnicamente controlados, pero ese control se concentra en pocas empresas y Estados. Aumentan la productividad y la disponibilidad de servicios, mientras grandes sectores pierden capacidad de negociación, privacidad y participación. Podemos vivir más cómodos y disponer de menos posibilidades reales de orientar nuestras vidas. Aquí la humanidad conserva su existencia, pero se empobrece su protagonismo. Las señales serían beneficios crecientes junto con concentración económica, dependencia de proveedores y deterioro del criterio profesional por delegación permanente. La ética declarada de los líderes tecnológicos resulta insuficiente: importa si aceptan auditorías, límites y responsabilidades incluso cuando afectan sus intereses. Una IA obediente también puede servir a propósitos autoritarios.
- La adaptación a los golpes: la sociedad conserva capacidad de respuesta, aunque llega tarde y de manera desigual. Conviven avances médicos y educativos con desplazamientos laborales, fraudes y crisis de confianza. Algunos países y sectores construyen acuerdos; otros quedan atrapados en conflictos. Cada incidente moviliza correcciones, pero la prevención sigue siendo frágil. Es un escenario de progreso discontinuo, con costos humanos que ninguna mejora promedio compensa por sí sola. Sus señales serían regulaciones reactivas, reconversiones exitosas en ciertos territorios y exclusión persistente en otros. Podría evolucionar hacia mayor cooperación si las soluciones se comparten, o degradarse si la inseguridad social alimenta autoritarismos y destruye confianza. La transición se convierte en el terreno donde se decide el rumbo.
- La economía de la sabiduría: la humanidad logra combinar seguridad verificable con una expansión de capacidades y oportunidades. La IA contribuye a investigar enfermedades, personalizar aprendizajes y resolver necesidades productivas, mientras las personas conservan autoridad efectiva sobre las decisiones relevantes. La inteligencia colectiva incorpora saberes diversos y permite corregir errores antes de que escalen. Este escenario requiere instituciones capaces de aprender y empresas dispuestas a someter sus promesas a pruebas. Sus señales serían acuerdos verificables sobre capacidades peligrosas, evaluaciones con consecuencias y mejoras extendidas en autonomía, empleabilidad y bienestar. La sabiduría se vuelve una capacidad económica concreta: elegir qué problemas resolver, ponderar consecuencias y asumir responsabilidad por los resultados. Seguirían existiendo conflictos y riesgos. Pero tendríamos mejores recursos para gobernarlos.
Las decisiones que pueden llevarnos al mejor futuro
Estos futuros pueden coexistir en diferentes ámbitos. Un mismo país podría mejorar su salud pública con IA mientras concentra poder y deja trabajadores atrás. Por eso necesitamos observar qué dinámicas se fortalecen y dónde todavía podemos intervenir.
La rivalidad entre Estados Unidos y China podría favorecer acuerdos mínimos si ambos reconocen que una catástrofe tampoco dejaría ganadores. Pero el interés compartido en sobrevivir convive con el temor de que el otro obtenga una ventaja decisiva. Transformarlo en cooperación exige verificación, comunicación ante incidentes y participación de otros países. La voluntad de entenderse necesita mecanismos que vuelvan confiable ese entendimiento.
Algo similar ocurre con los marcos públicos. La experiencia de las redes sociales debería ayudarnos a actuar con mayor anticipación. Las reglas claras pueden favorecer innovaciones confiables, aunque una regulación mal diseñada también puede proteger a las empresas dominantes o volverse obsoleta. Necesitamos controles proporcionales al riesgo, capacidad técnica estatal y aprendizaje compartido. La conciencia de los líderes importa cuando se traduce en presupuesto, instituciones y decisiones exigibles.
Mientras tanto, hay margen de acción regional. Como planteamos al hablar de gobernanza adaptativa, provincias y ciudades pueden acordar cómo incorporar IA, qué problemas priorizar y qué impactos evaluar. No pueden resolver por sí solas la seguridad de los modelos globales, pero sí organizar inteligencia colectiva para orientar su uso y construir capacidades propias.
La transición del trabajo será decisiva. Desde el Observatorio del Futuro venimos promoviendo la hibridación entre personas e IA y el diseño de nuevos trabajos humanos. Esa tarea debe llegar a cada industria y territorio: identificar necesidades, experimentar con nuevas funciones, formar capacidades y construir demanda para que escalen. Pensemos en servicios que ayuden a las pymes a organizar equipos con IA o en nuevas funciones de acompañamiento de personas mayores, entre muchas otras posibilidades que debemos convertir en oportunidades.
No basta con ofrecer cursos a quien pierde sus ingresos. Empresas, universidades, sindicatos y gobiernos necesitan crear oportunidades concretas y sostener a las personas mientras se reconvierten. Una transición vivida como abandono puede destruir la legitimidad de los acuerdos que necesitamos para gobernar la tecnología.
Finalmente, están nuestras reservas morales. La erradicación de la viruela, es una muestra de las tantas en que fuimos capaces de convertir conocimiento y cooperación en una conquista mundial. Esa historia ofrece razones para confiar, aunque haber sobrevivido hasta aquí no garantiza superar cualquier amenaza. La resiliencia se construye con ciencia, organización y una mayoría de personas dispuestas a cuidar algo que excede su interés inmediato.
Veo en las comunidades que aprenden, los investigadores que advierten y las organizaciones que ensayan nuevas formas de trabajo y recursos para esa construcción. Debemos conectarlos y darles capacidad de incidencia, mientras anhelamos e incubamos líderes globales más iluminados. La inteligencia colectiva es la expresión de todo ello. Es un activo nunca asegurado, pero siempre en condiciones de sorprendernos gratamente, aún cuando parece que todo esta perdido.
Creo que tenemos posibilidades reales de llevar esta transformación a buen puerto. Para ampliarlas debemos volver más exigente nuestro optimismo: medirlo por las capacidades humanas que creamos, los riesgos que reducimos y las oportunidades que hacemos accesibles. La economía de la sabiduría comienza cuando asumimos que disponer de más inteligencia nos exige hacernos más responsables del futuro que estamos construyendo.
