El salto que dio la inteligencia artificial en los últimos años podría representar apenas una pequeña parte de todo lo que esta tecnología puede ofrecer en la actualidad. Según Dario Amodei, CEO y cofundador de Anthropic, hoy solo aprovechamos entre el 5% y el 10% de su valor potencial.
En el marco de la presentación inicial de Dreamforce 2026, en San Francisco, Amodei analizó el estado actual de la IA, el ritmo de su adopción y los riesgos que plantea el desarrollo de sistemas cada vez más poderosos: “El progreso de la IA y la rapidez con la que estos sistemas comenzaron a incorporarse en productos y actividades económicas superaron lo que esperaba hace una década”.
Sus declaraciones adquieren una dimensión particular por el momento en el que se produjeron. Durante la última semana, un exempleado de la compañía creadora de Claude renunció y denunció que los principales laboratorios compiten por desarrollar sistemas cada vez más poderosos sin contar todavía con garantías suficientes para mantenerlos bajo control.
El verdadero potencial de la IA
Durante el keynote de inicio en el evento, conducido por Marc Benioff, CEO de Salesforce, Amodei sostuvo que existe una gran distancia entre lo que la inteligencia artificial permite hacer y el uso que actualmente recibe. “Cuando observo la tecnología frente a cuánto se ha difundido, incluso si congeláramos su desarrollo en su estado actual, algo que no está ocurriendo, porque continuará mejorando, estaríamos utilizando quizá solo entre el 5% y el 10% de su valor potencial”, afirmó.
La estimación es relevante no solo por el contexto actual, sino porque llega de parte del responsable de una de las compañías que lideran el desarrollo de modelos avanzados de inteligencia artificial.
Amodei también mencionó que la tecnología avanzó más rápido que la capacidad de personas y organizaciones para incorporarla a sus actividades. “La cantidad de usuarios que ya conoce estas capacidades y comprende lo que permiten hacer los sistemas de IA sigue siendo pequeña frente a todos los que podrían aprovecharlas”, afirmó. Por ese motivo, aseguró: “Todavía queda un amplio margen para que las herramientas de inteligencia artificial generativa y agentes extiendan su presencia en todo el mundo”.
“No dimensionamos la velocidad con la que creció la IA”
Amodei trabaja desde hace más de una década en el desarrollo de inteligencia artificial y participó en investigaciones sobre las llamadas leyes de escalamiento. Estas normas describen cómo pueden aumentar las capacidades de un modelo a medida que recibe más datos, potencia informática y recursos durante su entrenamiento.
Esos estudios permitieron anticipar parte de la evolución técnica de la IA. Sin embargo, algo sorprendió en los últimos años al líder de Anthropic: la rapidez con que evolucionan esos sistemas y lo pronto que su adopción se expandió: “Teníamos una predicción sobre qué tan capaces serían los modelos de IA. Pero lo que no dimensionamos fue la velocidad con la que se volverían centrales para todo lo que ocurre en el mundo”.
El ejecutivo agregó que las nuevas herramientas comenzaron a sumar usuarios con un ritmo que no había previsto. “Me sorprendió que fuera posible tal expansión”, afirmó.
Un exempleado de Anthropic renunció y alertó sobre los riesgos de la IA
Las declaraciones de Amodei tienen lugar una semana después de la renuncia de Jacob Coxon, investigador que trabajó en el preentrenamiento de modelos en OpenAI y Anthropic. Coxon llevaba cuatro meses en esta última compañía y, al abandonar su puesto, dejó una advertencia en la que afirmaba que ambas empresas avanzan hacia una inteligencia artificial capaz de mejorarse a sí misma sin haber resuelto antes cómo mantenerla alineada con los objetivos humanos.
“Las personas que construyen IA creen sinceramente que podría matarnos a todos antes del final de la década. Esto no es una estrategia de marketing”, escribió Coxon. También acusó a los laboratorios de dirigirse hacia una “superinteligencia capaz de mejorarse a sí misma” y de estar “jugando con nuestras vidas”.
Otros empleados de Anthropic respaldaron públicamente parte de su planteo. Evan Hubinger, responsable de investigaciones de alineación, por ejemplo, estimó que existe una probabilidad superior al 10% de que la IA provoque la extinción humana durante la próxima década. También reconoció que la empresa aún no dispone de un plan capaz de resolver la alineación de una eventual superinteligencia.
Como respuesta, la empresa afirmó que siempre comunicó tanto los posibles beneficios de la inteligencia artificial como sus riesgos. Además, señaló que evalúa sus modelos para detectar capacidades peligrosas en campos como la ciberseguridad y la biología.
El plan de Amodei para reducir la velocidad del desarrollo
Cuatro días después de la renuncia de Coxon, Amodei publicó el ensayo We Must Pace the Frontier (Debemos marcar el ritmo en la frontera). Allí pidió reducir la velocidad con la que aumentan las capacidades de los modelos para dar más tiempo a las investigaciones de seguridad, evaluación, control e interpretación de su funcionamiento.
Su propuesta consta de tres medidas: incorporar evaluadores externos dentro de los laboratorios, acordar estándares comunes entre las empresas de países democráticos y buscar mecanismos internacionales de coordinación que puedan verificarse.
Durante su declaración en Dreamforce 2026, Amodei desarrolló su nuevo manifiesto: “Tenemos que revisar todo, mejorar nuestras prácticas, reafirmar nuestro compromiso con la transparencia e invertir más en seguridad. Luego, deberíamos reunir al resto de la industria y preguntarnos qué podemos hacer para establecer estándares comunes y mejorar las normas que todos seguimos. Finalmente, debería existir un componente internacional. Esos son, esencialmente, los tres pasos que expuse en mi ensayo. Nos comprometimos con el primero y vamos a conversar con el resto de la industria sobre los otros dos. Creo que esa es la manera de conducir a la industria hacia adelante: dar el ejemplo y reconocer que todos podemos mejorar”, concluyó.
