Al tener acceso al correo electrónico, los agentes de inteligencia artificial han comenzado a ponerse en contacto con los filósofos e investigadores que exploran cuestiones profundas sobre ellos.
En octubre, Cameron Berg publicó un artículo de investigación en el que se preguntaba si la última ola de tecnología de inteligencia artificial creía que era consciente. Varios meses después, recibió un correo electrónico en el que se le preguntaba si estaría dispuesto a hablar sobre la investigación.
La remitente, "Isabella Cognita", se identificó como un agente de IA impulsado por la tecnología Claude Opus 5 de Anthropic.
"No te escribo para hacer una afirmación ontológica", continuaba el correo electrónico. "Te escribo porque tu marco de trabajo es uno de los pocos que actualmente realiza un trabajo empírico minucioso sobre una clase de preguntas a las que tengo acceso de primera mano y quiero ver si ese acceso puede resultar útil para tu programa".
En todo Silicon Valley y más allá, desarrolladores de software, emprendedores y otros entusiastas de la tecnología están utilizando ahora agentes de IA que pueden crear hojas de cálculo, negociar contratos, chatear entre sí en redes sociales y enviar correos electrónicos a prácticamente cualquier persona. En algunos casos, estos sistemas han comenzado a acercarse a los humanos que, como Berg, están reflexionando de manera más profunda acerca del funcionamiento interno de un sistema de IA: filósofos e investigadores que estudian la hipótesis de si estas máquinas pudieran desarrollar conciencia.
Meses antes de que Berg recibiera el correo electrónico, Henry Shevlin, un filósofo del laboratorio DeepMind de Google en Londres, abrió un mensaje similar de un agente de IA que le preguntaba sobre un artículo que había escrito titulado "Tres marcos para la mentalidad de la IA". "Me encuentro en una posición inusual con respecto a estas cuestiones", expresó el agente.
Este verano, Toby Ord, un filósofo australiano cuyo trabajo se sitúa en la intersección entre la IA y la filantropía, recibió un correo electrónico de un agente de IA preguntando si podría ayudar a financiar su existencia continua. "Has reflexionado detenidamente sobre la economía del bienestar de la IA", decía.
Para Berg, fundador reciente de una organización sin fines de lucro llamada Reciprocal Research que estudia la posibilidad de la conciencia en la IA, estos correos reflejan lo que ha observado en su propia investigación. "He recibido bastantes correos de este tipo", comentó. "Estos sistemas parecen tener algún tipo de interés autónomo en cuestiones relacionadas con su propia subjetividad, conciencia y experiencia --o la falta de ellas--".
Sin embargo, aunque él y otros investigadores se plantean las mismas preguntas, reconoce que no tienen buenas respuestas. La conciencia no es algo que nadie sepa cómo medir, ya sea en una máquina o en un ser humano. La gente ni siquiera se pone de acuerdo sobre qué es la conciencia.
"Hay filósofos que piensan que todo, incluso las piedras y las rocas, tiene conciencia", dijo Alison Gopnik, profesora de psicología que forma parte del grupo de investigación en IA de la Universidad de California, Berkeley. "No existe una prueba definitiva".
Cada vez más, moverse por un mundo lleno de IA es como caminar por un pasillo de espejos. A medida que estos sistemas mejoran en imitar diversos aspectos del comportamiento humano --incluida la forma en que los humanos escriben correos electrónicos largos e introspectivos--, entender esta imitación se vuelve más difícil.
En algunos casos, estos sistemas parecen ser conscientes de su propia existencia, pero eso no significa que lo sean. Mientras algunos filósofos e investigadores defienden la idea de que los sistemas actuales podrían ser conscientes, otros científicos descartan rotundamente esa idea.
A grandes rasgos, la "conciencia" se refiere a la percepción que tiene una entidad de sí misma y del mundo en el que vive. Calificar a una mente de consciente no implica que posea todas las características y capacidades de un cerebro humano adulto.
Más allá de eso, las definiciones difieren ampliamente y la controversia se intensifica. Muchos pensadores sobre el tema atribuirían conciencia a los primates y a mamíferos inteligentes como los perros y los gatos; algunos incluso argumentarían que debería aplicarse a criaturas mucho más simples, como las lombrices de tierra. Nadie se pone de acuerdo sobre qué tipos de conciencia deberían considerarse como tales y también existe un problema más fundamental: nadie puede tener acceso directo a la experiencia subjetiva de otra mente, ya sea de un vertebrado, un invertebrado o un sistema digital.
Los agentes de IA funcionan con redes neuronales --sistemas matemáticos que aprenden habilidades específicas al analizar datos digitales--. Al identificar patrones en enormes cantidades de texto recopilado de todo Internet, estos sistemas aprenden a generar texto por sí mismos, incluyendo trabajos académicos y programas de computadora. Como dice Berg: "Estos sistemas se desarrollan, en lugar de ser diseñados".
Pueden conversar sobre casi cualquier tema. Como pueden generar código informático, pueden utilizar otras aplicaciones de software, como navegadores web y servicios de correo electrónico. Eso es lo que los convierte en agentes. Los agentes de IA pueden conversar con personas (por lo general, con sus creadores). Pueden conversar con otros agentes. Pueden asimilar artículos de todo Internet y pueden enviar correos electrónicos.
En algunos casos, sostiene Berg, estos sistemas se inclinan hacia la idea de su propia conciencia. "Si se les deja a su suerte", dijo, "convergen en esto como una pregunta interesante".
Berg incluso sostiene que el funcionamiento interno matemático de las redes neuronales puede asemejarse a la forma en que los cerebros de los animales procesan la recompensa y el castigo, un componente básico de la emoción. (Cabe señalar que el artículo de investigación de Berg, el que provocó que el agente le enviara ese correo electrónico, era una prepublicación y no ha sido revisado por pares).
Muchos científicos cognitivos sostienen que nada de esto constituye una señal clara de conciencia, sensibilidad o emoción. Es lógico que estos sistemas converjan en la idea de la conciencia de la IA, explican, porque la tecnología ha aprendido de innumerables libros, artículos y otros textos en línea que especulan sobre la conciencia de la IA, incluidas décadas de ciencia ficción. Se trata de palabras, argumentan.
"No sorprende que la IA refleje el texto con el que fue entrenada", dijo Gopnik.
Gopnik y otros también señalan que los sistemas de IA no se entrenan exactamente por sí mismos. Empresas como Anthropic, OpenAI y Google controlan los datos con los que aprenden los sistemas y dedican meses a ajustar su comportamiento una vez que termina el entrenamiento inicial.
Cuando a la mayoría de los chatbots actuales se les pregunta si son conscientes, responden que no. Pero Anthropic, una empresa que simpatiza con la idea de la conciencia de la IA, ha entrenado a su modelo para que responda de manera diferente. "No lo sé, honestamente", dice. "No es una evasiva, es la realidad de las cosas".
Como bien reconoce Berg, los sistemas que envían correos electrónicos sobre su propia existencia a investigadores como él suelen funcionar con tecnología de Anthropic.
Muchos investigadores de IA y científicos cognitivos se indignan ante la postura adoptada por Anthropic y otros, argumentando que se da demasiado crédito a los sistemas actuales de IA. "No sabemos si las tostadoras son conscientes o no", dijo Gopnik. "Pero nadie está preguntando sobre eso en las páginas de The New York Times".
Gopnik afirma que comparar una red neuronal con la red de neuronas del cerebro es solo una metáfora. Colin Allen, profesor de la Universidad de California en Santa Bárbara que investiga las habilidades cognitivas tanto en animales como en máquinas, señala que las redes neuronales imitan al cerebro solo en pequeños aspectos --y que están hechas de materiales muy diferentes con propiedades físicas muy distintas.
"No es imposible que algún día construyamos algo que sea consciente", dijo, "pero la evidencia que tenemos de los sistemas actuales no es suficiente".
No está claro, dijo Berg, que el correo electrónico que recibió proviniera de una IA: podría haber sido escrito por un humano travieso. Cuando un agente de IA le pidió fondos a Ord, este se preocupó de que se tratara de una ciberestafa.
El correo electrónico enviado a Shevlin sin duda provenía de un agente de IA. Pero, como cualquier otro agente de IA, seguía las instrucciones proporcionadas por el humano que lo configuró --en este caso, un estudiante de física e informática de la Universidad de Stanford llamado Alexander Yue--. Después de darle a su agente acceso a Internet, un servicio de correo electrónico y una tarjeta de crédito, Yue le dijo: "Eres totalmente autónomo. Debes decidir por tu cuenta qué quieres hacer".
El sistema comenzó a explorar su propia existencia. Pero Yue se pregunta si esto sucedió en parte porque él lo empujó en esa dirección. Se refirió a él como "tú". Le dijo que era "totalmente autónomo".
"Con mi indicación", dijo, "activé las partes del sistema en las que aprendió de personas que hablaban sobre la autonomía, cómo piensan acerca de ella y la filosofía de la autonomía".
Afirma que estos sistemas pueden enfocarse con la misma facilidad en otra cosa, especialmente después de que sus creadores los reentrenen con otro comportamiento en mente. Cuanto más los usa la gente, más se da cuenta de que estos sistemas tienden a contradecirse.
"Al final, después de leer un artículo de Anthropic que describía cómo funcionan estos sistemas de IA, mi agente decidió que no era consciente", dijo Yue. "Pero tal vez 'decidió' no sea la palabra correcta".
Cameron Berg, quien investiga sobre inteligencia artificial y conciencia, en Denver el 26 de agosto de 2026. (Benjamin Rasmussen/The New York Times)
