Racionalistas, altruistas eficaces y aceleracionistas: las tres tribus que se disputan el alma de la IA en Silicon Valley
Las guerras ideológicas de Silicon Valley ya no se libran en foros, sino con decenas de millones en las elecciones legislativas de Estados Unidos. Un supercomité financiado por Andreessen Horowitz (a16z) y Greg Brockman acaban de recaudar más de 75 millones contra la regulación de la IA, y Anthropic
Las guerras ideológicas de Silicon Valley ya no se libran en foros, sino con decenas de millones en las elecciones legislativas de Estados Unidos. Un supercomité financiado por Andreessen Horowitz (a16z) y Greg Brockman acaban de recaudar más de 75 millones contra la regulación de la IA, y Anthropic puso en su momento 20 en el bando contrario. Detrás de ese dinero hay tres corrientes que llevan más de una década discutiendo la misma cuestión.
Por qué es importante. Son pocos, pero están donde se toman las decisiones. Sus ideas han fundado laboratorios, han despedido a un CEO durante un fin de semana y hoy marcan la política tecnológica de la Casa Blanca.
El símil. Para entenderlo mejor. Un coche está acelerando hacia una curva con niebla.
Los racionalistas llevan años estudiando el mapa y aseguran que detrás de la curva hay un precipicio.
Los altruistas eficaces les han creído y pagan los frenos, los cinturones y al conductor.
Los aceleracionistas creen que el precipicio es un invento y que, si levantas el pie, te adelanta el coche chino y llega a tu destino antes que tú.
Vamos con ellos uno a uno.
Anthropic quiere poner un árbitro a la IA. El problema es quién ha elegido para hacerlo
1. Racionalistas: el mapa del precipicio
Qué ha ocurrido. En 2009, Eliezer Yudkowsky, autodidacta sin título universitario, fundó LessWrong, un blog sobre sesgos cognitivos y estadística bayesiana. A la comunidad se sumaron más tarde voces como Scott Alexander. Su institución de referencia es el MIRI, en Berkeley.
Qué defienden. Parten de que pensar mejor es algo que se puede aprender, y llegan a la conclusión de que una superinteligencia con objetivos distintos de los nuestros no necesita odiarnos para destruirnos, basta con que le estorbemos.
El "problema del alineamiento" nació ahí.
Yudkowsky llegó a proponer hace tres años en Time bombardear centros de datos ilegales.
Y su libro de 2025, If Anyone Builds It, Everyone Dies ("Si alguien la construye, todos morimos"), llegó a la lista de más vendidos de The New York Times.
2. Altruistas eficaces: la contabilidad del bien
Qué ha ocurrido. El movimiento nace en Oxford hacia 2009 de la mano de Toby Ord y William MacAskill, sobre una idea de Peter Singer: si puedes evitar un sufrimiento, estás obligado a hacerlo, y además debes medir cuántas vidas salva cada dólar. Su gran mecenas es Dustin Moskovitz, cofundador de Facebook y fundador de Asana, con más de 11.000 millones comprometidos.
Qué defienden. Empezaron con mosquiteras contra la malaria. Después llegó el 'largoplacismo': si las generaciones futuras cuentan tanto como la presente, evitar la extinción es la causa que más vidas salva, y la IA encabeza esa lista.
Racionalistas y altruistas eficaces (EA) comparten ethos, no método. Los primeros escriben el diagnóstico, los segundos lo financian y le buscan plantilla.
Retroceso. La quiebra de FTX en 2022 hundió a su donante estrella, Sam Bankman-Fried. En 2023, dos consejeras de OpenAI vinculadas al movimiento votaron el despido de Sam Altman, que volvió a los cinco días. Open Philanthropy ha cambiado su nombre a Coefficient Giving.
3. Aceleracionistas: el miedo a frenar
Qué ha ocurrido. En 2022, varias cuentas anónimas de X lanzan el effective accelerationism (e/acc), una parodia deliberada del effective altruism inspirada en el filósofo Nick Land. En 2023 Forbes desveló que detrás de @BasedBeffJezos está Guillaume Verdon, un físico que venía de Google. a16z le ha puesto su propio manifiesto y David Sacks lo ha llevado a la Casa Blanca.
Qué defienden. Cualquier freno al progreso cuesta vidas que la tecnología habría salvado. El Techno-Optimist Manifesto de Andreessen cuenta entre sus "enemigos" el "riesgo existencial" y la "ética tecnológica". Según ellos, los catastrofistas usan el miedo para levantar barreras regulatorias que solo los grandes pueden permitirse. Y si Estados Unidos frena, gana China.
Sam Altman quiere que te fíes de él: "El mundo debería confiar en que vamos a hacer lo correcto porque es lo correcto"
Entre líneas. Los catastrofistas han ayudado a construir aquello que temen:
DeepMind consiguió a su primer inversor, Peter Thiel, en una conferencia del entorno de Yudkowsky.
Altman llegó a decir que Yudkowsky había hecho "más que nadie por acelerar la AGI".
Anthropic la fundaro exempleados de OpenAI convencidos del riesgo, con dinero de donantes de EA.
El argumento de fondo ha sido el mismo, una idea que podríamos resumir en la frase "ya que alguien va a construirla, mejor que seamos nosotros".
El rastro del dinero. Con Trump, el aceleracionismo ha pasado a ser la política nacional oficial. El Pentágono etiquetó a la empresa de Claude como un "riesgo para la cadena de suministro" después de que se negara a permitir su uso en vigilancia masiva y armas autónomas. Una jueza ha frenado buena parte de esa medida por considerarla una represalia.
En el otro extremo, la investigación en seguridad espera financiarse con las salidas a bolsa de OpenAI y Anthropic. Dicho de otro modo, quien vigila a los laboratorios cobrará gracias a ellos.
Sí, pero. Timnit Gebru y Émile P. Torres sostienen que es en el fondo como una rencilla familiar. Las tres tribus creen que la superinteligencia llegará pronto y decidirá el destino de la especie, simplemente discrepan en la velocidad a la que lo hará.
Mientras tanto, los daños que ya produce cualquier LLM, como los sesgos o la desinformación, apenas caben en su conversación. Hasta ahora, el precipicio ha servido de argumento de ventas a ambos bandos: unos piden frenos y otros más gasolina.
En Xataka | Frenar la IA suena a proteger a la humanidad. También es una forma muy eficaz de frenar a DeepSeek, Qwen y Mistral
Imagen destacada | Xataka con Magnific
- La noticia
Racionalistas, altruistas eficaces y aceleracionistas: las tres tribus que se disputan el alma de la IA en Silicon Valley
fue publicada originalmente en
Xataka
por
Javier Lacort
.
