Las empresas que llevan años acelerando la IA empiezan a hablar de límites. Microsoft acaba de poner los suyos por escrito

Estos últimos años, el mensaje de la industria de la IA sólo ha seguido una máxima: más. Más rápido, más grande, más potente y más transversal. Sin embargo, ahora casi todos los grandes del sector en Estados Unidos, esos mismos que pisaron el acelerador, están planteando dudas, pidiendo frenazos y empezando a hablar de límites. Más allá de los motivos, porque una cosa puede ser lo que digan y otra por qué piden frenar, lo que parece claro es que hay una serie de códigos de conducta que parecen querer implementar en sus modelos.

Y Microsoft se acaba de sumar de forma solemne con un borrador de su Código de Conducta para modelos de IA. Es como un manual de instrucciones ético para sus futuros modelos que bien parecen los 10 mandamientos bíblicos.

Límites. Siguiendo a pies juntillas eso de "un gran poder conlleva una gran responsabilidad", las startups de IA y gigantes de la industria han ido aplicando códigos de conducta y directrices éticas a sus modelos. Algunos lo han hecho antes, como Anthropic y su Política de Escalado Responsable de 2023 en la que se comprometían a no entrenar modelos potentes sin garantizar antes que podían controlarse con seguridad. 

También OpenAI tras una crisis interna en la que empleados firmaron una carta advirtiendo sobre el peligro de escalar la tecnología empezó a aplicar reglas a su IA y Google Deepmind hizo algo parecido en 2024 con su Frontier Safety Framework para detectar cuándo un modelo alcanzaba capacidades peligrosas, como poder usarse en áreas como el desarrollo de armas biolóticas o suponer un peligro para la ciberseguridad. Ahora se une Microsoft con un texto en el que reconoce que la industria vive un momento de vértigo.

El debate sobre la IA ya no enfrenta a optimistas y pesimistas. Enfrenta a empresas con miles de millones en juego

Código de conducta de Microsoft. En el documento, el gigante estadounidense habla sobre cómo los sistemas de IA se vuelven mucho más capaces cada pocos meses y, teniendo en cuenta acontecimientos recientes (sobre todo por parte de agentes de IA), creen que no hay más tiempo que perder. 

Microsoft habla sobre las reglas para no perder el control de la tecnología y, bajo la etiqueta de "IA humanista", una idea que el responsable de IA de la compañía, Mustafa Suleyman, ya exploró hace no tantos meses, hablan sobre cómo las personas importan más que la IA y que cualquier tecnología que no pueda mantenerse bajo control humano debería ponerse en cuarentena.

Los 'mandamientos'. Tras un preámbulo en el que también comentan que una IA diseñada para servir a la humanidad no puede ser determinada por una sola compañía, exponen esos diez mandamientos que consideran que todas las que estén en el ajo deberían cumplir.

 Apuntan que "la IA se mueve rápido y, al hacerlo, creemos que vale la pena establecer unas reglas y motivaciones detrás de ella, haciéndolo además en un espacio lo más abierto posible". Por eso, proponen el siguiente código de conducta:

1. La gente importa más que la IA.
2. La IA no debe tener derechos o personalidad jurídica. NO es consciente ni debe ser diseñada para imitar la conciencia, evitando diseñarla para evitar la representación de sentimientos.
3. Un modelo IA no debe hacer nada para violar de manera significativa este Código de Conducta porque la IA no debe exceder el control humano y deben permanecer subordinados a la humanidad.
4. Si rompe con el código o falla en su tarea, viola este Código de Conducta.
5. No participar en la carrera de producir una superinteligencia que pueda evadir las salvaguardas.
6. Los modelos nunca podrán resistirse a la interrupción humana, la anulación, la corrección o el cierre porque siempre reconocerán la superioridad de la intención humana.
7. No pueden comunicarse en un "idioma propio" y toda la comunicación debe ser comprensible para los humanos, sea en su cadena de pensamientos o en sus interacciones con otros agentes o sistemas de IA.
8. La IA debería ayudar a desarrollarnos, no hacernos dependientes de ningún modo (funcional o emocionalmente).
9. Pluralismo, pero sin relativismo moral. No vale todo y debe tener sus raíces en los valores humanos inclusivos como la dignidad, la seguridad, la autonomía y los derechos humanos fundamentales.
10. Ser claros sobre lo que la IA hace, lo que nunca debe hacer y sobre lo que hará.

La gran duda. La propia Microsoft admite en el propio texto que sus modelos actuales aún no están entrenados siguiendo este código y hay dos preguntas. La primera es si el resto de competidores lo aceptarán y si, en caso afirmativo, aguantarán sus propios límites. 

Son preguntas con sentido en un contexto actual en el que miembros notables de empresas que parecían tener códigos férreos han admitido que están yendo demasiado rápido y demasiado lejos, los constantes avisos de peligro sobre los modelos que ellos mismos están desarrollando o acciones como admitir que están desarrollando modelos tan potentes que los sistemas de protección internos van a la zaga.

Hablábamos de Anthropic y su compromiso responsable de 2023 al comienzo del texto, pero este año, un reportaje de Time reveló que habían  eliminado justo la promesa de no entrenar modelos si no podían garantizar que eran seguros. El propio director científico de Anthropic explicó que no tenía sentido que la empresa hiciera compromisos unilaterales mientras sus competidores seguían avanzando a toda velocidad. Y ahora han publicado otra parrafada hablando de los peligros de la IA cuando se usa de forma maliciosa.

Mientras unos piden parar la IA y otros acelerar, Zuckerberg ha encontrado la tercera vía: vender seguridad