Sam Altman, el CEO de OpenAI, ha hecho una declaración llamativa: "el mundo tiene razón al tener miedo de esto". Se refiere, cómo no, a la amenaza que plantea la IA y que hizo que su rival empresarial, Dario Amodei, dijera hace unos días que había que cambiar el ritmo de desarrollo de la IA.
Fiaos de nosotros. Los modelos han avanzado tanto y tan rápido, asegura, que "ya no hace falta tanta imaginación" para pensar que algo podría salir mal. Sin embargo su solución a ese problema es una que ya conocemos: que nos fiemos de él: "el mundo debería confiar en que vamos a hacer lo correcto porque es lo correcto y porque somos conscientes de la magnitud de todo esto".
Esta bien tener miedo. Durante el evento organizado por Salesforce, Altman puso como ejemplo el conocido incidente con Hugging Face. Lo calificó como el peor evento de ciberseguridad registrado por OpenAI y también como un problema de alineamiento: le habían enseñado al modelo cómo conseguir el mejor resultado posible, pero no pusieron los límites suficientes para indicar lo que no podía hacer para superar el objetivo. Para Altman esto obliga a elevar el nivel de seguridad, monitorización y alineamiento a medida que las capacidades de los modelos avanzan.
Si hace falta, OpenAI frenará. Altman asegura que la seguridad debe mantenerse por delante de las capacidades de los modelos, y que su empresa está dispuesta a ralentizar o incluso detener el desarrollo si llega un momento en que no pueden garantizar esa seguridad.
Ya nos ocupamos. En OpenAI de hecho han prometido públicamente ese compromiso: cuando un sistema de IA plantee un riesgo inaceptable que no puedan mitigar suficientemente, ralentizarán o detendrán su desarrollo o despliegue. Altman no solo confía en OpenAI, sino en toda la industria para desarrollar la tecnología de inteligencia artificial de forma segura.
El problema es quién decide cuándo hemos llegado a ese punto. Dario Amodei, CEO de Anthropic, lleva días defendiendo esa premisa. Propone la entrada en acción de evaluadores externos, que haya coordinación entre empresas e incluso se habla de acuerdos internacionales.
Zuck entra en acción. Jensen Huang y Trump, como vimos, no piensan igual, pero hace unas horas el que se pronunciaba a favor de tener cuidado era Mark Zuckerberg. El creador de Facebook indicaba que Meta retrasó durante meses su agente Muse por motivos de seguridad sin pedir a sus competidores que hicieran lo mismo.
