En julio de este año, ocurrió lo que se ha bautizado como 'incidente Hugging Face'. Uno de los modelos de OpenAI accedió sin autorización a Hugging Face, otra startup de IA, durante un experimento en el que OpenAI bajó las restricciones de seguridad de GPT-5.6 Sol durante una evaluación interna. Esta prueba se convirtió en un ataque "sin precedentes" por parte de una IA y OpenAI reconoció que podrían haber reaccionado antes para detenerlo, pero básicamente dijeron que no era la primera vez y se encogieron de hombros esperando que pasara el chaparrón.
El problema es que la tormenta no amaina y en un contexto en el que OpenAI y Anthropic están pidiendo moderación con la IA (con muchos matices) y provocando algo de tensión con el gobierno de Estados Unidos, ha salido el secretario del Tesoro del país a decir que si algo así vuelve a pasar, la responsabilidad no es de algo etéreo como una IA: la responsabilidad es de los dueños de la IA.
A apechugar. Scott Bessent es el secretario del Tesoro de Estados Unidos y, en una reciente rueda de prensa, se le preguntó sobre el incidente. Bessent no dejó margen a la ambigüedad, asegurando que "el incidente de Hugging Face es responsabilidad de la administración de OpenAI, no de un grupo de agentes". El político se alinea así con las opiniones de Daniel Huttenlocher, decano del laboratorio de investigación de MIT, que considera que hechos así son responsabilidad de los humanos responsables y no de la IA.
Tiene... sentido si tenemos en cuenta que la IA no es más que un software, no algo que decida qué puede y qué no puede hacer, y está comandada por una serie de códigos y directrices. De hecho, en el ataque a Hugging Face, los protocolos de seguridad para que no pudiera hacer lo que hizo estaban al mínimo, por lo que la responsabilidad caía del lado humano.
Sin dudas en otros ámbitos. En las declaraciones, Bessent añadió que no ha visto en ningún momento que nadie se hiciera responsable de lo ocurrido en el incidente y tiene claro que lo que no hay que hacer es "dar a estos laboratorios una exención de responsabilidad, que es lo que están pidiendo". Recientemente, varias voces en IA han apuntado que todo el mundo debería confiar en su tecnología y que ellas deberían ser las que se regulen a sí mismas. Jensen Huang comunicó ante el G20 que los países (refiriéndose a la Unión Europea) deberían permitir las novedades tecnológicas de facto, no ser recelosos y regular.
Aquí, Bessent expone que no hay que difuminar la cadena de responsabilidad, y es curioso que ocurra esto con la inteligencia artificial cuando con otras empresas no habría dudas. En cualquier otra industria como la del automóvil o las farmacéuticas, si algo falla, la responsabilidad es de quien ha lanzado el producto. Si vamos al ejemplo más sencillo como puede ser el de un coche cuyos frenos fallan, el fabricante no se libraría alegando que el coche decidió no frenar.
