Los recientes ciberataques perpetrados por agentes automatizados y las declaraciones de un exinvestigador de OpenAI y Anthropic sobre los crecientes riesgos asociados al avance de la inteligencia artificial fueron los detonantes de un debate cada vez más álgido y concurrido.
A las consideraciones de expertos y líderes de las compañías que participan en ese sector, se sumaron opiniones provenientes de las altas esferas, incluyendo una a priori inesperada, la del rey del Reino Unido.
En un encuentro celebrado en Escocia que reunió a especialistas y representantes de empresas, Carlos III dijo que “el desarrollo de inteligencia artificial resulta fascinante y a la vez profundamente preocupante”. Además, pidió a los altos directivos de OpenAI, Anthropic, Google y Nvidia que garanticen que los avances se mantengan bajo control y al servicio de las personas.
El rey Carlos III se sumó al debate sobre los riesgos de la superinteligencia
El hombre que recibió la corona del Reino Unido en el año 2022 tras la muerte de la reina Isabel II, instó a los líderes de las tecnológicas a reflexionar sobre los “principios fundamentales” que deberían guiar el desarrollo de inteligencia artificial.
Carlos II hizo mención a los “peligros existenciales en el caso de que estas tecnologías caigan en manos equivocadas y se utilicen de forma potencialmente catastrófica”. En ese sentido, indagó: “¿Acaso no necesitamos medios de control suficientes antes de que sea demasiado tarde?”.
Sin mencionar en forma directa a las empresas, el rey manifestó su deseo de que se considere cómo aprovechar los avances en IA “con la seguridad como prioridad”, fomentando la cooperación internacional.
En la reunión realizada esta semana en Ayrshire, Escocia, sede de la organización benéfica The King’s Foundation, participaron Jensen Huang, CEO de Nvidia; Demis Hassabis, presidente de Google DeepMind; y la directora financiera de OpenAI, Sarah Friar. También estuvo presente Kanishka Narayan, quien a mediados de este año asumió al frente del ministerio de Inteligencia Artificial del Reino Unido.
Dirigiéndose a los ejecutivos tecnológicos, Carlos III señaló que su responsabilidad “no consiste simplemente en impulsar los desarrollos, sino en garantizar que siga estando firmemente al servicio de la humanidad, la comunidad y el medio ambiente”.
Esa última mención apuntó a otra de las problemáticas asociadas al despliegue de estos sistemas, a un lado del debate sobre los riesgos de la automatización: el consumo excesivo de recursos naturales en los centros de datos que sustentan el funcionamiento de los grandes modelos de lenguaje.
Tal como señala New York Post, si bien Estados Unidos y China lideran los desarrollos en el área, el Reino Unido también tiene peso en ese ámbito. Su Instituto de Seguridad de IA es un organismo gubernamental especializado que goza de prestigio a nivel mundial.
