Google ha lanzado el Instituto DeepMind, una nueva plataforma dedicada a reunir a investigadores y pensadores para debatir sobre el desarrollo, la seguridad y las consecuencias de la Inteligencia Artificial General (AGI).
El proyecto llega en un momento en el que los principales laboratorios tecnológicos buscan avanzar hacia sistemas de IA cada vez más capaces, mientras crece el debate sobre cómo controlar sus posibles riesgos.
El instituto pretende reunir diferentes perspectivas para analizar cuestiones técnicas y sociales relacionadas con la AGI, desde la seguridad de estos sistemas hasta el impacto que podrían tener en el trabajo, las instituciones y la propia sociedad.
La iniciativa está dirigida por figuras de alto nivel de Google DeepMind y Alphabet: Shane Legg, cofundador y científico jefe de AGI de Google DeepMind; Demis Hassabis, cofundador y presidente del laboratorio y científico jefe de Alphabet; y James Manyika, presidente de investigación, laboratorios, tecnología y sociedad de Google.
Aunque la plataforma está vinculada a Google, sus responsables aclaran que los artículos publicados representan las opiniones de sus autores y no deben interpretarse como posiciones oficiales de la compañía.
Una plataforma abierta al debate sobre la AGI
El Instituto DeepMind busca publicar ensayos y análisis sobre las preguntas que plantea el desarrollo de una inteligencia artificial general. Además de investigadores de Google y DeepMind, la organización espera contar con aportaciones de la comunidad científica y de especialistas de otras áreas.
Sus responsables reconocen que los autores no necesariamente estarán de acuerdo entre sí. Precisamente, la intención es fomentar un debate que reúna diferentes puntos de vista sobre una tecnología que podría tener consecuencias más amplias que las estrictamente relacionadas con la informática.
La AGI suele utilizarse para describir sistemas de inteligencia artificial capaces de realizar una amplia variedad de tareas cognitivas con un nivel comparable al de los seres humanos. Sin embargo, no existe una definición única aceptada por toda la industria.
El ensayo de lanzamiento del instituto propone una definición especialmente ambiciosa: un sistema que presente todas las capacidades cognitivas del cerebro humano.
Google DeepMind reconoce riesgos que ya están presentes
Los responsables del instituto consideran que los sistemas actuales todavía presentan deficiencias en determinadas tareas, aunque esperan que algunas de estas limitaciones puedan reducirse próximamente.
Al mismo tiempo, identifican varios riesgos asociados al desarrollo de modelos cada vez más avanzados. Entre ellos mencionan la ciberseguridad, los riesgos biológicos y la posibilidad de que futuros sistemas de autoaprendizaje sean más difíciles de controlar.
Este último punto está relacionado con una de las principales cuestiones que plantea el desarrollo de agentes de IA más autónomos: determinar hasta qué punto los seres humanos podrán supervisar y limitar sistemas capaces de ejecutar tareas durante largos periodos y utilizar herramientas por su cuenta.
El instituto no plantea estas cuestiones únicamente como problemas tecnológicos. Sus responsables consideran que también requieren respuestas desde ámbitos como las ciencias sociales, las humanidades, las artes y los gobiernos.
Las preguntas que plantea una futura AGI
Entre los temas que el Instituto DeepMind quiere abordar se encuentran los cambios que podría provocar la AGI en la sociedad y en la forma en que las personas entienden conceptos como el trabajo, la creatividad o la propia condición humana.
También pretende estudiar cómo deberían diseñarse y administrarse de forma segura los sistemas de AGI y las comunidades formadas por múltiples agentes de inteligencia artificial.
Otro de los grandes debates estará relacionado con las instituciones. Si estos sistemas alcanzan capacidades mucho mayores que las actuales, podrían ser necesarias nuevas normas, estructuras de supervisión o modificaciones en las existentes.
Los responsables del instituto sostienen que no existe todavía una respuesta definitiva sobre cómo desarrollar e implementar una AGI de forma responsable. Por ello, consideran que la discusión no debería quedar limitada a los expertos tecnológicos.
El Instituto DeepMind pretende convertirse así en un espacio de debate sobre una tecnología que todavía no existe en su forma más ambiciosa, pero cuyo posible desarrollo ya está generando preguntas sobre seguridad, gobernanza y el impacto que tendría una inteligencia artificial con capacidades cognitivas similares a las humanas.
