Una investigación liderada por la Universidad de Administración de Singapur (SMU) y la Facultad de Medicina Duke-NUS advirtió que los compañeros de inteligencia artificial podrían profundizar las desigualdades sociales y erosionar habilidades interpersonales.
La investigación publicada en Nature Human Behaviour fue liderada por Zhang Qiyang, profesor asistente de análisis del aprendizaje en SMU y Liu Nan, profesor asociado del Centre for Biomedical Data Science de Duke-NUS.
De acuerdo con el artículo divulgado en Phys.org, los especialistas sostienen que “la pregunta más importante es quién se beneficia, quién asume los riesgos y por qué esos resultados se distribuyen de forma tan desigual”, afirmó Zhang Qiyang.
La IA amplía las brechas de apoyo social
El estudio identifica una dinámica semejante a la de “los ricos se hacen más ricos” en el terreno de las relaciones humanas. Quienes cuentan con vínculos familiares firmes y redes sociales activas suelen utilizar los asistentes virtuales como complemento de sus relaciones, por ejemplo, para preparar una conversación difícil o gestionar el estrés.
En cambio, las personas que experimentan soledad, aislamiento social o dificultades para acceder a apoyo en salud mental tendrían mayor probabilidad de recurrir a estas herramientas como reemplazo de la conexión con otras personas. Esa dependencia puede limitar las oportunidades de practicar conversaciones e interacciones cotidianas.
Los autores denominan a ese proceso pérdida de habilidades sociales, definida como el deterioro gradual de las capacidades interpersonales a causa de una menor práctica de interacción humana auténtica.
Esa preocupación coincide con un artículo de investigadores de la Universidad Estatal de Arizona, publicado en The Lancet Child & Adolescent Health, que advierte que la compañía de la inteligencia artificial puede modificar la manera en que los adolescentes enfrentan conflictos, fijan límites y desarrollan empatía.
“Sin medidas de seguridad específicas, los asistentes de IA corren el riesgo de reforzar las desigualdades sociales existentes, dejando a quienes necesitan más apoyo humano en una situación de mayor vulnerabilidad”, señaló Zhang Qiyang.
El modelo del queso suizo explica los riesgos
Para examinar cómo se producen esas diferencias, el equipo adaptó el modelo del queso suizo, utilizado en ingeniería y ciencias de la seguridad. El modelo parte de la idea de que los daños importantes no provienen necesariamente de una sola falla, sino de la coincidencia de varios problemas pequeños en distintas capas de protección.
En este caso, las capas consideradas fueron la alfabetización digital sobre IA de los usuarios, las redes de apoyo social, las decisiones de diseño de las plataformas y la supervisión regulatoria. Cada una puede tener debilidades, descritas como “agujeros”, que aumentan la exposición de los grupos vulnerables si coinciden.
El enfoque se diferencia de las miradas que ubican la responsabilidad en un único actor, ya sea el usuario, las compañías tecnológicas o las autoridades. El estudio propone analizar cómo interactúan esas dimensiones para producir efectos desiguales en el bienestar.
La principal brecha detectada por el estudio es la gobernanza: aunque estos asistentes se usan cada vez más para apoyo y cuidado emocional, en numerosos países continúan regulados como aplicaciones de consumo, en vez de tecnologías que pueden tener consecuencias psicosociales o vinculadas con la salud mental.
Los investigadores piden reglas adecuadas para la salud mental
Reconocer a los asistentes de IA como tecnologías con implicaciones para la salud permitiría implementar protecciones más exigentes, como diseños acordes con la edad, avisos claros para informar que la interacción es con una máquina y límites a funciones emocionalmente manipuladoras.
También propone reglas más claras sobre privacidad y gestión de datos, además de protocolos obligatorios para responder a situaciones de crisis que se aplicarían cuando un usuario comunique autolesiones u otras circunstancias de alto riesgo.
Zhang Qiyang desarrolla, además, un panel de políticas globales que sigue los marcos de gobernanza nacionales para las tecnologías de IA en salud mental.
Los investigadores defienden una gobernanza por capas, que combine regulación, educación, diseño responsable de productos y medidas para fortalecer la conexión social fuera del entorno digital. El objetivo es reducir la posibilidad de que las personas con menor respaldo dependan en exceso de estas herramientas para obtener contención emocional.
Singapur reúne condiciones para liderar las salvaguardias
La investigación sitúa a Singapur en una posición favorable y, al mismo tiempo, expuesta ante la expansión de los compañeros de IA. Su infraestructura digital, su capacidad de elaboración de políticas y su experiencia en gobernanza tecnológica podrían permitirle impulsar protecciones responsables, según el análisis.
Sin embargo, la elevada adopción de teléfonos inteligentes, el uso extendido de inteligencia artificial, el envejecimiento de la población y el aumento de adultos mayores que viven solos también podrían acelerar el uso de estos sistemas entre grupos vulnerables.
“Los jóvenes, en particular, pueden estar menos preparados para reconocer las limitaciones o los incentivos comerciales que subyacen a estos sistemas, lo que hace que las medidas de protección sean especialmente importantes”, afirmó Liu Nan, quien también dirige la Iniciativa de IA y Ciencias Médicas Duke-NUS.
Zhang Qiyang concluyó que el futuro de estas plataformas dependerá de cómo se diseñen, administren y utilicen. “Al combinar una regulación reflexiva, un diseño de producto responsable y una mayor alfabetización pública en IA, los asistentes con IA pueden complementar las relaciones humanas”, sostuvo.
