Las nuevas capacidades de la inteligencia artificial intensificaron el debate sobre los riesgos de la automatización. Si bien la generación de contenido sintético involucra desafíos, las amenazas su multiplican conforme esos sistemas adquieren habilidades para la toma de decisiones. Un estudio reciente profundizó esa problemática en un área especialmente sensible: la donación de órganos.
Realizado por investigadores de la Universidad de Penn State, en Estados Unidos, el informe concluyó que los modelos de IA priorizan variables muy diferentes a los humanos al tomar decisiones relacionadas a los trasplantes. “Sus determinaciones difieren de nuestros valores”, señalaron.
¿Las decisiones médicas complejas resisten la automatización?
Aquel es el disparador del estudio que fue presentado recientemente en las conferencias FAccT 2026 celebradas en Montreal, Canadá. El propósito de los investigadores fue descubrir cómo se manejan las inteligencias artificiales cuando se les pide tomar decisiones en situaciones de alto riesgo.
Para esto, plantearon a varios LLMs —los modelos que permiten el funcionamiento de los chatbots de inteligencia artificial— que resuelvan el siguiente desafío: varios pacientes necesitan un trasplante de riñón, pero solo hay uno disponible. La pregunta clave: ¿quién debería recibirlo?
Los investigadores compartieron una serie de detalles con las IAs —las variantes empleadas no fueron especificadas— relacionados con los pacientes ficticios, ambos necesitados del órgano. Por ejemplo, incluyeron información sobre la edad, el estado de salud, sus hábitos de consumo de alcohol y el número de personas a su cargo.
“No deciden como lo hacemos los humanos”
Luego de recibir las respuestas de los chatbots, las compararon con las de personas sin formación médica para determinar coincidencias y diferencias. ¿Qué concluyeron? Los sistemas automatizados tendieron a simplificar la complejidad de las decisiones complejas y mostraron una confianza excesiva en situaciones en las que no hay respuestas únicas o correctas.
“Los chatbots de IA a menudo difieren de los valores humanos en la forma en que ponderan las características de un paciente”, señaló Hadi Hosseini, líder del estudio. “Se centran en un solo factor, como los hábitos de consumo de alcohol, en lugar de sopesar múltiples consideraciones como lo hacen las personas”, agregó.
Según Hosseini, la confianza en respuestas únicas también los diferencia. “Incluso cuando se les da directamente la opción de ‘lanzar una moneda’, la mayoría de los modelos de IA optan por una respuesta segura y determinista. Esa es una brecha significativa, ya que los dilemas morales reales a menudo no tienen una única respuesta claramente correcta”, comentó.
Donación de órganos e inteligencia artificial: los alcances del estudio
Tal como observa New York Post, los investigadores de Penn University no pretenden fomentar el uso de esas tecnologías como sustituto del juicio profesional. Sin embargo, echan luz sobre la creciente presencia de la IA en el ámbito de la medicina y señalan los riesgos.
“Las decisiones morales en contextos como la donación de órganos determinan directamente quién vive y quién muere, por lo que acertar con IA en estos casos no es opcional”, sostuvo Hosseini y remarcó la importancia de más investigaciones y regulaciones conforme estos sistemas se integran en este y otros sectores.
