Un abogado penalista presentó ante un tribunal testimonios de personas que nunca existieron y documentos que tampoco habían sido redactados, después de utilizar ChatGPT para preparar la defensa de un hombre condenado por asesinato.
El caso ocurrió en Nuevo México y terminó con una multa de 5.000 dólares para el letrado, además de una remisión al Colegio de Abogados estatal para determinar si corresponde aplicar medidas disciplinarias.
El abogado Stephen Aarons representaba a Oscar Renee Sandoval, condenado el año pasado a cadena perpetua por el asesinato de la madre de sus hijos. Durante el recurso presentado para defenderlo, el letrado incluyó nombres de testigos inexistentes, testimonios falsos e informes policiales que nunca habían sido elaborados.
Cuando el Tribunal Supremo de Nuevo México detectó los errores, Aarons explicó que había utilizado ChatGPT, el chatbot de OpenAI, y que desconocía hasta qué punto el sistema podía generar información falsa. El abogado calificó lo ocurrido como un “error de buena fe”.
La explicación, sin embargo, no convenció a los jueces. El tribunal consideró que el abogado tenía la obligación profesional de comprobar la información incluida en los documentos antes de presentarlos.
ChatGPT generó información que no existía
Aarons explicó que había introducido en ChatGPT una transcripción generada por ordenador y otro material relacionado con el caso. Su intención era utilizar la herramienta para resumir la documentación y facilitar la preparación del recurso.
Según su explicación, esperaba que el sistema produjera un resumen fiable de la información proporcionada. Sin embargo, ChatGPT generó datos que no estaban presentes en el material original y que terminaron incorporándose a la documentación presentada ante el tribunal.
Entre los errores aparecieron supuestos testimonios de personas inexistentes, además de referencias a informes policiales que nunca habían sido redactados.
Este tipo de respuestas falsas se conoce como “alucinaciones” de la inteligencia artificial. Se produce cuando un modelo genera información incorrecta, inventada o no respaldada por sus fuentes, pero la presenta con una redacción que puede resultar convincente.
Durante una vista celebrada el 21 de agosto, la jueza C. Shannon Bacon cuestionó al abogado sobre su desconocimiento de estos riesgos y señaló que los problemas derivados del uso de IA en el ámbito jurídico ya son ampliamente conocidos.
El tribunal sancionó al abogado
El Tribunal Supremo de Nuevo México declaró a Aarons culpable de desacato por no verificar la exactitud de la documentación presentada.
Además de la multa de 5.000 dólares, la corte remitió el caso al Colegio de Abogados de Nuevo México. Este organismo deberá analizar la conducta del profesional y determinar si corresponde adoptar medidas disciplinarias adicionales.
Aarons manifestó posteriormente que estaba arrepentido y pidió que se tuviera en cuenta que se trató de un error de buena fe. También reconoció que el caso demuestra los riesgos de confiar en una tecnología que puede resultar útil, pero que no siempre proporciona información correcta.
Sandoval, por su parte, tendrá ahora otro abogado, ya que su caso será asumido por un defensor de oficio.
Los errores de la IA también aparecen en otros tribunales
El caso de Nuevo México no es aislado. En los últimos años se han registrado diferentes situaciones en las que abogados presentaron documentos judiciales con información incorrecta generada por sistemas de inteligencia artificial.
En algunos casos, los modelos han inventado sentencias, autores, precedentes o referencias jurídicas. También se han producido situaciones en las que las sentencias citadas existían, pero no tenían relación con el argumento que el abogado pretendía respaldar.
Uno de estos episodios ocurrió en Siracusa, donde un abogado utilizó cuatro precedentes atribuidos al Tribunal Supremo italiano. Aunque las sentencias existían, el juez comprobó que trataban asuntos diferentes y que no servían para sustentar los argumentos presentados.
También un bufete de Nueva York tuvo que disculparse ante un juez federal después de presentar un escrito con referencias erróneas o inexistentes generadas mediante IA.
Estos casos tienen un elemento común: la falta de una comprobación humana adecuada. Los modelos pueden ayudar a resumir documentos o preparar borradores, pero sus respuestas no garantizan que los datos sean verdaderos.
