Lo nuevo: Un abogado usó ChatGPT para preparar un recurso de asesinato. El Tribunal Supremo de Nuevo México le ha multado por incluir testigos que no existen | Radar Digital

«¿Ve usted las noticias? ¿Escucha la radio? ¿Lee algo de lo que está pasando en el mundo? Porque el problema de los abogados que confían en las alucinaciones de la IA es una noticia de portada cada día.» La frase la pronunció la magistrada C. Shannon Bacon desde el estrado del Tribunal Supremo de Nuevo México, dirigiéndose al abogado Stephen Aarons el 21 de agosto. El 10 de septiembre, el tribunal emitió su resolución: 5.000 dólares de multa, desacato y remisión al colegio de abogados para investigación disciplinaria.

El caso es sencillo en los hechos y revelador en lo que demuestra. Aarons aceptó el recurso de apelación de un cliente condenado por asesinato. Asumió el caso el año pasado y, según su propio relato, alimentó a ChatGPT con la transcripción del juicio y otros materiales para que le generara «un resumen a prueba de balas.» Lo que el sistema generó incluía declaraciones de testigos policiales que no existen, descripción de ropa del presunto tirador que no figura en el expediente y, en resumen, un recurso que el tribunal calificó de «contenido falso procedente de testigos completamente fabricados.»

Aarons dijo ante el tribunal que no entendía «el grado en el que la IA puede alucinar hechos.» Su declaración a Reuters fue igualmente directa: «Me arrepiento, pero espero que el colegio de abogados tenga en cuenta que fue un error honesto. Es una lección para todos los profesionales que confían en esta tecnología, potente pero a veces inestable.»