Abogado multado con $5,000 por incluir testigos inventados por ChatGPT en apelación de asesinato
El Tribunal Supremo de Nuevo México sancionó al abogado Stephen Aarons con $5,000 y lo declaró en desacato por presentar una apelación con testigos fabricados y testimonios falsos generados por ChatGPT.
👁 116 lecturas
El Tribunal Supremo de Nuevo México multó el miércoles al abogado Stephen Aarons con $5,000 y lo declaró en desacato por presentar una apelación de condena por asesinato que contenía testigos completamente inventados y testimonios falsos generados por inteligencia artificial. Según la resolución del tribunal recogida por Reuters, Aarons no cumplió con la obligación de «verificar las afirmaciones de hecho y la autoridad legal en su escrito generado por IA».
- El abogado Stephen Aarons fue multado con $5,000 y declarado en desacato por el Tribunal Supremo de Nuevo México.
- Su escrito de apelación contenía testimonios de testigos completamente inventados y descripciones falsas del tirador, todo generado por ChatGPT.
- La jueza C. Shannon Bacon le preguntó públicamente si leía las noticias, dado que las alucinaciones de IA en contextos legales son un problema ampliamente documentado.
El documento incluía «falso testimonio de testigos completamente fabricados», además de descripciones falsas sobre la ropa y el aspecto del tirador. Aarons admitió en una audiencia celebrada en agosto que utilizó ChatGPT porque creyó que la herramienta produciría un resumen «a prueba de balas» del juicio - sin comprender los riesgos que eso implicaba.
«¿Letrado, lee usted las noticias? ¿Escucha la radio? ¿Lee algo sobre lo que ocurre en el mundo? Porque el problema de que los abogados dependan de las alucinaciones de la IA es una noticia de portada todos los días.»
La pregunta de la magistrada resume la tensión central del caso: las alucinaciones de los modelos de lenguaje en el ámbito jurídico llevan años siendo noticia, y los tribunales han sancionado reiteradamente a despachos por citar jurisprudencia inexistente o citas distorsionadas. El año pasado, un juez reprendió a dos firmas legales por un escrito con «numerosas citas y transcripciones legales falsas, inexactas y engañosas»; los abogados de Mike Lindell, fundador de MyPillow, también fueron multados por incluir citas inventadas y referencias falsas generadas por IA.
Google · Tus fuentesBrilla más alto en tu Google - con un solo clicAñadir a fuentes preferidas →Un error con consecuencias reales en un caso de asesinato
Lo que distingue el caso de Aarons es la gravedad del proceso subyacente: una apelación de condena por asesinato, donde la calidad de los argumentos jurídicos puede determinar la libertad de una persona. Presentar testigos ficticios en ese contexto no es un error menor de formato; compromete directamente la integridad del proceso.
En un comunicado remitido a Reuters, el abogado reconoció su responsabilidad sin eludir las consecuencias: «Estoy arrepentido, pero espero que el comité disciplinario tenga en cuenta que fue un error honesto». El tribunal, sin embargo, no consideró suficiente esa explicación para eximirle de la sanción económica ni del desacato.
El número de abogados que incorporan herramientas de IA en su trabajo sigue creciendo, y con ello los incidentes en los que un tribunal detecta contenido alucinado. La pregunta que deja abierta este caso no es si la IA puede ayudar a los profesionales del derecho, sino si esos profesionales están asumiendo la responsabilidad de supervisar lo que esa IA produce antes de firmarlo.
More on this from FULGOR
herramientas de ia·GPT-6.1 Sol: precio, disponibilidad y prueba en españolGPT-6.1 Sol llega con el rendimiento de Astra a un quinto del precio. Analizamos los costes en USD, disponibilidad en ChatGPT y resultados de nuestras pruebas.