Un tribunal de apelaciones descubrió que Richard Bednar incluyó referencias a casos inexistentes generados por inteligencia artificial en una petición legal. El tribunal de apelaciones de Utah ha sancionado al abogado Richard Bednar después de descubrir que utilizó ChatGPT para elaborar un documento judicial que contenía citas falsas, incluyendo la referencia a un caso completamente inexistente.
El caso que desató la controversia
Bednar, junto con Douglas Durbano, otro abogado de Utah que representaba al peticionario, presentó una «petición oportuna de apelación interlocutoria». Sin embargo, tras revisar el documento, el abogado de la parte contraria detectó múltiples citas falsas de casos judiciales.
«Parece que al menos algunas partes de la petición pueden haber sido generadas por IA, incluyendo citas e incluso citas textuales de al menos un caso que no parece existir en ninguna base de datos legal (y que solo pudo encontrarse en ChatGPT) y referencias a casos que no tienen ninguna relación con la materia referenciada«, señaló el abogado de la parte contraria en los documentos judiciales.
Un caso judicial que nunca existió
El documento judicial hacía referencia a un caso titulado «Royer v Nelson», que tras una exhaustiva búsqueda resultó no existir en ninguna base de datos legal. Esta referencia ficticia fue aparentemente generada por ChatGPT y no fue verificada antes de su presentación ante el tribunal.
La confesión y las disculpas
Tras el descubrimiento de las irregularidades, Bednar «reconoció ‘los errores contenidos en la petición’ y se disculpó«. Durante una audiencia celebrada en abril, tanto Bednar como su abogado «reconocieron que la petición contenía autoridad legal fabricada, que fue obtenida de ChatGPT, y aceptaron la responsabilidad por el contenido de la petición«.
¿Quién fue el responsable?
Según la defensa de Bednar, el documento fue elaborado por un «pasante de derecho sin licencia» – un graduado de la facultad de derecho que posteriormente fue despedido del bufete. Bednar admitió que no verificó independientemente la precisión del contenido antes de presentarlo ante el tribunal.
Es importante señalar que Durbano no participó en la creación de la petición y que Bednar se ofreció a pagar los honorarios de abogado relacionados para «enmendar el error«.
La posición del tribunal sobre la IA en el derecho
El tribunal de apelaciones de Utah emitió una declaración contundente sobre el uso de la inteligencia artificial en documentos legales:
«Estamos de acuerdo en que el uso de IA en la preparación de escritos es una herramienta de investigación legal que continuará evolucionando con los avances tecnológicos. Sin embargo, enfatizamos que cada abogado tiene el deber continuo de revisar y asegurar la precisión de sus presentaciones ante el tribunal. En el presente caso, el abogado del peticionario no cumplió con sus responsabilidades como guardián siendo miembro del Colegio de Abogados del Estado de Utah cuando presentó una petición que contenía precedentes falsos generados por ChatGPT«.
Las sanciones impuestas
Como resultado de las citas falsas, Bednar fue sancionado con las siguientes medidas:
- Pagar los honorarios de abogado de la parte contraria por la petición y la audiencia
- Reembolsar las tarifas a su cliente por el tiempo utilizado en preparar la presentación y asistir a la audiencia
- Donar $1,000 a la organización legal sin fines de lucro con sede en Utah «And Justice for All»
Un precedente preocupante en la era de la IA
Este caso representa uno de los primeros ejemplos documentados de sanciones legales por el uso inadecuado de inteligencia artificial en documentos judiciales. La situación pone de manifiesto los riesgos de confiar ciegamente en herramientas de IA para la investigación legal sin la debida verificación profesional.
El incidente sirve como advertencia para la profesión legal sobre la necesidad de mantener estándares rigurosos de verificación, incluso cuando se utilizan tecnologías avanzadas como ChatGPT para asistir en la investigación y redacción de documentos legales.
La sanción de Bednar establece un precedente claro: la responsabilidad final por la precisión y veracidad de los documentos judiciales recae siempre en el abogado, independientemente de las herramientas tecnológicas utilizadas en su preparación.
