Imágenes Getty | Andrey Popov
Un abogado está en problemas después de admitir que usó ChatGPT para ayudar a redactar documentos judiciales que citaban seis casos inexistentes inventados por la herramienta de inteligencia artificial.
El abogado Steven Schwartz de la firma Levidow, Levidow & Oberman «lamenta mucho haber utilizado inteligencia artificial generativa para complementar la investigación legal realizada aquí y nunca lo hará en el futuro sin una verificación absoluta de su autenticidad», escribió Schwartz en una declaración jurada el pasado mes de mayo. 24 con respecto a las citaciones falsas presentadas previamente en el Tribunal de Distrito de EE. UU. para el Distrito Sur de Nueva York.
Schwartz escribió que «el uso de la inteligencia artificial generativa ha evolucionado dentro de los bufetes de abogados» y que «consultó el sitio web de inteligencia artificial ChatGPT para complementar la investigación legal realizada».
Las «citas y opiniones en cuestión fueron proporcionadas por ChatGPT, que también proporcionó su fuente legal y aseguró la confiabilidad de su contenido», escribió. Schwartz admitió que «se basó en las opiniones legales que le proporcionó una fuente que se reveló poco confiable» y afirmó que es su culpa por no confirmar las fuentes proporcionadas por ChatGPT.
Schwartz no consideró previamente la posibilidad de que una herramienta de inteligencia artificial como ChatGPT pudiera proporcionar información falsa, a pesar de que los errores del chatbot de IA han sido ampliamente informados por inteligencia no artificial, como los periodistas humanos empleados por organizaciones de noticias acreditadas. La declaración jurada del abogado decía que «nunca había utilizado ChatGPT como fuente para realizar una investigación legal antes de este hecho y, por lo tanto, desconocía la posibilidad de que su contenido pudiera ser falso».
Juez pesa “circunstancia inédita”
El juez federal Kevin Castel está considerando castigos para Schwartz y sus asociados. En una orden del viernes, Castel programó una audiencia para el 8 de junio en la que Schwartz, el abogado Peter LoDuca y el bufete de abogados deben demostrar motivos por los que no deberían ser sancionados.
«A la Corte se le presenta una circunstancia sin precedentes», escribió Castel en una orden anterior el 4 de mayo. «Una presentación presentada por el abogado del demandante en oposición a una moción para desestimar está repleta de citas de casos inexistentes… Seis de los los casos presentados parecen ser decisiones judiciales falsas con citas falsas y citas internas falsas».
Las presentaciones incluían no solo nombres de casos inventados sino también una serie de pruebas con «extractos» de las decisiones falsas. Por ejemplo, el falso Varghese contra China Southern Airlines opinión citó varios precedentes que no existen.
«La decisión falsa de ‘Varghese’ contiene citas internas y citas que, a su vez, son inexistentes», escribió Castel. Otras cinco «decisiones presentadas por el abogado del demandante contienen deficiencias similares y también parecen ser falsas», escribió Castel.
Los otros cinco casos falsos fueron llamados Shaboon contra Egyptair, Petersen c. Iran Air, Martínez contra Delta Airlines, Patrimonio de Durden contra KLM Royal Dutch Airlinesy Miller contra United Airlines.