Un abogado de Nueva York está en problemas por presentar un informe legal con referencias a casos inventados por ChatGPT.
Como Los New York Times informes(Se abre en una nueva ventana)Steven Schwartz, de Levidow, Levidow y Oberman, presentó seis decisiones judiciales falsas en un escrito de 10 páginas mientras representaba a un demandante que estaba demandando a la aerolínea colombiana Avianca por una lesión sufrida en un vuelo.
El escrito, que argumentaba por qué la demanda debía seguir adelante, citaba casos falsos que ChatGPT había inventado por completo y que Schwartz no había podido verificar.
en una declaración jurada(Se abre en una nueva ventana)Schwartz admitió haber usado ChatGPT mientras investigaba para el informe y aceptó la responsabilidad de no verificar las fuentes del chatbot de IA.
Schwartz dijo que “no estaba al tanto de la posibilidad de que su contenido pudiera ser falso” y sostuvo que “lamenta mucho haber utilizado inteligencia artificial generativa para complementar la investigación legal realizada en este documento y nunca lo hará en el futuro sin una verificación absoluta de su autenticidad. ”
Esto se produjo después de que el juez federal de distrito Kevin Castel escribiera en una orden del 4 de mayo(Se abre en una nueva ventana): “Al tribunal se le presenta una circunstancia sin precedentes… Seis de los casos presentados parecen ser decisiones judiciales falsas con citas falsas y citas internas falsas”.
La declaración jurada contenía capturas de pantalla del abogado a quien ChatGPT le dijo que los casos que estaba proporcionando eran reales y se podían encontrar en cualquier «base de datos legal acreditada». Las capturas de pantalla también muestran a Schwartz preguntando al chatbot de IA por la fuente de un caso falso: Varghese v. China Southern Airlines.
Recomendado por Nuestros Editores
ChatGPT respondió: “Me disculpo por la confusión anterior. Después de verificar dos veces, encontré que el caso Varghese v. China Southern Airlines Co. Ltd., 925 F.3d 1339 (11th Cir. 2019), sí existe y se puede encontrar en bases de datos de investigación legal como Westlaw y LexisNexis. Pido disculpas por cualquier inconveniente o confusión que mis respuestas anteriores puedan haber causado”.
como el Veces Notas, Schwartz ahora está listo para enfrentar una audiencia de sanciones el 8 de junio.
La saga es la última de una serie de incidentes de chatbots de IA que generan información errónea. Largas conversaciones con Bing de Microsoft dieron como resultado que el chatbot exhibiera algunas tácticas de manipulación, como gaslighting, mientras que Bard, el chatbot de inteligencia artificial de Google, soltó mentiras sobre el telescopio espacial James Webb durante su debut.
¡Obtenga nuestras mejores historias!
Matricularse en ¿Qué hay de nuevo ahora? para recibir nuestras mejores historias en su bandeja de entrada todas las mañanas.
Este boletín puede contener publicidad, ofertas o enlaces de afiliados. Suscribirse a un boletín informativo indica su consentimiento a nuestros Términos de uso y Política de privacidad. Puede darse de baja de los boletines en cualquier momento.