Imágenes falsas | Bloomberg
El exabogado de Donald Trump, Michael Cohen, admitió haber proporcionado citaciones judiciales falsas generadas por IA a su propio abogado, quien no comprobó si los casos citados eran reales antes de presentarlos en un escrito judicial. Cohen dijo que los casos judiciales falsos procedían de Google Bard y que pensaba que Bard era como «un motor de búsqueda supercargado» en lugar de una herramienta de inteligencia artificial generativa.
Como se informó anteriormente, el abogado de Cohen, David Schwartz, citó tres casos que no existen en una moción que busca la terminación anticipada de la libertad supervisada de Cohen. Las citaciones falsas pretendían mostrar casos anteriores en los que a los acusados se les permitió poner fin anticipadamente a la libertad supervisada: dos involucraban a distribuidores ficticios de cocaína y el otro a un evasor de impuestos inventado.
El escrito proporcionó números de casos, resúmenes y fechas de fallo para las citaciones, pero el juez determinó que los casos nunca sucedieron. Al enfrentarse a un castigo por violar las normas federales, Schwartz presentó una explicación en la que se disculpaba «por no comprobar estos casos personalmente antes de presentarlos al tribunal», pero también culpaba a «la conducta de su cliente».
Una respuesta la semana pasada del otro abogado de Cohen, E. Danya Perry, dijo que «el recuerdo de los eventos del Sr. Schwartz es en gran medida consistente con el del Sr. Cohen… Para resumir: el Sr. Cohen le proporcionó al Sr. Schwartz citas (y resúmenes de casos). ) que había encontrado en línea y creía que eran reales. El Sr. Schwartz los agregó a la moción, pero no verificó esas citas o resúmenes. Como resultado, el Sr. Schwartz presentó por error una moción con tres citaciones que, sin que el Sr. Schwartz lo supiera o el Sr. Cohen en ese momento, se refirió a casos inexistentes».
Perry, quien hizo su primera aparición en el caso una semana después del escrito del 29 de noviembre que incluía casos falsos, señaló que «alertó a la Corte sobre posibles problemas con las citaciones del Sr. Schwartz» después de descubrir los casos inexistentes. El caso Cohen se encuentra en el Tribunal de Distrito de Estados Unidos para el Distrito Sur de Nueva York.
«Para ser claros, el Sr. Cohen no sabía que los casos que identificó no eran reales y, a diferencia de su abogado, no tenía obligación de confirmarlo. Si bien no ha habido ninguna implicación en sentido contrario, se debe enfatizar que el Sr. Cohen no incurrió en ninguna mala conducta», escribió Perry.
Cohen fue inhabilitado hace 5 años
La presentación de Perry incluía una declaración de Cohen, quien cumplió condena en prisión después de declararse culpable de cinco cargos de evasión del impuesto sobre la renta personal, hacer declaraciones falsas a un banco, contribución excesiva a la campaña y provocar una contribución corporativa ilegal. Los cargos contra Cohen incluían pagos a dos mujeres para evitar que hicieran públicas acusaciones sobre aventuras con Trump antes de las elecciones presidenciales de 2016.
«Debo confiar en mis abogados en este asunto porque fui inhabilitado hace casi cinco años; los litigios de este tipo no eran una parte significativa de mi práctica antes; y actualmente no tengo acceso a Westlaw o una base de datos legal similar para investigar o verificar la jurisprudencia relevante», escribió Cohen la semana pasada.
Cohen no estaba satisfecho con el primer borrador de la moción de Schwartz y le pidió a Perry, quien lo había representado en asuntos no relacionados, que lo revisara. Cohen dijo que envió un mensaje de texto con las notas de Perry a Schwartz y proporcionó varias «citas y descripciones». [that] vino de Google Bard». Cohen explicó que no entendió qué es Google Bard:
Como no soy abogado, no me he mantenido al día con las tendencias emergentes (y los riesgos relacionados) en la tecnología legal y no me di cuenta de que Google Bard era un servicio de texto generativo que, como Chat-GPT, podía mostrar citas y descripciones que parecían reales pero que en realidad lo eran. no. En cambio, entendí que era un motor de búsqueda súper potente y lo había usado repetidamente en otros contextos para encontrar (con éxito) información precisa en línea. No sabía que Google Bard podía generar casos inexistentes, ni tenía acceso a Westlaw ni a otros recursos estándar para confirmar los detalles de los casos. En cambio, confié en el Sr. Schwartz y su equipo para examinar las adiciones que sugerí antes de incorporarlas.
El incidente recuerda a uno anterior en el mismo Tribunal de Distrito en el que un juez impuso una multa de 5.000 dólares a dos abogados y su bufete de abogados después de que admitieron haber utilizado ChatGPT para ayudar a redactar documentos judiciales que citaban seis casos inexistentes inventados por el chatbot de IA.