Michael Cohen, ex abogado de Donald Trump, admitió haber citado casos judiciales falsos generados por IA en un documento legal que terminó ante un juez federal. como informó anteriormente por Los New York Times. A presentación abierta el viernes dice que Cohen utilizó Bard de Google para realizar investigaciones después de confundirlo con «un motor de búsqueda supercargado» en lugar de un chatbot de IA.
El documento en cuestión era una moción que pedía a un juez federal que acortara la duración de la libertad condicional de tres años de Cohen, que ahora enfrenta después de pasar tiempo en prisión y una declaración de culpabilidad por evasión fiscal y otros cargos. Pero después de revisar la carta, el juez de distrito estadounidense Jesse Furman escribió en una presentación que “ninguno de estos casos existe” y pidió al abogado de Cohen, David Schwartz, que explicara por qué los tres casos están incluidos en la moción y si su cliente ahora inhabilitado ayudó a redactarla.
En respuesta, Cohen presentó una declaración escrita diciendo que no tenía intención de engañar al tribunal, añadiendo que utilizó Google Bard para realizar investigaciones legales y envió algunos de sus hallazgos a Schwartz. Sin embargo, Cohen dice que no se dio cuenta de que los casos citados por Bard tenían el potencial de ser falsos, ni pensó que Schwartz agregaría las citaciones a la moción «sin siquiera confirmar que existían». Schwartz enfrenta posibles sanciones por incluir citaciones falsas.
“Como no abogado, no me he mantenido al día con las tendencias emergentes (y los riesgos relacionados) en la tecnología legal”
“Como no soy abogado, no me he mantenido al día con las tendencias emergentes (y los riesgos relacionados) en la tecnología legal y no sabía que Google Bard era un servicio de texto generativo que, como Chat-GPT, podía mostrar citas y descripciones que parecían reales pero en realidad no lo fueron”, escribe Cohen. “En cambio, entendí que era un motor de búsqueda súper potente y lo había usado repetidamente en otros contextos para encontrar (con éxito) información precisa en línea”.