OpenAI se ha visto afectado por lo que parece ser la primera demanda por difamaci\u00f3n en respuesta a informaci\u00f3n falsa generada por ChatGPT. <\/p>\n<\/div>\n
Un locutor de radio en Georgia, Mark Walters, est\u00e1 demandando a la compa\u00f1\u00eda despu\u00e9s de que ChatGPT declarara que Walters hab\u00eda sido acusado de defraudar y malversar fondos de una organizaci\u00f3n sin fines de lucro. El sistema gener\u00f3 la informaci\u00f3n en respuesta a una solicitud de un tercero, un periodista llamado Fred Riehl. Walters’ caso<\/a> fue presentado el 5 de junio en el Tribunal Superior de Georgia del condado de Gwinnett y est\u00e1 buscando da\u00f1os monetarios no especificados de OpenAI.<\/p>\n<\/div>\n El caso es notable dadas las quejas generalizadas sobre informaci\u00f3n falsa generada por ChatGPT y otros chatbots. Estos sistemas no tienen una forma confiable de distinguir los hechos de la ficci\u00f3n, y cuando se les pide informaci\u00f3n, particularmente si se les pide que confirmen algo que el interrogador sugiere que es cierto, con frecuencia inventan fechas, hechos y cifras. <\/p>\n<\/div>\n \u201cEscuch\u00e9 sobre este nuevo sitio, que asum\u00ed falsamente que era como un s\u00faper motor de b\u00fasqueda\u201d.<\/p>\n<\/div>\n<\/div>\n Por lo general, estas fabricaciones no hacen m\u00e1s que enga\u00f1ar a los usuarios o hacerles perder el tiempo. Pero est\u00e1n comenzando a surgir casos de tales errores que causan da\u00f1o. Estos incluyen un profesor amenazando con reprobar su clase<\/a> despu\u00e9s de que ChatGPT afirm\u00f3 que sus estudiantes usaban IA para escribir sus ensayos, y un abogado frente a posibles sanciones<\/a> despu\u00e9s de usar ChatGPT para investigar casos legales falsos. El abogado en cuesti\u00f3n recientemente le dijo a un juez<\/a>: \u201cEscuch\u00e9 sobre este nuevo sitio, que asum\u00ed falsamente que era como un s\u00faper motor de b\u00fasqueda\u201d.<\/p>\n<\/div>\n OpenAI incluye un peque\u00f1o descargo de responsabilidad en la p\u00e1gina de inicio de ChatGPT que advierte que el sistema \u00abocasionalmente puede generar informaci\u00f3n incorrecta\u00bb, pero la compa\u00f1\u00eda tambi\u00e9n presenta a ChatGPT como una fuente de datos confiables, describiendo el sistema en el texto del anuncio como una forma de \u00abobtener respuestas\u00bb y \u00abaprender\u00bb. algo nuevo.\u00bb El propio CEO de OpenAI, Sam Altman, ha dicho en numerosas ocasiones<\/a> que prefiere aprender nueva informaci\u00f3n de ChatGPT que de los libros. <\/p>\n<\/div>\n Sin embargo, no est\u00e1 claro si existe o no un precedente legal para responsabilizar a una empresa por los sistemas de inteligencia artificial. generar informaci\u00f3n falsa o difamatoria<\/a>o si este caso en particular tiene un m\u00e9rito sustancial. <\/p>\n<\/div>\n Tradicionalmente en los Estados Unidos, Secci\u00f3n 230<\/a> protege a las empresas de Internet de la responsabilidad legal por la informaci\u00f3n producida por un tercero y alojada en sus plataformas. Se desconoce si estas protecciones se aplican a los sistemas de IA, que no solo se vinculan a las fuentes de datos, sino que generan informaci\u00f3n de nuevo (un proceso que tambi\u00e9n conduce a la creaci\u00f3n de datos falsos). <\/p>\n<\/div>\n La demanda por difamaci\u00f3n presentada por Walters en Georgia podr\u00eda poner a prueba este marco. El caso dice que un periodista, Fred Riehl, le pidi\u00f3 a ChatGPT que resumiera un caso real de la corte federal<\/a> mediante un enlace a un PDF en l\u00ednea. ChatGPT respondi\u00f3 creando un resumen falso del caso que fue detallado y convincente pero err\u00f3neo en varios aspectos. El resumen de ChatGPT conten\u00eda informaci\u00f3n objetivamente correcta, pero tambi\u00e9n acusaciones falsas contra Walters. Dijo que se cre\u00eda que Walters hab\u00eda malversado fondos de una organizaci\u00f3n sin fines de lucro de derechos de armas llamada Fundaci\u00f3n de la Segunda Enmienda \u201cm\u00e1s de $ 5,000,000\u201d. Walters nunca ha sido acusado de esto.<\/p>\n<\/div>\n Riehl nunca public\u00f3 la informaci\u00f3n falsa generada por ChatGPT pero verific\u00f3 los detalles con otra parte. No est\u00e1 claro en los archivos del caso c\u00f3mo Walters se enter\u00f3 de esta informaci\u00f3n err\u00f3nea. <\/p>\n<\/div>\n En particular, a pesar de cumplir con la solicitud de Riehl de resumir un PDF, ChatGPT no puede acceder a dichos datos externos sin el uso de complementos adicionales. La incapacidad del sistema para alertar a Riehl de este hecho es un ejemplo de su capacidad para enga\u00f1ar a los usuarios. (Aunque, cuando el borde<\/em> prob\u00f3 el sistema hoy en la misma tarea, respondi\u00f3 clara e informativamente, diciendo: \u00abLo siento, pero como modelo basado en texto de IA, no tengo la capacidad de acceder o abrir archivos PDF espec\u00edficos u otros documentos externos .\u201d)<\/p>\n<\/div>\n Eugene Volokh, profesor de derecho que ha escrito sobre la responsabilidad legal de los sistemas de IA<\/a>anotado en un entrada en el blog<\/a> que si bien el piensa\u201d tal calumnia reclama [against AI companies] son en principio legalmente viables\u201d, esta demanda en particular \u201cdeber\u00eda ser dif\u00edcil de mantener\u201d. Volokh se\u00f1ala que Walters no notific\u00f3 a OpenAI sobre estas declaraciones falsas, d\u00e1ndoles la oportunidad de eliminarlas, y que no ha habido da\u00f1os reales como resultado de la salida de ChatGPT. \u201cSin embargo, en cualquier caso, ser\u00e1 interesante ver qu\u00e9 sucede finalmente aqu\u00ed\u201d, dice Volokh.<\/p>\n<\/div>\n