Según se informa, la FTC se encuentra al menos en la fase exploratoria de la investigación de OpenAI sobre si la IA conversacional ChatGPT insignia de la compañía hizo declaraciones «falsas, engañosas, despectivas o dañinas» sobre las personas. Parece poco probable que esto conduzca a una represión repentina, pero muestra que la FTC está haciendo más que advertir a la industria de IA sobre posibles violaciones.
The Washington Post fue el primero en informar la noticia, citando el acceso a una carta de 20 páginas a OpenAI solicitando información sobre quejas por menosprecio. La FTC se negó a comentar y señaló que sus investigaciones no son públicas.
En febrero, el regulador anunció una nueva Oficina de Tecnología para enfrentarse al «aceite de serpiente» del sector tecnológico, y poco después advirtió a las empresas que hacen afirmaciones sobre la IA que están sujetas a los mismos requisitos de verdad que cualquier otra persona. “Mantenga sus reclamos de IA bajo control”, escribieron, o la FTC lo hará.
Aunque la carta informada por la publicación no es la primera vez que la agencia adopta alguna de las muchas formas de AI, parece anunciar que el actual líder mundial indiscutible en el campo, OpenAI, debe estar listo para justificarse.
Este tipo de investigación no surge de la nada: la FTC no mira a su alrededor y dice: «Eso parece sospechoso». Generalmente se les presenta una demanda o denuncia formal y las prácticas descritas en ella implican que se está ignorando la normativa. Por ejemplo, una persona puede demandar a una compañía de suplementos porque las píldoras la enfermaron, y la FTC iniciará una investigación por eso porque hay evidencia de que la compañía mintió sobre los efectos secundarios.
En este caso, existe una alta probabilidad de que una demanda como esta, en la que un alcalde australiano se quejó ante OpenAI de que ChatGPT dijo que había sido acusado de soborno y sentenciado a prisión, entre otras cosas, podría dar lugar a una investigación. (Ese asunto está en curso y, por supuesto, la jurisdicción es incorrecta, pero es casi seguro que hay más como este).
Publicar tales cosas podría equivaler a difamación o libelo o simplemente «daño a la reputación», como supuestamente los llama la carta actual de la FTC a OpenAI. Es casi seguro que se trata de ChatGPT porque es el único producto realmente público en la cartera de OpenAI que podría hacer tal cosa: GPT-4 y las otras API están demasiado bloqueadas (y son demasiado recientes) para ser consideradas.
Difícilmente es pan comido: los aspectos técnicos por sí solos cuestionan si esto cuenta como publicación o discurso o incluso algo más que una comunicación privada; todo esto tendría que probarse.
Pero tampoco es una locura pedirle a una empresa que explique. Una cosa es cometer un error y otra inventar sistemática e indetectablemente detalles sobre las personas, a gran escala, y no decir nada al respecto. Si el corrector ortográfico de Microsoft Word agregara ocasionalmente «criminal convicto» delante de los nombres de las personas, es mejor que crea que habría un alboroto.
Aunque la FTC ha recibido algunas derrotas de alto perfil últimamente en la forma de sus esfuerzos contra las fusiones dirigidos a Meta y Microsoft, también ha criticado a las empresas tecnológicas por problemas de privacidad e incluso violaciones adyacentes a la IA.