Lo que necesitas saber
- La FTC está investigando ChatGPT.
- La comisión busca entender si OpenAI ha violado alguna ley de protección al consumidor.
- OpenAI recibió una carta de demanda de 20 páginas que destaca las preocupaciones de la comisión sobre sus prácticas de seguridad de datos.
- Es probable que Microsoft se vea afectado si OpenAI se encuentra mal.
La Comisión Federal de Comercio (FTC) ha estado en los titulares durante un minuto caliente por un par de razones. Como saben, la agencia ha estado en el campo de batalla con Microsoft en un intento por bloquear su adquisición de Activision Blizzardcitando además que esto pondría a sus competidores en desventaja.
Pero como parece, Microsoft Xbox contra FTC La saga podría estar llegando a su fin pronto. La comisión recientemente retiró su juicio interno contra la adquisición pendiente de Microsoft de Activision Blizzard.
Mientras esperamos a ver qué sigue, la FTC ha cambiado de marcha y ahora está investigando el ChatGPT de OpenAI. La comisión ya inició una investigación para determinar si el chatbot impulsado por IA ha violado la ley de protección al consumidor. (a través de la herramienta Motlety)
La comisión emitió una carta de demanda de 20 páginas que destaca sus preocupaciones sobre las prácticas de seguridad de datos de OpenAI. También existe una creciente preocupación por el impacto de ChatGPT en la reputación de sus usuarios.
OpenAI deberá proporcionar a la comisión una cuenta detallada de las quejas presentadas por los usuarios cada vez que el chatbot les proporcionó «información falsa», lo que en última instancia manchó su reputación. En desarrollos recientes, un estudio realizado por Standford destacó que ChatGPT se está volviendo más tonto con el tiempo.
A principios de este año, Microsoft amplió su asociación con OpenAI al hacer una inversión multimillonaria, convirtiéndose así en el mayor inversor de la compañía. Desde entonces, Microsoft ha integrado la IA en la mayoría de sus productos y servicios.
Con esto en mente, si la investigación de la FTC sobre OpenAI encuentra discrepancias, Microsoft también se verá afectado indirectamente.
Análisis
El mandato de la FTC es proteger los mejores intereses de los consumidores de prácticas maliciosas. En el pasado, organizaciones como Meta, Zoom, Twitter y más han pagado cuantiosas multas después de que se les encontrara culpables de problemas relacionados con la privacidad.
Las empresas detrás de estas herramientas dependen en gran medida de datos privados y públicos para entrenar sus modelos de IA. Y si bien es posible entrenarlos usando sus propios datos, los chatbots como ChatGPT y Chat de Bing requieren un conjunto de datos más amplio, ya que las personas los usan por múltiples razones, incluida la resolución de problemas matemáticos complejos, la investigación y más.
Hasta hace poco, ChatGPT se basaba en el modelo GPT-3.5lo que supuso un gran revés ya que la herramienta solo podía acceder a la información hasta septiembre de 2021. Sin embargo, OpenAI lanzó recientemente una nueva función, Navegar con Bingpara que los usuarios de iOS mejoren la experiencia de búsqueda, aunque deberá tener una suscripción a ChatGPT Plus para acceder a ella.
El éxito de un chatbot está determinado por su precisión y, como sabe, GPT-3.5 y GPT-4 se actualizan con los comentarios y los datos de los usuarios. Es imposible determinar con precisión cómo se hace esto, ya que los chatbots no siempre son precisos. En el pasado, se han hecho varios informes sobre Bing Chat alucinando e incluso dando respuestas equivocadas.
Como tal, muchas organizaciones han expresado abiertamente su preocupación por estos chatbots y cómo funcionan. Microsoft y OpenAI han indicado que han puesto elaborar medidas de seguridad para garantizar que sus entradas no se salgan de control. Aún así, las organizaciones son reacias a la tecnología y han indicado categóricamente que están en contra de que los chatbots usen sus datos, especialmente sin su conocimiento.
Su reticencia se centra principalmente en cuestiones de seguridad y derechos de autor. ChatGPT tiene acceso a vastos recursos de los usuarios, y el efecto sería bastante significativo si los atacantes lo pusieran en peligro. En junio, un informe de una empresa de ciberseguridad reveló que Los piratas informáticos accedieron a más de 100,000 credenciales de ChatGPT y vendido en la dark web. Pudieron acceder a las credenciales a través de malware de robo de información.
La comisión también analizará cómo OpenAI almacena los datos de los consumidores, las medidas de seguridad que utiliza la empresa para proteger los datos de los consumidores y el daño a la reputación y, por último, los ataques que han afectado a ese chatbot en el pasado.
Existe la necesidad de reglas y regulaciones que se utilizarán para regir cómo se realizan los desarrollos de IA. A principios de este año, los actores clave de la industria firmaron una carta en la que solicitaban una suspensión de seis meses para desarrollar entradas más nuevas. Esto es para proporcionar a los legisladores tiempo suficiente para mantenerse al día con los desarrollos recientes en el sector. El director ejecutivo de Microsoft, Satya Nadella, comentó sobre el asunto el mes pasado durante una entrevista e indicó que:
«Dicho esto, en este punto, en lugar de simplemente decir alto, diría que debemos acelerar el trabajo que se debe hacer para crear estas alineaciones. No lanzamos Sydney con GPT-4 el primer día que lo vi, porque tuvimos que hacer mucho trabajo para construir un arnés de seguridad. Pero también sabíamos que no podíamos hacer toda la alineación en el laboratorio. Para alinear un modelo de IA con el mundo, hay que alinearlo en el mundo y no en alguna simulación».
Si la investigación de la FTC descubre actos ilícitos por parte de OpenAI. Podría afectar negativamente a Microsoft. Si bien la FTC no puede hacer nuevas leyes, puede dar recomendaciones al gobierno de los EE. UU. que moderen el desarrollo de modelos de IA. Y si se implementan más restricciones para limitar la cantidad de recursos a los que puede acceder el chatbot, el chatbot de Microsoft, Chat de Bingse verá muy afectado ya que limitará su precisión.
Será interesante ver qué descubre la FTC durante su investigación y los próximos pasos a seguir. Los mantendremos informados cuando sepamos más sobre esta historia en desarrollo.