OpenAI espera ganarse la confianza de los padres (y de los formuladores de políticas) asociándose con organizaciones que trabajan para minimizar los daños de la tecnología y los medios a niños, preadolescentes y adolescentes.
Por ejemplo, OpenAI anunció hoy una asociación con Common Sense Media, la organización sin fines de lucro que revisa y clasifica la idoneidad de diversos medios y tecnologías para niños, para colaborar en pautas de IA y materiales educativos para padres, educadores y adultos jóvenes.
Como parte de la asociación, OpenAI trabajará con Common Sense Media para seleccionar GPT “familiares” (aplicaciones de chatbot impulsadas por los modelos GenAI de OpenAI) en GPT Store, el mercado GPT de OpenAI, basado en los estándares de calificación y evaluación de Common Sense, OpenAI. dice el director ejecutivo Sam Altman.
«La IA ofrece beneficios increíbles para las familias y los adolescentes, y nuestra asociación con Common Sense fortalecerá aún más nuestro trabajo de seguridad, garantizando que las familias y los adolescentes puedan utilizar nuestras herramientas con confianza», añadió Altman en una declaración enlatada.
El lanzamiento de la asociación se produce después de que OpenAI dijera que participaría en el nuevo marco de Common Sense, lanzado en septiembre, para calificaciones y revisiones diseñadas para evaluar la seguridad, la transparencia, el uso ético y el impacto de los productos de IA. El marco de Common Sense tiene como objetivo producir una «etiqueta nutricional» para aplicaciones impulsadas por IA, según el cofundador y director ejecutivo de Common Sense, James Steyer, para arrojar luz sobre los contextos en los que se utilizan las aplicaciones y resaltar áreas de posibles oportunidades y daños contra un conjunto de principios de “sentido común”.
El logotipo de OpenAI mostrado en la pantalla de un teléfono inteligente frente a la pantalla de la computadora con el logotipo de ChatGPT. Créditos de imagen: Didem Mente/Agencia Anadolu / Getty Images
En un comunicado de prensa, Steyer aludió al hecho de que los padres de hoy en día siguen teniendo en general menos conocimientos sobre las herramientas GenAI (por ejemplo, el chatbot viral ChatGPT impulsado por IA de OpenAI) que las generaciones más jóvenes. Una encuesta de Impact Research encargada por Common Sense Media a finales del año pasado encontró que el 58% de los estudiantes de 12 a 18 años han utilizado ChatGPT en comparación con el 30% de los padres de niños en edad escolar.
«Juntos, Common Sense y OpenAI trabajarán para garantizar que la IA tenga un impacto positivo en todos los adolescentes y familias», dijo Steyer en un comunicado enviado por correo electrónico. “Nuestras guías y selección estarán diseñadas para educar a las familias y a los educadores sobre el uso seguro y responsable de [OpenAI tools like] ChatGPT, para que podamos evitar colectivamente cualquier consecuencia no deseada de esta tecnología emergente”.
OpenAI está bajo presión de los reguladores para demostrar que sus aplicaciones impulsadas por GenAI, incluido ChatGPT, son una bendición general para la sociedad, no un perjuicio para ella. El verano pasado, la Comisión Federal de Comercio de EE. UU. abrió una investigación sobre OpenAI para determinar si ChatGPT perjudicaba a los consumidores mediante la recopilación de datos y la publicación de declaraciones falsas sobre individuos. Las autoridades de datos europeas también han expresado su preocupación por el manejo de información privada de OpenAI.
Las herramientas de OpenAI, como todas las herramientas de GenAI, tienden a inventar cosas con confianza y a equivocarse en hechos básicos. Y están sesgados, un reflejo de los datos que se utilizaron para entrenarlos.
Los niños y adolescentes, conscientes de las limitaciones de las herramientas o no, recurren cada vez más a ellas en busca de ayuda no sólo con las tareas escolares sino también con cuestiones personales. Según una encuesta del Centro para la Democracia y la Tecnología, el 29% de los niños afirman haber utilizado ChatGPT para lidiar con la ansiedad o problemas de salud mental, el 22% para problemas con amigos y el 16% para conflictos familiares.