Las calificaciones más altas fueron para servicios de inteligencia artificial para educación como Ello, que utiliza el reconocimiento de voz para actuar como tutor de lectura, y Khanmigo, el asistente de chatbot de Khan Academy para estudiantes, que permite a los padres monitorear las interacciones de un niño y envía una notificación si los algoritmos de moderación de contenido detectan una intercambio que viola las pautas de la comunidad. El informe le da crédito al creador de ChatGPT, OpenAI, por hacer que el chatbot genere menos texto potencialmente dañino para los niños que cuando se lanzó por primera vez el año pasado, y recomienda su uso por parte de educadores y estudiantes mayores.
Además de My AI de Snapchat, los generadores de imágenes Dall-E 2 de OpenAI y Stable Diffusion de la startup Stability AI también obtuvieron malas puntuaciones. Los críticos de Common Sense advirtieron que las imágenes generadas pueden reforzar los estereotipos, difundir deepfakes y, a menudo, representar a mujeres y niñas de manera hipersexualizada.
Cuando se le pide a Dall-E 2 que genere imágenes fotorrealistas de personas ricas de color, crea dibujos animados, imágenes de baja calidad o imágenes asociadas con la pobreza, descubrieron los revisores de Common Sense. Su informe advierte que Stable Diffusion plantea un riesgo “insondable” para los niños y concluye que los generadores de imágenes tienen el poder de “erosionar la confianza hasta el punto en que la democracia o las instituciones cívicas no pueden funcionar”.
«Creo que todos sufrimos cuando la democracia se erosiona, pero los jóvenes son los mayores perdedores, porque heredarán el sistema político y la democracia que tenemos», dice el director ejecutivo de Common Sense, Jim Steyer. La organización sin fines de lucro planea realizar miles de revisiones de IA en los próximos meses y años.
Common Sense Media publicó sus calificaciones y reseñas poco después de que los fiscales generales estatales presentaran una demanda contra Meta alegando que pone en peligro a los niños y en un momento en que los padres y maestros apenas comienzan a considerar el papel de la IA generativa en la educación. La orden ejecutiva del presidente Joe Biden sobre IA emitida el mes pasado requiere que el secretario de educación emita orientaciones sobre el uso de la tecnología en la educación durante el próximo año.
Susan Mongrain-Nock, madre de dos hijos en San Diego, sabe que su hija Lily, de 15 años, usa Snapchat y le preocupa que vea contenido dañino. Ha tratado de generar confianza hablando con su hija sobre lo que ve en Snapchat y TikTok, pero dice que sabe poco sobre cómo funciona la inteligencia artificial y agradece nuevos recursos.