Common Sense, una conocida organización sin fines de lucro dedicada a la privacidad del consumidor, la ciudadanía digital y que proporciona calificaciones de medios para padres que desean evaluar las aplicaciones, juegos, podcasts, programas de televisión, películas y libros que consumen sus hijos, anunció esta mañana que presentará otro tipo de producto a su sistema de calificaciones y reseñas: los productos de tecnología de IA. La organización dice que construirá un nuevo sistema de calificación que evaluará los productos de IA en una serie de dimensiones, incluso si la tecnología aprovecha las «prácticas responsables de IA», así como su idoneidad para los niños.
Las nuevas revisiones de productos de IA se centrarán particularmente en aquellos que usan los niños y los educadores, señala Common Sense.
La decisión de incluir productos de IA en su línea se produjo después de una encuesta que realizó junto con Impact Research que encontró que el 82% de los padres buscaban un sistema de calificación que les ayudara a evaluar si los nuevos productos de IA, como ChatGPT, eran apropiados para los niños. Más de las tres cuartas partes de los encuestados (77 %) también dijeron que estaban interesados en productos impulsados por IA que podrían ayudar a los niños a aprender, pero solo el 40 % dijo que conocían un recurso confiable que podrían usar para obtener más información sobre la idoneidad de los productos de IA para sus necesidades. niños.
El nuevo sistema se diseñará con la ayuda de expertos en el campo de la inteligencia artificial y también tendrá como objetivo informar los próximos esfuerzos legislativos y regulatorios en torno a la seguridad en línea para menores, dijo la organización.
Por lo general, el sistema de calificaciones y reseñas de medios independientes de Common Sense, que se encuentra en commonsensemedia.org, proporcionará una calificación de idoneidad para la edad junto con medidas de cuánto contenido positivo o negativo pueden contener los medios, en áreas como modelos y mensajes positivos y representación diversa, o, en el lado más negativo, cosas como la violencia, la vulgaridad, el miedo, el uso de drogas y más. No está claro cómo Common Sense planea calificar los productos de IA bajo el nuevo sistema.
Sin embargo, en un documento de posición publicado en abril de 2023, Common Sense advirtió sobre varios problemas actuales con la IA moderna, incluida, a menudo, su falta de «barandillas significativas» que pueden hacerla peligrosa para los niños. Además, advirtió que las tecnologías de IA generativa, como ChatGPT de OpenAI, podrían ser susceptibles a sesgos en sus datos de entrenamiento, que incluyen grandes conjuntos de datos como sitios web, libros y artículos, como contenido extraído de Internet.
“Más allá de las preocupaciones sobre los derechos de autor… la cantidad de datos necesarios para entrenar modelos generativos casi garantiza que cualquier modelo generativo haya sido entrenado hasta cierto punto con información sesgada, estereotipos e información errónea, todo lo cual puede propagarse o reproducirse al producir resultados”, el había anotado el papel.
Common Sense no compartió un marco de tiempo sobre cuándo esperaba que se lanzara su nuevo sistema de calificación y revisión de IA, pero enfatizó la urgencia de construir dicho recurso.
“Debemos actuar ahora para garantizar que los padres, educadores y jóvenes estén informados sobre los peligros y las posibilidades de la IA y productos como ChatGPT”, dijo James P. Steyer, fundador y director ejecutivo de Common Sense Media, en un comunicado. “Es fundamental que haya un sistema de calificación de terceros independiente y confiable para informar al público y a los legisladores sobre el increíble impacto de la IA. En los últimos años, varias empresas tecnológicas han antepuesto las ganancias al bienestar de los niños y las familias. Hemos visto esta película antes, con la aparición de las redes sociales y la posterior falta de regulación de estas plataformas y, lamentablemente, sabemos cómo termina esa versión. Sencillamente, no debemos cometer los mismos errores con la IA, que tendrá consecuencias aún mayores para los niños y la sociedad”, agregó.
Además de sus calificaciones de los medios, el afiliado con fines de lucro de la organización, Common Sense Networks, se inspiró en sus recomendaciones para niños con el lanzamiento de un servicio de transmisión llamado Sensical en 2021. El servicio ofrece videos apropiados para niños de dos años. a través de 10.