Bajo el escrutinio de activistas (y padres), OpenAI ha formado un nuevo equipo para estudiar formas de evitar que los ni\u00f1os hagan un mal uso o abusen de sus herramientas de inteligencia artificial.<\/p>\n
En una nueva lista de trabajos en su p\u00e1gina de carrera, OpenAI revela la existencia de un equipo de seguridad infantil, que seg\u00fan la compa\u00f1\u00eda est\u00e1 trabajando con grupos de pol\u00edticas, asuntos legales y de investigaci\u00f3n de la plataforma dentro de OpenAI, as\u00ed como con socios externos para gestionar \u201cprocesos, incidentes y revisiones\u201d. \u201drelativo a usuarios menores de edad.<\/p>\n
Actualmente, el equipo est\u00e1 buscando contratar a un especialista en seguridad infantil, que ser\u00e1 responsable de aplicar las pol\u00edticas de OpenAI en el contexto del contenido generado por IA y trabajar en procesos de revisi\u00f3n relacionados con contenido \u00absensible\u00bb (presumiblemente relacionado con ni\u00f1os).<\/p>\n
Los proveedores de tecnolog\u00eda de cierto tama\u00f1o dedican una buena cantidad de recursos a cumplir con leyes como la Regla de Protecci\u00f3n de la Privacidad Infantil en L\u00ednea de EE. UU., que exige controles sobre lo que los ni\u00f1os pueden (y no pueden) acceder en la web, as\u00ed como sobre qu\u00e9 tipo de datos las empresas puede cobrar sobre ellos. Por lo tanto, el hecho de que OpenAI est\u00e9 contratando expertos en seguridad infantil no es una sorpresa total, especialmente si la compa\u00f1\u00eda espera alg\u00fan d\u00eda una base significativa de usuarios menores de edad. (Los t\u00e9rminos de uso actuales de OpenAI requieren el consentimiento de los padres para ni\u00f1os de 13 a 18 a\u00f1os y proh\u00edben su uso para ni\u00f1os menores de 13 a\u00f1os).<\/p>\n
Pero la formaci\u00f3n del nuevo equipo, que se produce varias semanas despu\u00e9s de que OpenAI anunciara una asociaci\u00f3n con Common Sense Media para colaborar en directrices de IA adaptadas a los ni\u00f1os y consiguiera su primer cliente educativo, tambi\u00e9n sugiere una cautela por parte de OpenAI de entrar en conflicto con las pol\u00edticas relativas a uso de IA por parte de menores y prensa negativa.<\/p>\n
\n
Los ni\u00f1os y adolescentes recurren cada vez m\u00e1s a las herramientas GenAI en busca de ayuda no solo con las tareas escolares sino tambi\u00e9n con cuestiones personales. Seg\u00fan una encuesta del Centro para la Democracia y la Tecnolog\u00eda, el 29% de los ni\u00f1os afirman haber utilizado ChatGPT para lidiar con la ansiedad o problemas de salud mental, el 22% para problemas con amigos y el 16% para conflictos familiares.<\/p>\n
Algunos ven esto como un riesgo creciente.<\/p>\n
El verano pasado, las escuelas y universidades se apresuraron a prohibir ChatGPT por temor a plagio y desinformaci\u00f3n. Desde entonces, algunos han revocado sus prohibiciones. Pero no todos est\u00e1n convencidos del potencial positivo de GenAI, como se\u00f1alan encuestas como la del Centro de Internet m\u00e1s seguro del Reino Unido, que encontr\u00f3 que m\u00e1s de la mitad de los ni\u00f1os (53%) afirman haber visto a personas de su edad utilizar GenAI de forma negativa, por ejemplo, creando informaci\u00f3n falsa y cre\u00edble. Informaci\u00f3n o im\u00e1genes utilizadas para molestar a alguien.<\/p>\n
En septiembre, OpenAI public\u00f3 documentaci\u00f3n para ChatGPT en las aulas con indicaciones y preguntas frecuentes para ofrecer orientaci\u00f3n a los educadores sobre el uso de GenAI como herramienta de ense\u00f1anza. En uno de los art\u00edculos de soporte, OpenAI reconoci\u00f3 que sus herramientas, espec\u00edficamente ChatGPT, \u00abpueden producir resultados que no son apropiados para todas las audiencias o todas las edades\u00bb y recomend\u00f3 \u00abprecauci\u00f3n\u00bb con la exposici\u00f3n a ni\u00f1os, incluso aquellos que cumplen con los requisitos de edad.<\/p>\n
Est\u00e1n aumentando los pedidos de directrices sobre el uso de GenAI por parte de los ni\u00f1os.<\/span><\/p>\n<\/div>\n\n
A fines del a\u00f1o pasado, la Organizaci\u00f3n de las Naciones Unidas para la Educaci\u00f3n, la Ciencia y la Cultura (UNESCO) presion\u00f3 para que los gobiernos regularan el uso de GenAI en la educaci\u00f3n, incluida la implementaci\u00f3n de l\u00edmites de edad para los usuarios y barreras de seguridad sobre la protecci\u00f3n de datos y la privacidad de los usuarios. \u00abLa IA generativa puede ser una tremenda oportunidad para el desarrollo humano, pero tambi\u00e9n puede causar da\u00f1os y prejuicios\u00bb, dijo Audrey Azoulay, directora general de la UNESCO, en un comunicado de prensa. \u00abNo se puede integrar en la educaci\u00f3n sin la participaci\u00f3n p\u00fablica y las salvaguardias y regulaciones necesarias por parte de los gobiernos\u00bb.<\/p>\n<\/div><\/div>\n
\n
Source link-48<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"Bajo el escrutinio de activistas (y padres), OpenAI ha formado un nuevo equipo para estudiar formas de evitar que los ni\u00f1os hagan un mal uso o abusen de sus herramientas…<\/p>\n","protected":false},"author":1,"featured_media":999819,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[21980],"tags":[105,25696,575,3781,104,49133,107,388],"_links":{"self":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/999818"}],"collection":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/comments?post=999818"}],"version-history":[{"count":1,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/999818\/revisions"}],"predecessor-version":[{"id":999820,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/999818\/revisions\/999820"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media\/999819"}],"wp:attachment":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media?parent=999818"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/categories?post=999818"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/tags?post=999818"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}