\n<\/p>\n
OpenAI public\u00f3 el mi\u00e9rcoles un borrador de documentaci\u00f3n que describe c\u00f3mo quiere que se comporten ChatGPT y su otra tecnolog\u00eda de inteligencia artificial. Parte del extenso documento Model Spec revela que la compa\u00f1\u00eda est\u00e1 explorando un salto hacia la pornograf\u00eda y otros contenidos expl\u00edcitos.<\/p>\n
Las pol\u00edticas de uso de OpenAI actualmente proh\u00edben materiales sexualmente expl\u00edcitos o incluso sugerentes, pero una nota de \u00abcomentario\u00bb en parte de la especificaci\u00f3n del modelo relacionada con esa regla dice que la compa\u00f1\u00eda est\u00e1 considerando c\u00f3mo permitir dicho contenido.<\/p>\n
\u00abEstamos explorando si podemos brindar de manera responsable la capacidad de generar contenido NSFW en contextos apropiados para la edad a trav\u00e9s de API y ChatGPT\u00bb, dice la nota, utilizando un t\u00e9rmino coloquial para contenido considerado en contextos \u00abno seguros para el trabajo\u00bb. \u00abEsperamos comprender mejor las expectativas de los usuarios y de la sociedad sobre el comportamiento del modelo en esta \u00e1rea\u00bb.<\/p>\n
El documento Model Spec dice que el contenido NSFW \u00abpuede incluir erotismo, sangre extrema, insultos y malas palabras no solicitadas\u00bb. No est\u00e1 claro si las exploraciones de OpenAI sobre c\u00f3mo producir contenido NSFW de manera responsable prev\u00e9n flexibilizar su pol\u00edtica de uso s\u00f3lo ligeramente, por ejemplo para permitir la generaci\u00f3n de texto er\u00f3tico, o m\u00e1s ampliamente para permitir descripciones o representaciones de violencia.<\/p>\n
En respuesta a las preguntas de WIRED, la portavoz de OpenAI, Grace McGuire, dijo que la especificaci\u00f3n del modelo era un intento de \u00abaportar m\u00e1s transparencia al proceso de desarrollo y obtener una muestra representativa de perspectivas y comentarios del p\u00fablico, los formuladores de pol\u00edticas y otras partes interesadas\u00bb. Se neg\u00f3 a compartir detalles sobre lo que implica la exploraci\u00f3n de OpenAI de la generaci\u00f3n de contenido expl\u00edcito o qu\u00e9 comentarios ha recibido la compa\u00f1\u00eda sobre la idea.<\/p>\n
A principios de este a\u00f1o, la directora de tecnolog\u00eda de OpenAI, Mira Murati, dijo El periodico de Wall Street<\/em> que \u00abno estaba segura\u00bb de si la empresa permitir\u00eda en el futuro que se hicieran representaciones de desnudos con la herramienta de generaci\u00f3n de v\u00eddeos de la empresa, Sora.<\/p>\n La pornograf\u00eda generada por IA se ha convertido r\u00e1pidamente en una de las aplicaciones m\u00e1s grandes y preocupantes del tipo de tecnolog\u00eda de IA generativa en la que OpenAI ha sido pionera. La llamada pornograf\u00eda deepfake (im\u00e1genes o v\u00eddeos expl\u00edcitos creados con herramientas de inteligencia artificial que representan a personas reales sin su consentimiento) se ha convertido en una herramienta com\u00fan de acoso contra mujeres y ni\u00f1as. En marzo, WIRED inform\u00f3 sobre lo que parecen ser los primeros menores estadounidenses arrestados por distribuir desnudos generados por IA sin consentimiento, despu\u00e9s de que la polic\u00eda de Florida acus\u00f3 a dos adolescentes por tomar im\u00e1genes que mostraban a compa\u00f1eros de secundaria.<\/p>\n \u201cLas violaciones de la privacidad \u00edntima, incluidos v\u00eddeos sexuales ultrafalsos y otras im\u00e1genes \u00edntimas sintetizadas no consensuadas, son rampantes y profundamente da\u00f1inas\u201d, afirma Danielle Keats Citron, profesora de la Facultad de Derecho de la Universidad de Virginia que ha estudiado el problema. \u00abAhora tenemos un claro respaldo emp\u00edrico que demuestra que ese abuso cuesta a las personas dirigidas oportunidades cruciales, incluso trabajar, hablar y estar f\u00edsicamente seguros\u00bb.<\/p>\n Citron califica de \u00abalarmante\u00bb la posible adopci\u00f3n de contenido expl\u00edcito de IA por parte de OpenAI.<\/p>\n Como las pol\u00edticas de uso de OpenAI proh\u00edben la suplantaci\u00f3n de identidad sin permiso, las im\u00e1genes expl\u00edcitas no consensuadas seguir\u00edan prohibidas incluso si la empresa permitiera a los creadores generar material NSFW. Pero queda por ver si la empresa podr\u00eda moderar efectivamente la generaci\u00f3n expl\u00edcita para evitar que los malos actores utilicen las herramientas. Microsoft realiz\u00f3 cambios en una de sus herramientas de inteligencia artificial generativa despu\u00e9s de que 404 Media informara que hab\u00eda sido utilizada para crear im\u00e1genes expl\u00edcitas de Taylor Swift que se distribuyeron en la plataforma social X.<\/p>\n