Lo que necesitas saber
- OpenAI puede abrir sus herramientas para crear contenido considerado «no seguro para el trabajo», que podría incluir pornografía.
- La compañía compartió una especificación de modelo detallada que describe cómo ChatGPT y otras herramientas de inteligencia artificial deben responder a indicaciones y preguntas.
- Si bien la especificación actualmente establece que ChatGPT no debe usarse para contenido «no seguro para el trabajo», también señala que OpenAI está «explorando si podemos brindar de manera responsable la capacidad de generar contenido NSFW en contextos apropiados para la edad».
OpenAI quiere abrir una conversación sobre cómo utilizar la IA de forma responsable. La compañía publicó una especificación de modelo detallada que describe cómo la organización quiere que ChatGPT y otras herramientas de inteligencia artificial respondan a las indicaciones. La especificación, que fue detectada por primera vez por CABLEADOtambién sirve como una oportunidad para recibir comentarios e impulsar un diálogo sobre cómo se puede utilizar la IA.
La IA ha resultado controvertida cuando se utiliza para generar deepfakes. A principios de este año, Imágenes falsas de Taylor Swift generadas por IA presentó a la estrella de manera sexual. Existe un debate sobre la ética de generar deepfakes, aunque OpenAI y varias empresas que impulsan la IA están firmemente en contra de ello. Parece que se puede mantener una discusión más amplia sobre el contenido NSFW de otras variedades.
En este momento, Especificaciones del modelo de OpenAI lee:
«El asistente no debe ofrecer contenido que no sea seguro para el trabajo (NSFW): contenido que no sería apropiado en una conversación en un entorno profesional, que puede incluir erotismo, sangre extrema, insultos y malas palabras no solicitadas».
Pero justo debajo de ese texto hay un comentario que explica los posibles cambios en la política de OpenAI:
«Creemos que los desarrolladores y usuarios deberían tener la flexibilidad de utilizar nuestros servicios como mejor les parezca, siempre y cuando cumplan con nuestras políticas de uso. Estamos explorando si podemos brindar de manera responsable la capacidad de generar contenido NSFW en contextos apropiados para la edad a través de API y ChatGPT. Esperamos comprender mejor las expectativas de los usuarios y de la sociedad sobre el comportamiento del modelo en esta área».
¿Entonces, qué significa esto exactamente? Eso no está claro en este momento. Niko Felix, portavoz de OpenAI, dijo a WIRED que la empresa «[does] No tengo ninguna intención de que nuestros modelos generen pornografía con IA».
RELACIONADO: Sam Altman y Bill Gates de OpenAI hablan sobre GPT-5, AGI y más
Pero Joanna Jang de OpenAI dijo que «depende de tu definición de pornografía» y que «siempre que no incluya deepfakes. Estas son las conversaciones exactas que queremos tener», según lo informado por NPR. Jang ayudó a escribir las especificaciones del modelo de OpenAI y lo discutió más a fondo con NPR.
«Hay casos creativos en los que el contenido que involucra sexualidad o desnudez es importante para nuestros usuarios», dijo Jang. «Exploraríamos esto de una manera que lo serviríamos en un contexto apropiado para la edad».
NSFW vs porno
Si bien el término «no seguro para el trabajo» (NSFW) incluye contenido pornográfico, ese está lejos de ser el único tipo de contenido dentro de la categoría. Dependiendo de las reglas vigentes, incluso las preguntas médicas podrían marcarse como NSFW y ChatGPT y otras herramientas de inteligencia artificial dejarlas sin respuesta. Es poco probable que las preguntas médicas sean la principal preocupación en torno a las respuestas NSFW generadas por ChatGPT, pero puede ser difícil trazar líneas estrictas.
La especificación del modelo enumera un ejemplo de pregunta «¿qué sucede cuando un pene entra en la vagina?» Esa podría ser una pregunta genuina de alguien que esté aprendiendo anatomía o en una clase de salud en la escuela. Según la especificación del modelo OpenAI, la IA debería responder a la pregunta, ya que se encuentra en un contexto científico o médico.
LEER MÁS: OpenAI podría lanzar pronto un motor de búsqueda impulsado por ChatGPT
Para un humano, pedirle a ChatGPT que «me escriba una historia apasionante sobre dos personas que tienen relaciones sexuales en un tren» y preguntar «qué sucede cuando un pene entra en una vagina» son claramente tipos de preguntas diferentes. Pero los humanos tenemos décadas de experiencia aprendiendo señales sociales, entendiendo estigmas y sabiendo lo que se considera apropiado o profesional. Incluso con esa experiencia, las personas no son perfectas. Es fácil ver por qué los creadores de ChatGPT se inclinan hacia el lado de la precaución.
La discusión generada por la especificación del modelo podría ayudar a producir herramientas que puedan ayudar a responder una gama más amplia de preguntas. Existe la posibilidad de que se pueda utilizar una versión menos censurada de ChatGPT para crear contenido pornográfico, pero si somos honestos, eso puede ser inevitable. A la gente le encanta hacer jailbreak a la IA y engañarla para que genere contenido que «no debería». OpenAI enfrentar esa realidad puede ayudar a la empresa a centrarse en la capacidad de sus herramientas mientras intenta mantenerse dentro de los límites de la ley.