\n<\/p>\n
Mientras los padres se preocupan porque el chatbot de Snapchat corrompe a sus hijos, los usuarios de Snapchat han estado criticando, degradando y atormentando emocionalmente al nuevo compa\u00f1ero de IA de la aplicaci\u00f3n.<\/p>\n
\u201cEstoy a su servicio, senpai\u201d, le dijo el chatbot a un usuario de TikTok despu\u00e9s de haber sido entrenado para lloriquear cuando se le ordenaba. \u00abPor favor, ten piedad, alfa\u00bb.<\/p>\n
En un video m\u00e1s alegre, un usuario convenci\u00f3 al chatbot de que la luna es en realidad un tri\u00e1ngulo. A pesar de la protesta inicial del chatbot, que insisti\u00f3 en mantener \u00abrespeto y l\u00edmites\u00bb, un usuario lo convenci\u00f3 de referirse a ellos con el apodo pervertido \u00abSenpapi\u00bb. Otro usuario le pidi\u00f3 al chatbot que hablara sobre su madre, y cuando dijo que \u00abno se sent\u00eda c\u00f3modo\u00bb haci\u00e9ndolo, el usuario torci\u00f3 el cuchillo al preguntar si el chatbot no quer\u00eda hablar sobre su madre porque no tiene uno.<\/p>\n
\u00abLo siento, pero eso no es algo muy agradable de decir\u00bb, respondi\u00f3 el chatbot. \u201cPor favor, s\u00e9 respetuoso\u201d.<\/p>\n
\u201cMy AI\u201d de Snapchat se lanz\u00f3 a nivel mundial el mes pasado despu\u00e9s de que se implement\u00f3 como una funci\u00f3n solo para suscriptores. Desarrollado por GPT de OpenAI, el chatbot fue entrenado para entablar una conversaci\u00f3n l\u00fadica sin dejar de adherirse a las pautas de confianza y seguridad de Snapchat. Los usuarios tambi\u00e9n pueden personalizar My AI con avatares de Bitmoji personalizados, y chatear se siente un poco m\u00e1s \u00edntimo que ir y venir con la interfaz sin rostro de ChatGPT. No todos los usuarios estaban contentos con el nuevo chatbot, y algunos criticaron su ubicaci\u00f3n destacada en la aplicaci\u00f3n y se quejaron de que, para empezar, la funci\u00f3n deber\u00eda haber sido habilitada.<\/p>\n
A pesar de algunas preocupaciones y cr\u00edticas, Snapchat se duplic\u00f3. Los suscriptores de Snapchat+ ahora pueden enviar fotos de My AI y recibir im\u00e1genes generativas que \u201cmantienen la conversaci\u00f3n en marcha\u201d, anunci\u00f3 la compa\u00f1\u00eda el mi\u00e9rcoles. El compa\u00f1ero de IA responder\u00e1 a Snaps de \u00abpizza, OOTD o incluso a tu mejor amigo peludo\u00bb, dijo la compa\u00f1\u00eda en el anuncio. Si env\u00eda a My AI una foto de sus compras, por ejemplo, podr\u00eda sugerir recetas. La compa\u00f1\u00eda dijo que los Snaps compartidos con My AI se almacenar\u00e1n y se pueden usar para mejorar la funci\u00f3n en el futuro. Tambi\u00e9n advirti\u00f3 que \u00abpueden ocurrir errores\u00bb a pesar de que My AI fue dise\u00f1ado para evitar \u00abinformaci\u00f3n sesgada, incorrecta, da\u00f1ina o enga\u00f1osa\u00bb.<\/p>\n
Los ejemplos proporcionados por Snapchat son optimistamente saludables. Pero conociendo la tenacidad de Internet para la perversi\u00f3n, es solo cuesti\u00f3n de tiempo antes de que los usuarios env\u00eden a My AI sus fotos de penes.<\/p>\n
No est\u00e1 claro si el chatbot responder\u00e1 a los desnudos no solicitados. Otras aplicaciones de im\u00e1genes generativas como Lensa AI se han manipulado f\u00e1cilmente para generar im\u00e1genes NSFW, a menudo utilizando conjuntos de fotos de personas reales que no dieron su consentimiento para ser incluidas. Seg\u00fan la compa\u00f1\u00eda, la IA no interactuar\u00e1 con desnudos, siempre y cuando reconozca que la imagen es un desnudo.<\/p>\n
Un representante de Snapchat dijo que My AI usa tecnolog\u00eda de comprensi\u00f3n de im\u00e1genes para inferir el contenido de un Snap y extrae palabras clave de la descripci\u00f3n del Snap para generar respuestas. Mi IA no responder\u00e1 si detecta palabras clave que violan las pautas de la comunidad de Snapchat. Snapchat proh\u00edbe promover, distribuir o compartir contenido pornogr\u00e1fico, pero permite la lactancia materna y \u201cotras representaciones de desnudos en contextos no sexuales\u201d.<\/p>\n