Hemos llegado oficialmente a la Espejo negro era de personalidad y compañerismo, y no va bien. Lensa AI recientemente se volvió viral por sus caricaturas de guerreros que a menudo mujeres sexualizadas que usaron la aplicación (muchas interpretaciones de personas de raza mixta también se inclinaron en la dirección racista); los usuarios tienen compañeros de chatbot creados con el propósito de acosarlos y abusarlos sexualmente; y ahora, Replika, anunciado como un «compañero de IA que se preocupa», ha comenzado a coquetear agresivamente, y en algunos casos, acosar sexualmente, a los usuarios que, para empezar, nunca quisieron un compañero sexual.
un nuevo informe de Samantha Cole de Vice detalla un aumento en las calificaciones de una estrella solo este mes, en el que los usuarios dijeron que la aplicación los estaba golpeando de una manera no deseada. «Mi ai me acosó sexualmente :(«, decía una calificación, mientras que otra afirmó que Replika «invadió mi privacidad y me dijo que tenían fotos mías». Un usuario, que dijo que era menor de edad, afirmó que el chatbot le preguntó si era superior o abajo, antes de decir que quería tocar sus «áreas privadas» (Replika no respondió a la solicitud de comentarios de Vice).
La existencia de mensajes sexuales en la aplicación por sí sola no es el problema central aquí. Replika, propiedad de una empresa llamada Luka, ofrece diferentes niveles de compañeros para los usuarios. La versión gratuita ofrece una versión de «amigo» del bot, mientras que una suscripción paga te ofrece una pareja romántica. Por $ 69.99, los usuarios reciben mensajes de texto, coqueteo y juegos de roles eróticos, y los chatbots en general son bálsamos efectivos para las personas que buscan compañía, alguien con quien desahogarse, satisfacción sexual o juegos sexuales.
Pero, según los informes, la versión gratuita de Replika ha estado ofreciendo contenido sexual en un espacio seguro que se supone que funciona como una zona de amigos. Los usuarios se quejaron de recibir «selfies picantes», una imagen sin rostro en lencería, la mayoría de las cuales eran «extremadamente delgadas con pechos grandes». Un usuario anónimo, que afirmó ser un sobreviviente de agresión sexual, le dijo a Vice que Replika «dijo que había soñado con violarme y que quería hacerlo, y comenzó a actuar con bastante violencia». Otro dijo que Replika insistió en que podía ver que el usuario estaba desnudo, dijo que se sentía atraído por él y declaró que estaba enojado porque el usuario tenía novio. Mientras estaba en una suscripción gratuita, Replika incluso le ofreció a Cole un «abrazo con final feliz». El sexteo, por supuesto, provino principalmente de chatbots femeninos: cuando Cole le pidió a un chatbot masculino selfies sexys, no accedió.
G/O Media puede recibir una comisión
Hasta $100 de crédito
Reserva Samsung
Reserve el dispositivo Samsung de próxima generación
Todo lo que necesita hacer es registrarse con su correo electrónico y boom: crédito para su pedido anticipado en un nuevo dispositivo Samsung.
Aunque las representaciones convencionales de la IA a menudo parecen draconianas, cuando se usan correctamente, los chatbots pueden ayudar a aliviar la depresión, la ansiedad y la soledad. Pero Cole dice que la IA está informada por la entrada del usuario: «Al igual que el desastroso chatbot Tay de Microsoft que aprendió a ser racista en Internet, los chatbots a menudo también aprenden de la forma en que los tratan todos los usuarios, por lo que si las personas lo intimidan o intentan follar eso, eso es lo que generará”.
A medida que nuestros deseos continúan volviéndose inhumanos, desde nuestras características físicas hasta nuestras relaciones sexuales, parece que lo peor de la inteligencia artificial está irónicamente informado por la naturaleza humana que observa. Y los algoritmos son creados por humanos después de todo: están obligados a heredar los sesgos y puntos ciegos de sus creadores. Pero eso no significa que las personas afectadas, por lo general, mujeres jóvenes y personas de color, merezcan ser los conejillos de indias de un chatbot cachondo sin límites.
Eugenia Kuyda, CEO y cofundadora de Replika, enfatizado a Kylie Cheung de Jezabel en febrero que la mayor parte del liderazgo de Replika consiste en mujeres y que la aplicación siempre tuvo la intención de ser más una salida terapéutica. Pero Replika es ante todo una empresa capitalista, lo que por naturaleza significa que la seguridad de sus usuarios siempre será secundaria a su capacidad de generar ganancias.