Imagínese la escena: su cita ha ido bien y usted y su pareja podrían dormir juntos. Como cualquier adulto seguro, usted asume que habrá una conversación sobre el estado de las ITS y el uso de protección. Ahora imagina cómo te sentirías si te pidieran tomar una foto de tu pene y subirla a un sitio web del que nunca has oído hablar. Ese es el futuro de la intimidad, como lo imagina Calmara, un nuevo servicio lanzado por la startup de “salud masculina” HeHealth.
Su comunicado de prensa sugiere que los usuarios tomen una fotografía del pene de su pareja para poder pasarla por un modelo de aprendizaje profundo para detectar signos visuales de infecciones de transmisión sexual. Y aunque el sitio web sugiere que los usuarios deben usar protección, un cartel en la parte superior de los sitios de HeHealth describe la aplicación como «Tu mejor amiga íntima para tener relaciones sexuales sin protección». Dejando a un lado los mensajes contradictorios, es posible que notes algunos problemas importantes con el discurso: que esto solo cubre infecciones que se presentan visualmente y que solo está diseñado para funcionar con penes.
Pero incluso si se aplica ese caso de uso, es posible que sienta que no puede confiar en sus conclusiones una vez que haya analizado los datos. El sitio web de Calmara afirma que sus escaneos tienen una precisión de hasta el 90 por ciento y afirma que su IA ha sido «probada en batalla por más de 40.000 usuarios». Esa cifra no coincide con su comunicado de prensa, que dice que la precisión alcanza el 94,4 por ciento (una cifra citada en este artículo preimpreso de NSFW enviado hace una semana), pero sus preguntas frecuentes dicen que la precisión varía «del 65 por ciento al 96 por ciento en diversas condiciones». .” Nos comunicamos con la empresa y queremos obtener más información sobre la aparente discrepancia.
No es imposible que los modelos clasifiquen la información visual; informé sobre cómo sistemas como estos analizan imágenes de células para ayudar en el descubrimiento de fármacos. Pero hay muchas razones por las que la información visual no será tan confiable para una prueba de ITS. Después de todo, muchas afecciones no presentan síntomas visuales y los portadores a menudo pueden permanecer asintomáticos mucho después de la infección. La compañía admite esto en sus preguntas frecuentes y dice que la aplicación es una «primera línea de defensa, no una fortaleza completa». Sin mencionar que otros factores, como la “iluminación, las peculiaridades de salud particulares que estás buscando y un arco iris de tonos de piel podrían modificar esos [accuracy] un poco los números”. Aún más alarmante, el artículo inédito (que está plagado de errores tipográficos) admite que un 40 por ciento de su conjunto de datos de entrenamiento se compone de imágenes «aumentadas», por ejemplo, «extrayendo patrones de enfermedades específicos visualmente reconocibles del conjunto de datos de imágenes clínicas existentes y superponiendo esos patrones encima de imágenes de penes sanos (sic)».
El descargo de responsabilidad del sitio web de Calmara dice que sus herramientas tienen el propósito de «promover y apoyar el bienestar general y un estilo de vida saludable y no deben usarse para diagnosticar, curar, tratar, controlar o prevenir ninguna enfermedad o afección». Si realmente fue concebido como una herramienta de bienestar general, probablemente no se describiría a sí mismo como «Tu mejor amigo íntimo para tener relaciones sexuales sin protección», ¿verdad?
No ayuda que se trate de un sistema que pide a los usuarios que envíen fotografías de sus genitales o los de su pareja. Las cuestiones relacionadas con el consentimiento y, como planteó la escritora Ella Dawson en Bluesky, la verificación de la edad, no parecen haber sido consideradas. Las promesas de la compañía de que los datos están encerrados en una «fortaleza digital» carecen de detalles sobre su enfoque de seguridad o cómo se pueden compartir los datos que obtiene. Pero eso no ha impedido que la compañía sugiera que, en el futuro, podría integrarse «directamente en aplicaciones de citas».
Básicamente, hay tantas señales de alerta y vectores potenciales de abuso que dan a los usuarios una falsa sensación de confianza que nadie debería intentar usarlo.