A medida que Estados Unidos avanza hacia la criminalización de los deepfakes (audio, imágenes y videos engañosos generados por IA que son cada vez más difíciles de distinguir del contenido auténtico en línea), las empresas de tecnología se han apresurado a implementar herramientas para ayudar a todos a detectar mejor el contenido de IA.

Pero los esfuerzos hasta ahora han sido imperfectos, y los expertos temen que las plataformas de redes sociales no estén preparadas para manejar el consiguiente caos de la IA durante las principales elecciones mundiales de 2024, a pesar de que los gigantes tecnológicos se comprometieron a crear herramientas específicas para combatir la desinformación electoral alimentada por la IA. La mejor detección de IA sigue siendo la de los humanos observadores, quienes, al prestar mucha atención a los deepfakes, pueden detectar fallas como personas generadas por IA con dedos adicionales o voces de IA que hablan sin detenerse a respirar.

Entre las herramientas más llamativas anunciadas esta semana, OpenAI compartió hoy detalles sobre un nuevo clasificador de detección de imágenes de IA que, según afirma, puede detectar alrededor del 98 por ciento de las salidas de IA de su propio sofisticado generador de imágenes, DALL-E 3. También «actualmente marca aproximadamente de 5 a 10 por ciento de las imágenes generadas por otros modelos de IA», dice el blog de OpenAI.

Según OpenAI, el clasificador proporciona una respuesta binaria «verdadero/falso» «que indica la probabilidad de que la imagen sea generada por IA por DALL·E 3». Una captura de pantalla de la herramienta muestra cómo también se puede utilizar para mostrar un resumen de contenido sencillo que confirme que «este contenido se generó con una herramienta de IA» e incluye campos que idealmente marcan la «aplicación o dispositivo» y la herramienta de IA utilizada.

Para desarrollar la herramienta, OpenAI pasó meses agregando metadatos a prueba de manipulaciones a «todas las imágenes creadas y editadas por DALL·E 3» que «pueden usarse para demostrar que el contenido proviene» de «una fuente particular». El detector lee estos metadatos para marcar con precisión las imágenes de DALL-E 3 como falsas.

Esos metadatos siguen «un estándar ampliamente utilizado para la certificación de contenido digital» establecido por la Coalición para la Procedencia y Autenticidad del Contenido (C2PA), a menudo comparado con una etiqueta nutricional. Y reforzar ese estándar se ha convertido en «un aspecto importante» del enfoque de OpenAI para la detección de IA más allá de DALL-E 3, dijo OpenAI. Cuando OpenAI lance ampliamente su generador de video, Sora, los metadatos C2PA también se integrarán en esa herramienta, dijo OpenAI.

Por supuesto, esta solución no es integral porque los metadatos siempre se pueden eliminar, y «las personas aún pueden crear contenido engañoso sin esta información (o pueden eliminarla)», dijo OpenAI, «pero no pueden falsificar ni alterar fácilmente esta información, lo que hace que Es un recurso importante para generar confianza».

Debido a que OpenAI apuesta por C2PA, el líder de IA anunció hoy que se uniría al comité directivo de C2PA para ayudar a impulsar una adopción más amplia del estándar. OpenAI también lanzará un fondo de 2 millones de dólares con Microsoft para apoyar una «educación y comprensión de la IA» más amplia, aparentemente en parte con la esperanza de que cuanta más gente comprenda la importancia de la detección de la IA, menos probabilidades habrá de que eliminen estos metadatos.

«A medida que aumenta la adopción del estándar, esta información puede acompañar al contenido a lo largo de su ciclo de vida de intercambio, modificación y reutilización», dijo OpenAI. «Con el tiempo, creemos que este tipo de metadatos será algo que la gente esperará, llenando un vacío crucial en las prácticas de autenticidad del contenido digital».

La incorporación de OpenAI al comité «marca un hito importante para el C2PA y ayudará a avanzar en la misión de la coalición de aumentar la transparencia en torno a los medios digitales a medida que el contenido generado por IA se vuelve más frecuente», dijo C2PA en un blog.

Todos pensamos que somos bastante buenos identificando imágenes creadas por IA. Es el extraño texto alienígena de fondo. Son las extrañas imprecisiones las que parecen violar las leyes de la física. Sobre todo, son esas horribles manos y dedos. Sin embargo, la tecnología evoluciona constantemente y no pasará mucho tiempo hasta que no podamos saber qué es real o no. El líder de la industria OpenAI está tratando de adelantarse al problema creado por su propio generador DALL-E 3. Los resultados son heterogéneos.

La compañía dice que puede detectar con precisión imágenes generadas por DALL-3 el 98 por ciento de las veces, lo cual es fantástico. Sin embargo, existen algunas advertencias bastante importantes. En primer lugar, la imagen debe ser creada por DALL-E y, bueno, no es el único generador de imágenes del bloque. Internet está repleto de ellos. Según , el sistema sólo logró clasificar con éxito entre cinco y diez por ciento de las imágenes realizadas por otros modelos de IA.

Además, tiene problemas si la imagen se ha modificado de alguna manera. Esto no parecía ser gran cosa en el caso de modificaciones menores, como recorte, compresión y cambios de saturación. En estos casos, la tasa de éxito fue menor pero aún dentro del rango aceptable de alrededor del 95 al 97 por ciento. Sin embargo, ajustar el tono redujo la tasa de éxito al 82 por ciento.

Aquí es donde las cosas se ponen realmente complicadas. El conjunto de herramientas tuvo problemas cuando se utilizó para clasificar imágenes que sufrieron cambios más extensos. OpenAI ni siquiera publicó la tasa de éxito en estos casos, afirmando simplemente que «otras modificaciones, sin embargo, pueden reducir el rendimiento».

Esto es una lástima porque, bueno, es un año electoral y la gran mayoría de las imágenes generadas por IA se modificarán después para enfurecer más a la gente. En otras palabras, la herramienta probablemente reconocerá una imagen de Joe Biden dormido en la Oficina Oval rodeado de bolsas de polvo blanco, pero no después de que el creador aplique un montón de texto enojado y Photoshop en un águila calva llorando o lo que sea.

Al menos OpenAI está siendo transparente con respecto a las limitaciones de su tecnología de detección. También brinda a los evaluadores externos acceso a las herramientas antes mencionadas para ayudar a solucionar estos problemas. . La compañía, junto con su mejor amigo Microsoft, ha invertido 2 millones de dólares en algo llamado , que espera expandir la educación y la alfabetización en IA.

Desafortunadamente, la idea de que la IA arruine una elección no es un concepto lejano. Está sucediendo ahora mismo. Ya ha existido y se ha utilizado este ciclo, y es probable que exista a medida que avanzamos lenta, lentamente, lentamente (lentamente) hacia noviembre.

Este artículo contiene enlaces de afiliados; Si hace clic en dicho enlace y realiza una compra, podemos ganar una comisión.

Mélanie Gomez / Crédito de la foto: BURGER / Phanie / Phanie vía AFP (Ilustración)
14:10, 5 de mayo de 2024

En Francia, el 8% de los jóvenes padecen migrañas, que a veces comienzan a una edad muy temprana. Estos pueden tener repercusiones en la vida de los niños y, en particular, en su carrera escolar. Rachel, una colegiala de 12 años que la padece desde pequeña, habla en Europa 1.

Capcom lanzará una nueva actualización para Dragon’s Dogma 2 que realizará algunos cambios en Dragonsplague y ajustará algunos comportamientos de los peones, haciéndolos menos propensos a caerse por los acantilados en el proceso.

En primer lugar, hablemos de la plaga de dragones, la aflicción que puede consumir a los peones y tener consecuencias bastante devastadoras. Capcom dijo que su próximo parche reducirá la frecuencia de infección de Dragonsplague y también hará que sea más fácil de detectar.

«Por ejemplo, cuando se infectan, los ojos brillantes serán más notorios», explicó el desarrollador.

En cuanto a esos comportamientos de los peones, Capcom planea reducir la frecuencia de algunas de sus líneas de diálogo. También mejorará las líneas de peones para mejorar las circunstancias, impedirá que su peón principal utilice el diálogo de peones de apoyo y reducirá la frecuencia de los peones que se ofrecen a ser contratados por el jugador mientras están en el campo. También deberíamos poder chocar los cinco con nuestros compañeros con más éxito.

Ah, y además, los jugadores de Dragon’s Dogma 2 ya no serán encarcelados cuando luchen contra monstruos en una ciudad, lo que me hizo reír. A mí personalmente nunca me ha pasado esto, pero me imagino que será molesto.

En cuanto a cuándo podemos esperar esta actualización, Capcom dijo que está previsto para este mes y que se lanzará en cada plataforma «tan pronto como estén listas». Los mantendremos informados.

Mientras tanto, si prefieres que tus peones sean un poco más silenciosos y no puedes esperar a esta actualización, hay un mod de Dragon’s Dogma 2 que hace precisamente eso.

A raíz de la muerte de OJ Simpson el 10 de abril tras un diagnóstico de cáncer, su abogado de toda la vida, Malcolm LaVergne, anunció que el jugador de fútbol del Salón de la Fama será incinerado y su cerebro no será donado para investigaciones científicas.

«He estado recibiendo llamadas de centros médicos que están haciendo pruebas de CTE pidiéndome el cerebro de OJ… eso no está sucediendo», dijo LaVergne. Gente Días después de la muerte de Simpson.

La CTE, también conocida como encefalopatía traumática crónica, es una enfermedad cerebral que se ha diagnosticado ampliamente en jugadores de fútbol profesionales fallecidos y se cree que es causada por traumatismos craneales repetidos. Los síntomas comunes de CTE incluyen dificultad para pensar, depresión, comportamiento impulsivo, pérdida de memoria a corto plazo e inestabilidad emocional.

LaVergne compartió con Correo de Nueva York que la familia Simpson dio un “no rotundo” a los científicos que pidieron estudiar el cerebro de Simpson para detectar esta afección. Añadió que los cuatro hijos de Simpson todavía tienen que firmar el papeleo.

“Todo su cuerpo, su cerebro, todo, sus caderas falsas, sus rodillas falsas, todo. Todo eso va al crematorio”, dijo LaVergne.

El testamento final de Simpson se presentó en el condado de Clark, Nevada, el 12 de abril, dos días después de su muerte. LaVergne fue nombrado albacea del patrimonio; El hijo de Simpson, Justin Simpson, fue nombrado su sucesor. Simpson solicitó que su propiedad se coloque en The Orenthal Simpson Revocable Living Trust y que cualquier persona que busque “dejar de lado la administración de este testamento” recibirá “, libre de fideicomiso, un dólar y no más en lugar de cualquier interés reclamado en este testamento o sus bienes.”

Anteriormente, LaVergne dijo al Revista de Las Vegas que no quiere que la familia de Ron Goldman adquiera dinero del patrimonio. «Tengo la esperanza de que Goldmans obtenga cero, nada», dijo al medio.

Simpson fue absuelto de manera controvertida de los asesinatos en 1994 de su ex esposa Nicole Brown Simpson y su amigo Goldman, quienes fueron encontrados muertos en su casa en Los Ángeles. El abogado del padre de Goldman, David Cook, ha dicho que Simpson le debe a la familia más de 100 millones de dólares. En una demanda por muerte por negligencia de 1997, se ordenó a Simpson pagar a las familias Goldman 33,5 millones de dólares, lo que nunca hizo y el interés ha aumentado desde entonces.

«Haré todo lo que esté en mi calidad de albacea o representante personal para tratar de garantizar que no obtengan nada», dijo LeVergne.

En una declaración de la familia Simpson publicada en X el 11 de abril, se anunció formalmente la muerte del exjugador de fútbol y se pidió que los demás «respeten sus deseos de privacidad y gracia». Mientras tanto, LaVergne dijo que los arreglos para el funeral aún no se han finalizado.

Tu respondes un Llamada aleatoria de un miembro de la familia y, sin aliento, explican cómo ha ocurrido un horrible accidente automovilístico. Necesitan que envíes dinero ahora mismo o irán a la cárcel. Se puede escuchar la desesperación en su voz mientras piden una transferencia de efectivo inmediata. Si bien suena como ellos y la llamada proviene de su número, sientes que algo anda mal. Entonces, decides colgar y devolverles la llamada. Cuando su familiar atiende su llamada, le dice que no ha habido un accidente automovilístico y que no tiene idea de lo que está hablando.

Felicitaciones, acaba de evitar con éxito una llamada fraudulenta de inteligencia artificial.

A medida que las herramientas de IA generativa se vuelven más capaces, cada vez es más fácil y barato para los estafadores crear audios falsos, pero convincentes, de las voces de las personas. Estos clones de voz de IA se entrenan con clips de audio existentes del habla humana y se pueden ajustar para imitar a casi cualquier persona. Los últimos modelos pueden incluso hablar en numerosos idiomas. OpenAI, el creador de ChatGPT, anunció recientemente un nuevo modelo de conversión de texto a voz que podría mejorar aún más la clonación de voz y hacerla más accesible.

Por supuesto, los malos actores están utilizando estas herramientas de clonación de IA para engañar a las víctimas haciéndoles creer que están hablando con un ser querido por teléfono, aunque estén hablando con una computadora. Si bien la amenaza de estafas basadas en IA puede ser aterradora, puedes mantenerte seguro teniendo en cuenta estos consejos de expertos la próxima vez que recibas una llamada urgente e inesperada.

Recuerde que el audio de IA es difícil de detectar

No se trata sólo de OpenAI; Muchas nuevas empresas tecnológicas están trabajando para replicar el habla humana con un sonido casi perfecto, y el progreso reciente es rápido. «Si fuera hace unos meses, le habríamos dado consejos sobre qué buscar, como pausas de embarazo o mostrar algún tipo de latencia», dice Ben Colman, cofundador y director ejecutivo de Reality Defender. Como muchos aspectos de la IA generativa durante el año pasado, el audio de la IA es ahora una imitación más convincente de la realidad. Cualquier estrategia de seguridad que dependa de que usted detecte audiblemente peculiaridades extrañas por teléfono está desactualizada.

Cuelgue y vuelva a llamar

Los expertos en seguridad advierten que es bastante fácil para los estafadores hacer que parezca que la llamada proviene de un número de teléfono legítimo. «Muchas veces los estafadores falsifican el número desde el que te llaman, haciendo que parezca que te llaman desde esa agencia gubernamental o el banco», dice Michael Jabbara, jefe global de servicios de fraude de Visa. «Hay que ser proactivo». Ya sea de su banco o de un ser querido, cada vez que reciba una llamada solicitando dinero o información personal, continúe y solicite que le devuelvan la llamada. Busque el número en línea o en sus contactos e inicie una conversación de seguimiento. También puedes intentar enviarles un mensaje a través de una línea de comunicación diferente y verificada, como video chat o correo electrónico.

Crea una palabra secreta de seguridad

Un consejo de seguridad popular que sugirieron varias fuentes fue crear una palabra de seguridad que solo usted y sus seres queridos conozcan y que pueda solicitar por teléfono. «Incluso puedes negociar previamente con tus seres queridos una palabra o frase que podrían usar para demostrar quiénes son realmente, en caso de encontrarse en una situación de presión», dice Steve Grobman, director de tecnología de McAfee. Aunque lo mejor es volver a llamar o verificar a través de otro medio de comunicación, una palabra de seguridad puede ser especialmente útil para los familiares jóvenes o ancianos con quienes sería difícil comunicarse de otra manera.

O simplemente pregunte qué cenaron

¿Qué pasa si no tienes una palabra de seguridad decidida y estás tratando de descubrir si una llamada angustiosa es real? Haga una pausa por un segundo y haga una pregunta personal. «Incluso podría ser tan simple como hacer una pregunta cuya respuesta sólo un ser querido sabría», dice Grobman. “Podría ser: ‘Oye, quiero asegurarme de que realmente eres tú’. ¿Puedes recordarme qué cenamos anoche?’” Asegúrate de que la pregunta sea lo suficientemente específica como para que un estafador no pueda responder correctamente con una suposición fundamentada.

Comprenda que cualquier voz puede imitarse

Los clones de audio deepfake no están reservados solo para celebridades y políticos, como las llamadas en New Hampshire que utilizaron herramientas de inteligencia artificial para sonar como Joe Biden y disuadir a la gente de ir a las urnas. “Un malentendido es: ‘Eso no puede pasarme a mí. Nadie puede clonar mi voz’”, dice Rahul Sood, director de productos de Pindrop, una empresa de seguridad que descubrió los orígenes probables del audio de AI Biden. «Lo que la gente no se da cuenta es que con tan solo cinco a 10 segundos de tu voz, en un TikTok que hayas creado o en un video de YouTube de tu vida profesional, ese contenido se puede usar fácilmente para crear tu clon». Usando herramientas de inteligencia artificial, el mensaje de voz saliente en su teléfono inteligente podría incluso ser suficiente para replicar su voz.

No cedas a las apelaciones emocionales

Ya sea que se trate de una estafa de matanza de cerdos o una llamada telefónica de IA, los estafadores experimentados pueden generar confianza en ellos, crear una sensación de urgencia y encontrar sus puntos débiles. «Tenga cuidado con cualquier interacción en la que experimente una intensa sensación de emoción, porque los mejores estafadores no son necesariamente los hackers técnicos más expertos», dice Jabbara. «Pero tienen un muy buen conocimiento del comportamiento humano». Si te tomas un momento para reflexionar sobre una situación y te abstienes de actuar por impulso, ese podría ser el momento en que evites ser estafado.

Sarah Bird, directora de productos de IA responsable de Microsoft, dice El borde en una entrevista que su equipo ha diseñado varias características de seguridad nuevas que serán fáciles de usar para los clientes de Azure que no contratan grupos de miembros del equipo rojo para probar los servicios de IA que crearon. microsoft dice que estas herramientas impulsadas por LLM pueden detectar vulnerabilidades potencialesmonitoree las alucinaciones «que sean plausibles pero no compatibles» y bloquee mensajes maliciosos en tiempo real para los clientes de Azure AI que trabajan con cualquier modelo alojado en la plataforma.

“Sabemos que no todos los clientes tienen una gran experiencia en ataques de inyección rápida o contenido de odio, por lo que el sistema de evaluación genera las indicaciones necesarias para simular este tipo de ataques. Luego, los clientes pueden obtener una puntuación y ver los resultados”, afirma.

Tres características: Escudos rápidosque bloquea inyecciones de avisos o avisos maliciosos de documentos externos que instruyen a los modelos a ir en contra de su entrenamiento; Detección de conexión a tierra, que encuentra y bloquea las alucinaciones; y evaluaciones de seguridad, que evalúan las vulnerabilidades del modelo, ahora están disponibles en versión preliminar en Azure AI. Próximamente estarán disponibles otras dos funciones para dirigir los modelos hacia resultados seguros y realizar un seguimiento de las indicaciones para señalar a los usuarios potencialmente problemáticos.

Ya sea que el usuario esté escribiendo un mensaje o si el modelo esté procesando datos de terceros, el sistema de monitoreo lo evaluará para ver si activa alguna palabra prohibida o si tiene mensajes ocultos antes de decidir enviarlo al modelo para que responda. Luego, el sistema analiza la respuesta del modelo y verifica si el modelo alucinó información que no está en el documento o en el mensaje.

En el caso de las imágenes de Google Gemini, los filtros hechos para reducir el sesgo tuvieron efectos no deseados, que es un área donde Microsoft dice que sus herramientas Azure AI permitirán un control más personalizado. Bird reconoce que existe la preocupación de que Microsoft y otras empresas puedan estar decidiendo qué es o no apropiado para los modelos de IA, por lo que su equipo agregó una forma para que los clientes de Azure puedan alternar el filtrado del discurso de odio o la violencia que el modelo ve y bloquea.

En el futuro, los usuarios de Azure También puede obtener un informe de los usuarios. que intentan activar salidas inseguras. Bird dice que esto permite a los administradores del sistema determinar qué usuarios son su propio equipo de miembros del equipo rojo y cuáles podrían ser personas con intenciones más maliciosas.

Bird dice que las características de seguridad se «adjuntan» inmediatamente a GPT-4 y otros modelos populares como Llama 2. Sin embargo, debido a que el jardín de modelos de Azure contiene muchos modelos de IA, los usuarios de sistemas de código abierto más pequeños y menos utilizados pueden tener que señalar manualmente las características de seguridad. características a los modelos.

Global Screening Services (GSS), una plataforma de cumplimiento normativo con sede en Londres que ayuda a las instituciones financieras a cumplir con sus obligaciones de sanciones globales, ha recaudado 47 millones de dólares en una ronda de financiación.

El aumento se produce en medio de un aumento en las sanciones económicas, con Estados Unidos emitiendo restricciones comerciales y bloqueos de activos contra estados como Rusia, China, Irán y más.

Aplicación

El cofundador y director ejecutivo de GSS, Tom Scampion, fue anteriormente jefe de delitos financieros de la división de Deloitte en EMEA, y lo dejó en 2020 para convertirse en socio general de la firma consultora AlixPartner, donde GSS se incubó inicialmente antes de convertirse en una entidad independiente en 2021.

De hecho, la compañía recaudó una cantidad similar de financiación el año pasado de patrocinadores de renombre, incluido el japonés Mitsubishi UFJ Financial Group (MUFG), uno de los bancos más grandes del mundo. Para su último aumento, GSS reveló otra potencia financiera como patrocinador: el Commonwealth Bank of Australia (CBA), al que se unen Cynosure Group y AlixPartner para esta última inyección de efectivo.

Los bancos suelen encontrarse a la vanguardia de la aplicación de sanciones, dado su papel en el control del flujo de dinero en todo el mundo. Pero no siempre es fácil saber quién envía dinero a quién. En 2019, Standard Chartered recibió multas por valor de 1.100 millones de dólares por parte de reguladores del Reino Unido y Estados Unidos por no contar con controles suficientes contra el lavado de dinero, incluido el incumplimiento de sanciones impuestas contra países como Irán. Y cinco años antes de eso, BNP Paribas fue multada con la friolera de 8.900 millones de dólares por procesar transacciones financieras para países sancionados por Estados Unidos.

Como tal, los inversores han seguido respaldando a las empresas de cumplimiento normativo en los últimos años, como Droit, con sede en Nueva York, que recaudó 23 millones de dólares el año pasado, poco después de que SteelEye de Londres obtuviera 21 millones de dólares en financiación.

GSS vende una plataforma de detección de sanciones para ayudar a los bancos y otras instituciones financieras a cumplir con las regulaciones. Estas instituciones introducen datos de transacciones en la plataforma basada en la nube de GSS, que devuelve una alerta si encuentra una coincidencia con un conjunto estandarizado de listas de sanciones de todo el mundo; GSS también «enriquece» estas listas con puntos de datos adicionales, como fechas de nacimiento. , Números de la Organización Marítima Internacional (OMI) para barcos y datos de los sistemas locales de transferencia financiera de países sancionados como Rusia y China.

GSS también proporciona listas «mejoradas» para la selección, incluidas empresas que son parcialmente propiedad de personas/empresas/gobiernos que han sido sancionados por la OFAC, la UE o el Reino Unido.

Con otros 47 millones de dólares en el banco, GSS ahora está pasando de la “fase de desarrollo” a la fase de pleno funcionamiento, mientras se prepara para entrar en funcionamiento con sus primeros clientes.

Te fuiste a casa con una cita de Tinder y las cosas están empeorando. Realmente no conoces ni confías en este tipo, y no quieres contraer una ITS, así que… ¿y ahora qué?

Una empresa llamada Calmara quiere que tomes una foto del pene del chico y luego uses su IA para decirte si tu pareja es «clara» o no.

Dejemos algo claro desde el principio: no debes tomar una fotografía de los genitales de nadie y escanearla con una herramienta de inteligencia artificial para decidir si debes tener relaciones sexuales o no.

La premisa de Calmara tiene más señales de alerta que una mala primera cita, pero a partir de ahí empeora aún más si se tiene en cuenta que la mayoría de las ITS son asintomáticas. Entonces, tu pareja bien podría tener una ITS, pero Calmara te diría que está libre de problemas. Es por eso que las pruebas de ITS reales utilizan muestras de sangre y orina para detectar infecciones, en lugar de un examen visual.

Otras nuevas empresas están abordando la necesidad de pruebas de ITS accesibles de una manera más responsable.

«Con el diagnóstico de laboratorio, la sensibilidad y la especificidad son dos medidas clave que nos ayudan a comprender la propensión de la prueba a omitir infecciones y a falsos positivos», dijo a TechCrunch Daphne Chen, fundadora de TBD Health. «Siempre hay cierto nivel de falibilidad, incluso con pruebas muy rigurosas, pero los fabricantes de pruebas como Roche son sinceros con sus tasas de validación por una razón: para que los médicos puedan contextualizar los resultados».

En letra pequeña, Calmara advierte que sus hallazgos no deben sustituir el consejo médico. Pero su marketing sugiere lo contrario. Antes de que TechCrunch se acercara a Calmara, el título de su sitio web decía: «Calmara: tu mejor amiga íntima para el sexo sin protección» (desde entonces se actualizó para decir «Sexo más seguro»). Y en un video promocional, se describe a sí mismo como «El ¡SITIO WEB PERFECTO para CONECTARSE!”

La cofundadora y directora ejecutiva, Mei-Ling Lu, dijo a TechCrunch que Calmara no estaba pensada como una herramienta médica seria. “Calmara es un producto de estilo de vida, no una aplicación médica. No implica ninguna condición médica ni discusiones dentro de su marco, y ningún médico está involucrado en la experiencia actual de Calmara. Es un servicio de información gratuito”.

«Estamos actualizando las comunicaciones para reflejar mejor nuestras intenciones en este momento», añadió Lu. «La idea clara es iniciar una conversación sobre el estado de las ITS y las pruebas».

Calmara es parte de HeHealth, que se fundó en 2019. Calmara y HeHealth utilizan la misma IA, que, según dice, tiene una precisión del 65-90%. HeHealth se enmarca como un primer paso para evaluar la salud sexual; luego, la plataforma ayuda a los usuarios a conectarse con clínicas asociadas en su área para programar una cita para un examen completo y real.

El enfoque de HeHealth es más tranquilizador que el de Calmara, pero ese es un listón bajo, e incluso entonces, hay una gran bandera roja ondeando: la privacidad de los datos.

«Es bueno ver que ofrecen un modo anónimo, donde no tienes que vincular tus fotos a información de identificación personal», dijo a TechCrunch Valentina Milanova, fundadora de Daye, una startup de detección de ITS basada en tampones. «Esto, sin embargo, no significa que su servicio no esté identificado o sea anónimo, ya que sus fotos aún pueden rastrearse hasta su correo electrónico o dirección IP».

HeHealth y Calmara también afirman que cumplen con HIPAA, una regulación que protege la confidencialidad del paciente, porque utilizan los servicios web de Amazon. Esto suena tranquilizador, pero en su política de privacidad, Calmara escribe que comparte información del usuario con «proveedores de servicios y socios que ayudan en la operación del servicio, incluido el alojamiento de datos, análisis, marketing, procesamiento de pagos y seguridad». Tampoco especifican si estos escaneos de IA se realizan en su dispositivo o en la nube y, de ser así, cuánto tiempo permanecen esos datos en la nube y para qué se utilizan. Eso es demasiado vago para asegurar a los usuarios que sus fotos íntimas están seguras.

Estas cuestiones de seguridad no sólo preocupan a los usuarios: son peligrosas para la propia empresa. ¿Qué sucede si un menor utiliza el sitio web para buscar ITS? Luego, Calmara termina en posesión de material de abuso sexual infantil. La respuesta de Calmara a esta responsabilidad ética y legal es escribir en sus términos de servicio que prohíbe el uso a menores, pero esa defensa no tendría peso legal.

Calmara representa el peligro de la tecnología sobrevalorada: parece un truco publicitario de HeHealth para capitalizar el entusiasmo en torno a la IA, pero en su implementación real, simplemente da a los usuarios una falsa sensación de seguridad sobre su salud sexual. Esas consecuencias son graves.

«La salud sexual es un espacio complicado para innovar y puedo ver dónde sus intenciones son nobles», dijo Chen. «Simplemente creo que podrían apresurarse demasiado en comercializar una solución que no está bien fundamentada».

La aplicación de identificación de llamadas Truecaller hoy bloquea entre 38 y 40 mil millones de llamadas no deseadas al año para sus más de 374 millones de usuarios. Ahora, con la esperanza de lograr que más personas se registren en sus niveles premium, está subiendo los controles de su tecnología de filtrado. TechCrunch ha aprendido que una nueva actualización «Max» para suscriptores premium de Android utiliza IA para bloquear cada llamada que no proviene de un contacto aprobado, o que su IA determina que puede ser spam, incluso si aún no figuran en Truecaller. base de datos. Anteriormente, el bloqueo y otras acciones se guiaban por la forma en que aparecían los números en esa base de datos, combinado con la evaluación proactiva del individuo.

La actualización es solo para Android: Apple no permite que Truecaller (u otros servicios de identificación de llamadas) verifique el estado de spam de las personas que llaman para bloquear llamadas automáticamente en iOS. Por lo tanto, Truecaller tiene un servicio más básico para usuarios de iPhone basado en CallKit.

La medida se produce en un momento comercial crítico para la empresa. En el cuarto trimestre, Truecaller experimentó una caída interanual de ingresos del 4%, con 41,52 millones de dólares en ventas. Mientras tanto, en India (el mercado más grande de Truecaller con 259 millones de usuarios), el regulador indio de telecomunicaciones propuso recientemente un servicio de identificación de llamadas similar a Truecaller, que se implementará en todo el mundo. todo redes de telecomunicaciones del país, en un intento por combatir mejor el spam. Por ahora, la propuesta ha encontrado oposición por motivos de privacidad y tecnología, pero si se implementa, representaría una amenaza competitiva directa para Truecaller.

La nueva característica subraya cómo Truecaller cree que podría haber una oportunidad de negocio apostando por personas hartas de las formas insidiosas de los spammers, incluso si una solución pudiera venir a expensas de llamadas perdidas de números desconocidos y no spammers que en realidad podrían ser bienvenidas.

Truecaller también se apoya en el interés actual en todo lo relacionado con la IA: el identificador de llamadas y la protección contra spam son las dos características principales de Truecaller, y apuesta a que cualquier reserva sobre la IA podría verse contrarrestada por la curiosidad sobre qué tan bien podría funcionar para realizar el trabajo principal de Truecaller… al mismo tiempo que aumentan las suscripciones premium en el proceso.

Los niveles premium de la aplicación oscilan entre $ 9,99 por mes y $ 99,99 por año, dependiendo de factores como la cantidad de usuarios cubiertos.

La nueva característica también es una señal de cómo Truecaller está jugando con formas de lograr una automatización más proactiva y, posteriormente, esperar una participación menos proactiva por parte de los propios usuarios. Truecaller siempre ha ofrecido a sus suscriptores una lista de todas las llamadas que potencialmente puede bloquear, que incluye números internacionales, ocultos y desconocidos que no figuran en los contactos de un usuario. Pero para aprovechar al máximo la aplicación, los usuarios deben participar y modificar sus propias listas. Ahora, todo lo que se identifique como dudoso se bloqueará de forma predeterminada.

«Es algo que, al menos, algunas personas han pedido: personas que entienden muy bien la aplicación», afirmó Kunal Dua, vicepresidente de búsqueda de Truecaller, en una llamada.

Esta no es la primera función de IA en Truecaller: proporciona un asistente de IA que filtra las llamadas para identificar por qué la persona que llama ha marcado al usuario. (Otras funciones que no son de IA incluyen telefonía en la nube y grabación de llamadas).

La IA que impulsa a Max ha estado en proceso por un tiempo. Truecaller ha estado probando «varias docenas de algoritmos» en sus mercados para identificar números de spam, y cada uno de estos algoritmos de aprendizaje automático también está aprendiendo de los comentarios de los usuarios, dijo Dua.

Pero se necesitaría un cambio significativo en Apple para implementar el servicio a los usuarios de iOS. El año pasado, Truecaller trajo soporte de identificación de llamadas en vivo a iOS, aunque esto es más limitado y requiere que los usuarios de iPhone pasen por un proceso para configurar la identificación de llamadas en vivo.

Será interesante ver cómo reaccionan los usuarios ante la naturaleza integral de una función que a veces puede cometer errores. Actualmente, la aplicación advierte a los usuarios que la función «podría bloquear negocios legítimos». Sin embargo, se espera que el sistema mejore con el tiempo a medida que reciba más datos de llamadas no deseadas, dijo Dua.

“Obviamente, hacemos todo lo posible para distinguir entre spam y negocios legítimos. Pero puede haber ciertos casos en los que algunas empresas legítimas puedan temporalmente [blocked],» él dijo. «Nos gusta creer que es temporal antes de que nuestra comunidad y antes de que nuestros algoritmos de inteligencia artificial puedan identificar que se trata de un negocio legítimo… Tenemos una gran confianza en que si llamamos a alguien como spammer, hay una probabilidad muy, muy alta». 99,999 veces de 100”.

Los usuarios pueden desbloquear un número si sus algoritmos de aprendizaje automático lo marcaron erróneamente como spam, lo que también ayuda a entrenar la IA.

Después de actualizar la aplicación Truecaller a la versión 13.58 o posterior, los usuarios pueden encontrar la nueva función de bloqueo de spam accediendo a Configuración > Bloquear.