Los padres de un adolescente que murió en el tiroteo en la escuela Parkland de Florida en 2018 comenzaron un nuevo y audaz proyecto llamado The Shotline para presionar por leyes de armas más estrictas en el país. Shotline utiliza inteligencia artificial para recrear las voces de los niños asesinados por la violencia armada y enviar grabaciones a través de llamadas automáticas a los legisladores. El periodico de Wall Street informó.
El proyecto se lanzó el miércoles, seis años después de que un hombre armado matara a 17 personas e hiriera a más de una docena en una escuela secundaria en Parkland, Florida. Presenta la voz de seis niños, algunos de apenas diez años, y adultos jóvenes, que han perdido la vida en incidentes de violencia armada en todo Estados Unidos. Una vez que ingresa su código postal, The Shotline encuentra a su representante local y le permite realizar una llamada automática de una de las seis personas muertas con su propia voz, instando a que se apliquen leyes de control de armas más estrictas. “Regresé hoy porque mis padres usaron IA para recrear mi voz para llamarte”, dice la voz generada por IA de Joaquín Oliver, uno de los adolescentes asesinados en el tiroteo de Parkland. «Otras víctimas como yo también llamarán». En el momento de esta publicación, se habían enviado más de 8.000 llamadas de IA a los legisladores a través del sitio web.
«Este es un problema de Estados Unidos y no hemos podido solucionarlo», dijo al periódico el padre de Oliver, Manuel, quien inició el proyecto junto con su esposa Patricia. Diario. «Si necesitamos usar cosas espeluznantes para solucionarlo, bienvenidos a lo espeluznante».
Para recrear las voces, los Oliver utilizaron un servicio de clonación de voces de ElevenLabs, una startup de dos años que recientemente recaudó 80 millones de dólares en una ronda de financiación liderada por Andreessen Horowitz. Utilizando sólo unos minutos de muestras vocales, el software es capaz de recrear voces en más de dos docenas de idiomas. Según los informes, los Oliver utilizaron las publicaciones de su hijo en las redes sociales para sus muestras de voz. Los padres y tutores legales de víctimas de violencia armada pueden completar un formulario para enviar sus voces a The Shotline para que se agregue a su depósito de voces generadas por IA.
El proyecto plantea cuestiones éticas sobre el uso de la IA para generar deepfakes de voces pertenecientes a personas muertas. La semana pasada, la Comisión Federal de Comunicaciones declaró que las llamadas automáticas realizadas con voces generadas por IA eran ilegales, una decisión que se tomó semanas después de que los votantes de New Hampshire recibieran llamadas haciéndose pasar por el presidente Joe Biden, diciéndoles que no votaran en las primarias de su estado. Un análisis realizado por la empresa de seguridad Pindrop reveló que el audio deepfake de Biden se creó utilizando software de ElevenLabs.
El cofundador de la empresa, Mati Staniszewski, dijo al Diario que ElevenLabs permite a las personas recrear las voces de familiares fallecidos si tienen los derechos y permisos. Pero hasta ahora no está claro si los padres de menores tenían derecho a la imagen de sus hijos.