Gracias a herramientas de inteligencia artificial, el alcalde de la ciudad de Nueva York, Eric Adams, envió una avalancha de llamadas automáticas a los residentes en idiomas que no habla.
Eso incluye “miles” de llamadas automáticas en español, más de 250 en yiddish, más de 160 en mandarín, 89 en cantonés y 23 en criollo haitiano. La ciudad informes. Eso ha provocado críticas sobre cuán ético es que Adams se presente ante los votantes potenciales como alguien que habla su lengua materna cuando en realidad no la habla.
“Esto es profundamente poco ético, especialmente si se trata de dinero de los contribuyentes. Usar la IA para convencer a los neoyorquinos de que habla idiomas que no habla es profundamente orwelliano”, dijo Albert Fox Cahn, director ejecutivo del Surveillance Technology Oversight Project (STOP), en un declaración.
«Esto es profundamente poco ético, especialmente si se trata de dinero de los contribuyentes».
Adams habló sobre las llamadas automáticas multilingües durante una conferencia de prensa ayer sobre la nueva ciudad Plan de acción de inteligencia artificial. «Vemos esto como algo que se puede utilizar generalmente en toda la ciudad donde ofrecemos cualquier tipo de servicio… eventualmente nos expandiremos para que todos los servicios sean atendidos a través de un bot», dijo el director de tecnología de la ciudad de Nueva York, Matthew. Fraser dijo en la sesión informativa. Por ahora, sin embargo, la ciudad sólo tiene una nueva herramienta llamada MiCiudadChatbot que utiliza Microsoft Azure AI para responder preguntas sobre cómo iniciar un nuevo negocio.
Adams también estaba ansioso por hablar sobre las llamadas automáticas que su oficina ya realizó en otros idiomas. “Me emocioné cuando mi voz pasó por teléfono a una persona que habla mandarín y pudo escuchar a su alcalde hablarles en su idioma”, dijo en la conferencia de prensa. “La gente me para en la calle todo el tiempo y me dicen: ‘No sabía que hablabas mandarín’”.
Él no lo hace. Y las llamadas automáticas, que en su mayoría han sido para promover la contratación de salas y conciertos, no le dicen a la gente que es una voz generada por IA la que les habla.
Cuando un periodista le preguntó sobre la posibilidad de engañar a las personas haciéndoles creer que puede hablar varios idiomas, Adams se defendió diciendo que era una forma de llegar a los residentes que hablan otros idiomas además del inglés.
“¿Es esto éticamente correcto o incorrecto? Tengo una cosa: tengo que dirigir una ciudad y tengo que poder hablar con la gente en idiomas que entiendan… a todos, todo lo que puedo decir es ni hao” Dijo Adams mientras cerraba la conferencia de prensa entre risas.
La ciudad subió la llamada automática del alcalde en español a YouTube para cualquiera que quiera escucharlo. Es desconcertante lo mucho que se parece a la voz de Adams. “El alcalde se está falsificando a sí mismo”, dijo Cahn. «Sí, necesitamos anuncios en todos los idiomas nativos de los neoyorquinos, pero los deepfakes son sólo un espeluznante proyecto de vanidad».