elecciones autonómicas de españa Todavía faltan casi cuatro meses, pero Irene Larraz y su equipo en Newtral ya están preparados para el impacto. Cada mañana, la mitad del equipo de Larraz en la empresa de medios con sede en Madrid establece un horario de discursos y debates políticos, preparándose para verificar las declaraciones de los políticos. La otra mitad, que desacredita la desinformación, escanea la web en busca de falsedades virales y trabaja para infiltrarse en grupos que difunden mentiras. Una vez que terminen las elecciones de mayo, se debe convocar una elección nacional antes de fin de año, lo que probablemente provocará una avalancha de falsedades en línea. “Va a ser bastante difícil”, dice Larraz. “Ya nos estamos preparando”.
La proliferación de información errónea y propaganda en línea ha significado una batalla cuesta arriba para los verificadores de hechos en todo el mundo, quienes tienen que examinar y verificar grandes cantidades de información durante situaciones complejas o de rápido movimiento, como la invasión rusa de Ucrania, la pandemia de Covid-19. , o campañas electorales. Esa tarea se ha vuelto aún más difícil con el advenimiento de los chatbots que utilizan modelos de lenguaje grandes, como ChatGPT de OpenAI, que puede producir texto que suene natural con solo hacer clic en un botón, esencialmente automatizando la producción de información errónea.
Frente a esta asimetría, las organizaciones de verificación de hechos tienen que crear sus propias herramientas impulsadas por IA para ayudar a automatizar y acelerar su trabajo. Está lejos de ser una solución completa, pero los verificadores de hechos esperan que estas nuevas herramientas al menos eviten que la brecha entre ellos y sus adversarios se amplíe demasiado rápido, en un momento en que las empresas de redes sociales están reduciendo sus propias operaciones de moderación.
“La carrera entre los verificadores de hechos y aquellos a quienes están verificando es desigual”, dice Tim Gordon, cofundador de Best Practice AI, una firma de asesoría de gobernanza y estrategia de inteligencia artificial, y fideicomisario de una organización benéfica de verificación de hechos del Reino Unido.
“Los verificadores de hechos suelen ser organizaciones diminutas en comparación con las que producen desinformación”, dice Gordon. “Y la escala de lo que puede producir la IA generativa, y el ritmo al que puede hacerlo, significa que esta carrera solo se volverá más difícil”.
Newtral comenzó a desarrollar su modelo de lenguaje de IA multilingüe, ClaimHunter, en 2020, financiado con las ganancias de su ala de televisión, que produce un programa de verificación de hechos políticos y documentales para HBO y Netflix.
Usando el modelo de lenguaje BERT de Microsoft, los desarrolladores de ClaimHunter usaron 10,000 declaraciones para entrenar al sistema para que reconozca oraciones que parecen incluir declaraciones de hechos, como datos, números o comparaciones. “Estábamos enseñando a la máquina a desempeñar el papel de verificador de hechos”, dice el director de tecnología de Newtral, Rubén Míguez.
Simplemente identificar las afirmaciones hechas por figuras políticas y cuentas de redes sociales que deben verificarse es una tarea ardua. ClaimHunter detecta automáticamente las afirmaciones políticas realizadas en Twitter, mientras que otra aplicación transcribe en texto la cobertura de video y audio de los políticos. Ambos identifican y resaltan declaraciones que contienen una afirmación relevante para la vida pública que se puede probar o refutar, como en declaraciones que no son ambiguas, preguntas u opiniones, y se las envían a los verificadores de hechos de Newtral para su revisión.
El sistema no es perfecto y ocasionalmente marca opiniones como hechos, pero sus errores ayudan a los usuarios a volver a entrenar continuamente el algoritmo. Ha reducido el tiempo que lleva identificar las declaraciones que vale la pena verificar entre un 70 y un 80 por ciento, dice Míguez.