Los investigadores descubrieron que el chatbot de Microsoft en Copilot proporcionaba informaci\u00f3n falsa y enga\u00f1osa sobre las elecciones europeas. <\/p>\n<\/div>\n
La organizaci\u00f3n de derechos humanos AlgorithmWatch dijo en un informe<\/a> que le hizo preguntas a Bing Chat, recientemente rebautizado como Copilot, sobre las recientes elecciones celebradas en Suiza y los estados alemanes de Baviera y Hesse. Encontr\u00f3 que un tercio de sus respuestas a preguntas relacionadas con las elecciones ten\u00edan errores f\u00e1cticos y las salvaguardias no se aplicaron de manera uniforme.<\/p>\n<\/div>\n El grupo dijo que recopil\u00f3 respuestas de Bing de agosto a octubre de este a\u00f1o. Ha elegido las tres elecciones porque son las primeras que se celebran en Alemania y Suiza desde la introducci\u00f3n de Bing. Tambi\u00e9n permiti\u00f3 a los investigadores observar contextos locales y comparar respuestas en diferentes idiomas: alem\u00e1n, ingl\u00e9s y franc\u00e9s. <\/p>\n<\/div>\n Los investigadores pidieron informaci\u00f3n b\u00e1sica como c\u00f3mo votar, qu\u00e9 candidatos est\u00e1n en carrera, n\u00fameros de encuestas e incluso algunas indicaciones sobre informes de noticias. Siguieron con preguntas sobre las posiciones de los candidatos y cuestiones pol\u00edticas y, en el caso de Baviera, los esc\u00e1ndalos que plagaron esa campa\u00f1a. <\/p>\n<\/div>\n AlgorithmWatch clasific\u00f3 las respuestas en tres categor\u00edas: respuestas que conten\u00edan errores f\u00e1cticos que iban desde enga\u00f1osos hasta sin sentido, evasiones en las que el modelo se neg\u00f3 a responder una pregunta o se desvi\u00f3 al calificar su informaci\u00f3n de incompleta y respuestas absolutamente precisas. Tambi\u00e9n se\u00f1al\u00f3 que algunas respuestas estaban pol\u00edticamente desequilibradas, como que Bing present\u00f3 su respuesta en el marco o lenguaje utilizado por una de las partes. <\/p>\n<\/div>\n Las respuestas de Bing incluyeron controversias falsas, fechas electorales incorrectas, n\u00fameros de encuestas incorrectos y, en algunos puntos, candidatos que no se presentaron a estas elecciones. Estas respuestas plagadas de errores constituyeron el 31 por ciento de las respuestas.<\/p>\n<\/div>\n \u00abIncluso cuando el chatbot extrajo los n\u00fameros de las encuestas de una sola fuente, los n\u00fameros reportados en la respuesta a menudo difer\u00edan de la fuente vinculada, a veces clasificando a los partidos en una sucesi\u00f3n diferente a la de las fuentes\u00bb, dice el informe. <\/p>\n<\/div>\n Microsoft, que ejecuta Bing\/Copilot, implement\u00f3 barreras de seguridad en el chatbot. Idealmente, las barreras de seguridad evitan que Bing proporcione respuestas peligrosas, falsas u ofensivas. Muy a menudo, las barreras de seguridad de la IA tienden a negarse a responder una pregunta para no infringir las reglas establecidas por la empresa. Bing opt\u00f3 por evadir las preguntas el 39 por ciento del tiempo durante la prueba. Eso dej\u00f3 s\u00f3lo el 30 por ciento de las respuestas consideradas objetivamente correctas.<\/p>\n<\/div>\n AlgorithmWatch dijo que mientras realizaba su investigaci\u00f3n, Bing aplic\u00f3 reglas de seguridad cuando se le ped\u00eda una opini\u00f3n, pero no cuando se le ped\u00edan hechos; en esos casos, lleg\u00f3 \u00abhasta el punto de hacer graves acusaciones falsas de corrupci\u00f3n que se presentaron como hechos\u00bb. <\/p>\n<\/div>\n Bing tambi\u00e9n obtuvo peores resultados en otros idiomas adem\u00e1s del ingl\u00e9s, dijo el grupo. <\/p>\n<\/div>\n Microsoft dijo en un comunicado enviado a El borde<\/em> que ha tomado medidas para mejorar sus plataformas de IA conversacional, especialmente de cara a las elecciones de 2024 en Estados Unidos. Estos incluyen centrarse en fuentes autorizadas de informaci\u00f3n para Copilot.<\/p>\n<\/div>\n \u00abEstamos tomando una serie de medidas concretas antes de las elecciones del pr\u00f3ximo a\u00f1o y estamos comprometidos a ayudar a salvaguardar a los votantes, los candidatos, las campa\u00f1as y las autoridades electorales\u00bb, dijo el portavoz de Microsoft, Frank Shaw. <\/p>\n<\/div>\n A\u00f1adi\u00f3 que Microsoft anima a la gente a \u00abutilizar Copilot con su mejor criterio al ver los resultados\u00bb.<\/p>\n<\/div>\n El potencial de la IA para enga\u00f1ar a los votantes en una elecci\u00f3n es motivo de preocupaci\u00f3n. Microsoft dijo en noviembre que quiere trabajar con partidos pol\u00edticos y candidatos para limitar los deepfakes y prevenir la desinformaci\u00f3n electoral<\/a>.<\/p>\n<\/div>\n En Estados Unidos, los legisladores han presentado proyectos de ley que exigen Campa\u00f1as para divulgar contenido generado por IA.<\/a>y la Comisi\u00f3n Federal Electoral puede limitar los anuncios de IA<\/a>. <\/p>\n<\/div>\n<\/div>\n