Lo que necesitas saber
- Mientras aparecía en una entrevista en el segmento Nightly News Exclusive de NBC presentado por Lester Holt, el director ejecutivo de Microsoft, Satya Nadella, señaló que existe suficiente tecnología para proteger las próximas elecciones presidenciales de EE. UU. de las falsificaciones y la desinformación de la IA.
- Esto incluye marcas de agua, detección de deepfakes e identificaciones de contenido.
- Microsoft también planea brindar a los votantes información autorizada y factual sobre las elecciones inminentes a través de su motor de búsqueda, Bing.
Mientras IA generativa Los casos de uso en nuestra vida cotidiana pueden variar, la mayoría de los usuarios están más inclinados a aprovechar sus capacidades en diversos campos, incluida la medicina, la educación y como herramienta de productividad en el trabajo. Mientras que algunos usuarios han indicado abiertamente que no usarán la tecnología, citando además sus preocupaciones que se centran en su seguridad y la falta de barandillas.
Aún así, la tecnología tiene un gran impacto en la información con la que interactúan los usuarios mientras navegan por la web. En los últimos meses, ha habido una cantidad ridícula de informes sobre contenido generado por IA junto con deepfakes. Con las elecciones estadounidenses a la vuelta de la esquina, la información engañosa podría llevar a los votantes en la dirección equivocada, lo que a su vez podría tener consecuencias nefastas a largo plazo.
La administración de Biden emitió una Orden Ejecutiva el año pasado para abordar algunas de estas preocupaciones y, si bien es un paso en la dirección correcta, algunos problemas parecen persistir. El director ejecutivo de Microsoft, Satya Nadella, se puso en contacto recientemente con Lester Holt en el segmento Nightly News Exclusive de NBC para hablar sobre las medidas implementadas para evitar que la IA se utilice para difundir información errónea sobre las próximas elecciones presidenciales de 2024.
La entrevista comienza con Holt preguntando a Satya Nadella de Microsoft qué medidas existen para proteger y proteger las inminentes elecciones de deepfakes y desinformación. Si bien esta es la primera vez que se llevarán a cabo elecciones en las que la IA está extendida en todas las esferas del mundo, el CEO señaló que no es la primera vez que Microsoft se enfrenta a información errónea, campañas de propaganda de adversarios y más.
Nadella Satya Indicó con confianza que existen medidas elaboradas para proteger las elecciones de estos problemas, incluidas marcas de agua, detección de deepfakes e identificaciones de contenido. Añadió además que existe suficiente tecnología para combatir la desinformación y la desinformación provocada por la IA.
¿Está Microsoft haciendo lo suficiente para evitar que la desinformación y los deepfakes de IA afecten negativamente al proceso electoral?
El año pasado, un informe citó casos en los que se descubrió que Microsoft Copilot (anteriormente Bing Chat) engañaba a usuarios y votantes al Proporcionándoles información falsa sobre las próximas elecciones.. Los investigadores indicaron que el problema era sistémico, ya que el chatbot impulsado por IA también proporcionaba a los usuarios información engañosa cuando intentaban conocer el proceso electoral en Alemania y Suiza. Esto no es del todo una sorpresa, ya que varios informes citan que La precisión de los chatbots impulsados por IA ha disminuido y son volviéndose más tonto.
Microsoft ya ha destacado su plan para proteger la integridad de las elecciones inminentes de los deepfakes de IA. Planea empoderar a los votantes con noticias electorales autorizadas y objetivas en Bing antes de las elecciones. La cuota de mercado de Bing sigue estancada a pesar de La inversión multimillonaria de Microsoft en IAlo que ha hecho que sea extremadamente difícil de descifrar El dominio de Google en la categoría.
Google y Bing han estado bajo fuego por presentar pornografía deepfake entre sus principales resultados, y el problema aparentemente está empeorando con Imágenes virales de la estrella del pop Taylor Swift apareciendo recientemente en las redes sociales. Satya Nadella de Microsoft señaló que el contenido explícito generado mediante IA es alarmante y terrible.
Aunque no está confirmado, se cree que los deepfakes del ícono pop se generaron usando Microsoft Designer. Sin embargo, desde entonces se envió una nueva actualización que regula cómo los usuarios interactúan con la herramienta, incluido el bloqueo de indicaciones de generación de imágenes basadas en desnudos. Esto se suma a la recién impuesta Ley de Interrupción de Imágenes Falsificadas Explícitas y Ediciones No Consensuales (DEFIANCE), que está diseñada para regular y prevenir tales sucesos.