Lo que necesitas saber

• Se informa que Copilot, el chatbot de Microsoft impulsado por inteligencia artificial, genera información inexacta sobre las próximas elecciones estadounidenses.
• En noviembre, Microsoft presentó planes elaborados que tiene para proteger el proceso electoral contra falsificaciones de IA y avaló a Bing News como una fuente creíble de información precisa.
• Los investigadores creen que el problema es sistémico, ya que se detectaron sucesos similares al utilizar el chatbot para obtener más información sobre las elecciones en Alemania y Suiza.

---

La amplia disponibilidad de Internet en la mayor parte del mundo permite a los usuarios acceder a la información al instante, de ahí el cambio dinámico de los medios impresos a los digitales. Y ahora, la aparición de IA generativa ha redefinido por completo la forma en que las personas buscan información en Internet. Puedes usar chatbots como Copiloto de Microsoft o ChatGPT de OpenAI para generar respuestas elaboradas y bien seleccionadas a las preguntas.

Si bien esto es bastante impresionante, hay varias cuestiones que es necesario abordar. En los últimos meses, el número de informes presentados por usuarios preocupados citando que ChatGPT se está volviendo más tonto es muy alarmante. Sin olvidar los “episodios de alucinaciones” de Copilot durante sus inicios.

Meta anunciado en una actualización de la publicación del blog ayer que aplicará una configuración oscura de Instagram a Threads que permite a los usuarios controlar cuánto contenido verificado ven en su feed. Meta dice que su verificación de datos tiene como objetivo abordar la información errónea, de modo que, de manera efectiva, los usuarios podrán decidir cuánto quieren ver temas controvertidos en el sitio.

Los controles tienen tres niveles: «No reducir», «Reducir» y «Reducir más». Si bien ninguna de las opciones puede ocultar el contenido por completo, afectarán la clasificación de las publicaciones que «contienen información falsa o parcialmente falsa, contenido alterado o falta de contexto».

Para acceder a la configuración desde Threads, los usuarios deberán tocar las dos líneas en la esquina superior derecha de la pestaña de perfil, luego Cuenta > Otras configuraciones de cuenta (que lo llevará a Instagram) > Preferencias de contenido > Reducido mediante verificación de datos.

El concepto, a primera vista, parece realmente convincente. Básicamente podría ser un filtro de “drama”, ¿y quién no ha querido eso en alguna faceta de su vida? Meta dijo en un declaración a Noticias NBC que las opciones están destinadas a dar a los usuarios «más poder para controlar el algoritmo que clasifica las publicaciones en su feed», y agregó que responde a las demandas de los usuarios de «una mayor capacidad para decidir lo que ven en nuestras aplicaciones».

Noticias NBC señaló a un publicación con miles de me gusta diciendo que el cambio tiene como objetivo censurar el contenido relacionado con la guerra entre Israel y Hamas. Sea cierto o no, claramente hay mucho espacio para la censura con una herramienta que invita a los usuarios a ser cómplices.

Meta utiliza verificadores de datos de terceros para calificar el contenido de Instagram y Facebook como factual o no, y lo que determinan ahora se aplica indirectamente al contenido de Threads. La compañía dice que aunque los verificadores de datos no pueden calificar directamente el contenido de Threads, Meta transferirá las calificaciones de Instagram y Facebook a «contenido casi idéntico en Threads».

Meta dice que Instagram ha tenido opciones de clasificación de verificación de datos durante años, pero nunca parece haberlo anunciado adecuadamente. De acuerdo a Los tiempos económicosMeta agregó la función a Facebook en mayo, y un portavoz de Meta dijo que su objetivo era «hacer que los controles de usuario en Facebook sean más consistentes con los que ya existen en Instagram».

La moderación no ha crecido con gracia con la rápida expansión de la comunicación en línea desde los pequeños focos de los foros web que lo eran. Ninguna red social masiva ha encontrado la solución milagrosa que resuelva el problema y, en algunos casos, sus esfuerzos solo han agitado ira y sospecha sobre sus motivos o plantearon preguntas sobre la participación del gobierno federal.

Pero Meta tiene que moderar su plataforma, y ​​no sólo por leyes que lo requieren en la Unión Europea, ni en los propios EE.UU. esfuerzos de regulación. Los anunciantes son una gran parte de la ecuación, y la compañía tiene un ejemplo perfecto de cómo renunciar a la moderación afecta a una plataforma en X (anteriormente Twitter), donde los ingresos supuestamente se ha hundido después de que una retórica cada vez más cargada y no moderada contribuyera a su actual hemorragia de anunciantes.

Otro día, otra actualización X que limita lo que puedes hacer en el sitio sin pagarle a Elon Musk por una marca de verificación. A publicar desde la cuenta oficial X anunció que ahora puede restringir las respuestas solo a usuarios verificados; cualquier cuenta etiquetada también puede comentar. La nueva restricción está disponible ya sea que estés verificado o no, uniéndose a las opciones existentes para permitir respuestas de todos, solo las cuentas que sigues o las personas mencionadas.

Musk lanzó lo que ahora es X Premium en noviembre de 2022, sólo unas semanas después de convertirse en el propietario oficial de la empresa, proporcionando a cualquier persona una marca de verificación azul junto a su nombre por 8 dólares al mes o 84 dólares al año. Inicialmente, la verificación estaba disponible en Twitter para confirmar la identidad de figuras destacadas, pero el sistema pago dio lugar a suplantaciones y la aprobación de bots.

Muchos X Premium los usuarios han sido avergonzados por optar por desembolsar dinero por una marca de verificación y funciones adicionales como editar una publicación por hasta una hora y reducir los anuncios a la mitad. Como resultado, X implementó la opción de ocultar esa marca de verificación que alguna vez fue codiciada y limitar el conocimiento de otros usuarios sobre el estado de su suscripción. Por supuesto, con verificación visible o no, ahora cualquiera que responda a una publicación restringida será declarado suscriptor.

El último giro en la plataforma X dirigida por Elon Musk, anteriormente conocida como Twitter, es que los usuarios ahora pueden bloquear cuentas no verificadas de responder a sus publicaciones.

Este cambio llega aproximadamente 11 meses después de que Musk lanzara la verificación paga para Twitter Blue, asignando etiquetas de marca de verificación azules a las personas dispuestas a pagar 7,99 dólares al mes. También significa que podría ser más difícil para quienes no pagan por el servicio (con excepción de las cuentas forzado al estado verificado) para refutar la información errónea que los investigadores informe ha seguido aumentar.

Existe el argumento de que limitar las respuestas a cuentas verificadas mediante pago, número de teléfono o incluso Identificación del gobierno podría reducir el acoso, el trolling y la desinformación.

Sin embargo, ese argumento se deshace rápidamente, ya sea por la presencia continua de bots con etiquetas verificadas o por un vistazo rápido al estado actual de la plataforma. Dado que X ya prioriza las respuestas de cuentas verificadas, es fácil evaluar la calidad de los hilos poblados por carteles pagados con marcas de verificación. Una respuesta a la publicación de X que anunciaba la disponibilidad de la función, de «Dave, el chico de respuesta», la llamó alegremente «modo pagar para ganar».

Yevgeny Prigojine estaba en la lista de pasajeros de un avión que se estrelló al noroeste de Moscú, según la aviación civil rusa. El anuncio lo hizo la Agencia Federal de Transporte Aéreo y lo transmitió la agencia de noticias TASS. «En la lista de pasajeros están el nombre y apellido de Yevgeny Prigozhin», dijo la agencia. Aquí tenéis las primeras imágenes que El mundo pudo verificar y localizar.

El jefe del Grupo Wagner estuvo en el origen de una rebelión armada en junio dirigida contra el Estado Mayor ruso y el ministro de Defensa, Serguéi Shoigu, y encabezada por sus hombres, que tomaron brevemente el control de emplazamientos militares en el sur de Rusia antes de desplazarse. hacia Moscú, abandonando luego su ofensiva el 24 de junio. Vladimir Putin lo había llamado traidor, sin decir su nombre.

Unidad de Video Investigación

El área de contribución está reservada para los suscriptores.

Suscríbase para acceder a este espacio de discusión y contribuir a la discusión.

Suscribir

Contribuir

Twitter parece estar preparando una función que permite a las organizaciones verificadas en la plataforma publicar ofertas de trabajo en sus perfiles. El gigante de las redes sociales también ha creado un oficial @TwitterCuenta de contrataciónpero aún no ha tuiteado nada al respecto.

Aunque Twitter aún no ha anunciado oficialmente la función de ofertas de trabajo, algunos verificados organizaciones ya han podido publicar listados de trabajos en sus biografías de Twitter en sus perfiles. Las listas de trabajos llevan a los candidatos interesados ​​directamente al sitio web de la empresa, donde pueden obtener más información sobre el puesto y enviar una solicitud.

investigador de aplicaciones Nima Owji publicó una captura de pantalla detallando la función, a la que el gigante de las redes sociales se refiere como «Contratación de Twitter». Según la captura de pantalla, Twitter describe la función como una forma para que las organizaciones verificadas atraigan talento a sus puestos vacantes. Las organizaciones verificadas podrán agregar hasta cinco puestos de trabajo a sus perfiles.

La captura de pantalla también indica que Twitter permitirá a las organizaciones verificadas importar todos sus trabajos abiertos a la plataforma al conectarse a un feed ATS o XML compatible, lo que les permitiría agregar sus listados a Twitter en minutos.

El movimiento no es una completa sorpresa, dado que el propietario de Twitter, Elon Musk, insinuó la función en mayo. Después de que un usuario sugirió que Twitter debería implementar funciones de citas, almizcle respondió: “Idea interesante, tal vez trabajos también.”

Con esta nueva función, Twitter busca competir con empresas populares como LinkedIn e Indeed. Vale la pena señalar que Twitter compró una startup tecnológica de búsqueda de empleo llamada Laskie en mayo, que fue la primera adquisición de la compañía desde que Musk compró la aplicación. Es posible que la adquisición haya ayudado al gigante de las redes sociales a desarrollar y enviar la función.

Parece que las organizaciones verificadas no tendrán que pagar extra para acceder a la función de ofertas de trabajo. La empresa de medios Workweek obtuvo acceso a la función de ofertas de trabajo y su CEO Adán Ryan dice que la función está incluida en el paquete Verified for Organizations de Twitter de $1,000 por mes.

Aunque los usuarios de Twitter ya publican ofertas de trabajo en la plataforma a través de tweets, la nueva funcionalidad podría ayudar a las empresas a llegar fácilmente a los candidatos en la amplia base de usuarios de la plataforma.

A principios de este año, Gmail comenzó a implementar marcas de verificación azules para identificar a los remitentes de confianza. Los estafadores encontraron rápidamente una forma de disfrazar los correos electrónicos no deseados como verificados, lo que Google dijo que arregló, pero el problema parece estar presente.

En mayo, Gmail comenzó a mostrar marcas de verificación azules junto a los remitentes verificados, para que fuera más fácil saber si un mensaje era legítimo o no. Por ejemplo, si recibió una confirmación de envío de UPS y vio la marca de verificación azul, sabría que era de UPS real y no de un estafador. Desafortunadamente, los estafadores encontraron rápidamente una forma de evitar el sistema y Gmail mostraba el símbolo verificado en los correos electrónicos de phishing.

Google dijo 9to5Google que el problema dependía de una vulnerabilidad de seguridad de un tercero y, para fines de la primera semana de junio, la empresa requeriría la autenticación de DomainKeys Identified Mail (DKIM) de los remitentes para mostrar la marca de verificación. Eso debería haber evitado que los correos electrónicos falsos mostraran símbolos verificados, pero aún podría ser un problema.

Una persona que trabaja en How-To Geek recibió un correo electrónico que parecía ser de Stripe, con el logotipo de Stripe, el dominio web de Stripe y la marca de verificación de Gmail visibles en la información del remitente.

Sin embargo, el mensaje de una compra de Ethereum que no sucedió, y también contiene referencias a PayPal. Stripe y PayPal no están conectados de ninguna manera, excepto que ambos son procesadores de pago. El número de soporte de PayPal en el mensaje (que hemos difuminado) tampoco es el número oficial que figura en el sitio de soporte de PayPal. Es un correo electrónico bastante convincente por sí solo, y el símbolo verificado de Gmail agrega más credibilidad.

No está claro si se trata de una vulnerabilidad del sistema de mensajería de Stripe (como las estafas de facturas que fueron comunes con PayPal el año pasado), o si el mensaje fue enviado por un estafador y pasó desapercibido por el filtro de verificación de Gmail. Nos comunicamos con Google y Stripe para obtener comentarios, y actualizaremos este artículo cuando recibamos una respuesta. Mientras tanto, asegúrese de verificar los posibles correos electrónicos fraudulentos, incluso si Gmail los ha marcado como confiables.

Últimas noticias: El Pentágono de EE. UU. NO está bajo ataque. Pero eso no impidió que los informes falsos de una explosión circularan ampliamente en línea junto con una imagen aparentemente generada por IA de humo negro que se elevaba cerca de la sede del Departamento de Defensa el lunes.

Múltiples usuarios de Twitter “verificados” volvieron a publicar la foto falsa junto con un texto que insinuaba que se estaba produciendo una situación de emergencia activa en el Pentágono y más tarde en la Casa Blanca. Las cuentas que amplificaron las narrativas falsas incluyeron al menos una que parecía estar haciéndose pasar activamente por Bloomberg News (la cuenta infractora, @BloombergFeed, fue luego suspendido).

El medio de comunicación estatal ruso RT News dio un impulso adicional a la historia falsa cuando publicó sobre el incidente falso en su cheque de oro-Cuenta verificada, pagada y en uso. Aunque RT finalmente eliminó su tweet horas después de publicarlo inicialmente, más de 38,000 personas vieron la publicación. Republic TV , un canal de noticias de derecha en inglés en India también transmitir un informe de noticias completo basado en la imagen falsa.

El Pentágono se convirtió en un tema de tendencia en Twitter y permanece en la lista de tendencias, a partir de la publicación. En una búsqueda de «Pentágono» en la plataforma, la mayoría de las publicaciones principales parecen ser desacreditaciones de la explosión del engaño, mientras que algunas continuaron promoviendo las noticias falsas. Muchos menos discutieron el presupuesto del Pentágono astronómicamente alto publicado recientemente, y una nueva investigación Informe de noticias de CBS lo que sugiere que los contratistas están cobrando de más al gobierno.

Las cosas se salieron de control lo suficiente como para que las autoridades de Virginia tuvieran que intervenir para asegurar que en realidad no había habido ninguna explosión u otro incidente en la sede del DOD de Arlington. La Agencia de Protección de la Fuerza del Pentágono y Arlington Fire & EMS y publicó una declaración en Twitter refutando el engaño. “NO se está produciendo ninguna explosión o incidente en o cerca de la reserva del Pentágono, y no hay peligro o peligros inmediatos para el público”.

Pero más allá de Twitter, el probable susto de explosión generado por IA también tuvo repercusiones en el mundo real. Minutos después una de las primeras publicaciones alegando que un incidente en el Pentágono surgió en línea, Información privilegiada informada que el mercado de valores de EE. UU. cayó brevemente, aunque los valores de las acciones se recuperaron rápidamente.

Lo que quizás no se recupere tan rápido es la confiabilidad y autoridad de Twitter como un lugar para compartir y encontrar noticias. Desde que Elon Musk revisó el sistema de verificación de su plataforma de redes sociales el año pasado y se mudó a eliminar la mayoría de los cheques heredados el mes pasado, las únicas cuentas con marcas de verificación que quedan en la plataforma son aquellas que pagan por Twitter Blue o el programa de Organización Verificada de Twitter y una pequeña cantidad de instituciones y agencias gubernamentales cheques grises gratis otorgados.

Anteriormente, la verificación de Twitter era solo disponible a cuentas que eran “auténticas, notables y activas”. Los usuarios generalmente tenían que solicitar un cheque azul y la mayoría de las ofertas fueron rechazadas. Pero ese proceso de verificación ya no existe. En cambio, por $ 8 por mes y sin mucha supervisión (si es que hay alguna), Twitter Blue puede acceder a un aura de autoridad en el sitio.

Básicamente, tan pronto como las marcas de verificación de pago por juego estuvieron disponibles, cuentas impostoras para celebridades y grandes empresas se convirtió en un problema. Aunque Musk ha intentado instituir un arreglarel incidente de hoy demuestra que el problema persiste.

Por supuesto, lo que agrava el problema de la suplantación de identidad en línea es la tecnología de IA generativa que mejora rápidamente que permite básicamente que cualquier persona al instante producir imágenes lo suficientemente convincentes, video o clips de sonido de cualquier cosa que elijan. Usando texto e imágenes generados por IA, han aparecido granjas de contenido a través de Internet, arrojando contenido completamente fabricado, pero en el que se puede hacer clic. Anteriormente, «fotos» falsas (¿faux-tos?) del arresto de Donald Trump hizo grandes olaslo que lleva a algunos expertos a pedir una regulación o marcas de agua obligatorias en las imágenes generadas.

Aunque la imagen falsa de la explosión del Pentágono no ha sido verificada como creada por IA, es casi seguro que lo fue. Las inconsistencias en la cerca y las ventanas del edificio parecen estar muy en línea con el tipo de alucinaciones que la IA tiene con frecuencia.

Se han detectado piratas informáticos que ingresan a páginas populares verificadas de Facebook y las usan para publicar anuncios en el gigante de las redes sociales que distribuye malware.

consultor social mateo navarra (se abre en una pestaña nueva) detectó por primera vez la campaña maliciosa, describiendo el peligro en Twitter.

Los estafadores se hicieron pasar por Meta a través de anuncios de Facebook pagados que contenían enlaces a malware.

Como TechCrunch informó inicialmente(Se abre en una nueva ventana)los anuncios (que eran convincentes a primera vista) fueron detectados inicialmente por el consultor social Matt Navarra, quien tuiteó(Se abre en una nueva ventana): “¿Cómo se aprobó este anuncio @Meta? Cuenta verificada que se hace pasar por Meta engañando a los usuarios para que descarguen herramientas sospechosas”.

Uno de los anuncios, publicado por una página verificada con decenas de miles de seguidores llamada Meta Ads, intentó engañar a los usuarios para que descargaran una herramienta de administración de anuncios «más profesional y segura» porque los «problemas de seguridad» habían impedido que los usuarios pudieran administrar los anuncios. cuentas en el navegador.

Pío(Se abre en una nueva ventana)

El anuncio incluía un enlace a un sitio web infectado con malware y se promocionó en Facebook como un anuncio patrocinado pagado.

Una página verificada diferente pretendía ser Google AI y apuntaba a enlaces falsos para Bard, la nueva plataforma de inteligencia artificial del gigante tecnológico.

Como señala TechCrunch, antes de ser pirateada, la página pertenecía a una popular cantante y actriz india llamada Miss Pooja y tenía más de 7 millones de seguidores antes de que la cuenta y el nombre de la página cambiaran el 29 de abril.

Según los informes, todas las páginas pirateadas identificadas por Navarra han sido deshabilitadas desde entonces, aunque vale la pena señalar que los piratas informáticos lograron que sus anuncios fueran aprobados sin problemas en el sistema de anuncios automatizado de Meta antes de que fueran detectados y eliminados.

Meta no respondió de inmediato a la solicitud de comentarios de PCMag, pero un portavoz de la compañía le dijo a TechCrunch: “Invertimos recursos significativos para detectar y prevenir estafas y ataques. Si bien muchas de las mejoras que hemos realizado son difíciles de ver, porque minimizan que las personas tengan problemas en primer lugar, los estafadores siempre intentan eludir nuestras medidas de seguridad».

En un intento por mejorar la protección de la cuenta y proteger a los usuarios de Facebook contra los estafadores, Meta lanzó recientemente un programa de verificación titulado Meta Verified. Para tener el privilegio de una mejor atención al cliente y una «protección proactiva de la cuenta», los usuarios de Instagram y Facebook deberán pagar un mínimo de $11.99 al mes.