Un subgénero completamente nuevo de horrible contenido de «crímenes reales» se está arraigando en Tik Tok. Hay carteles que utilizan herramientas de creación de medios impulsadas por «inteligencia artificial» para crear videos falsos que pretenden mostrar víctimas reales de asesinatos, a menudo niños, compartiendo detalles espeluznantes sobre cómo fueron asesinados. Peor aún, estas pesadillas digitales generadas por IA están explotando en popularidad, acumulando millones de visitas mientras explotan a víctimas reales.
Hemos escrito mucho sobre Contenido generado por IA en este sitio web y cubrió lo rápido que se está convirtiendo en una fuerza destructiva en el mundo. La gente ya está perdiendo sus trabajos. mientras las empresas poco éticas se apresuran a utilizar la tecnología de IA para reemplazar a tantos humanos como sea posible con chatbots glorificados. Así que ya estaba firmemente en el “El contenido generado por IA es malo” campamento antes de que un nuevo informe me mostrara cuánto peor pueden empeorar las cosas, con algunas personas que usan la controvertida tecnología para reanimar a las personas muertas para generar vistas en las redes sociales.
Según lo informado por Piedra rodante El miércoles, estas recreaciones de crímenes reales generadas por IA están explotando en TikTok. Hice una búsqueda rápida y encontré demasiados que tenían más de 100k vistas. Algunos tenían incluso más. Encontré un video de un niño generado por IA que describe, con detalles espantosos y horribles a través de una voz robótica inhumana, cómo fue torturado y asesinado por su padre. Tuvo más de dos millones de visitas. No los vincularé, ya que son algunas de las peores cosas que he visto en mucho tiempo, pero puedes encontrarlos muy fácilmente. Yo no lo haría. Confía en mí.
Las cuentas que publican este contenido en TikTok tienen miles de seguidores y millones de me gusta y aparentemente publican nuevos videos de víctimas de IA todos los días. Hay varias cuentas que publican este tipo de videos, incluidos algunos que muestran a adultos y políticos famosos, como JFK. Pero la mayoría de los más populares cuentan con niños.
Piedra rodante señala la frecuencia con la que estos videos tienen detalles erróneos, incluida la raza, la edad y los nombres de las víctimas que estos creadores de contenido afirman que están «honrando». Algunos de estos detalles incorrectos pueden ser errores genuinos, mientras que se especula que otros son erróneos a propósito para eludir Las nuevas reglas de TikTok contra las falsificaciones profundas impulsadas por IA de personas y niños no famosos.
El debate sobre el contenido del ‘true crime’
Durante años, la gente (incluido yo mismo) ha cuestionó la popularidad de los podcasts, programas de televisión y películas sobre crímenes reales. Manejado adecuadamente, el crimen real puede proporcionar información sobre las partes más oscuras de la humanidad o compartir historias que de otro modo serían encubiertas por la policía o los poderosos.
Pero con demasiada frecuencia, el contenido de crímenes reales explota a las víctimas y sus familiares mientras convierte a los perpetradores en estrellas. Es probable que esta última tendencia de usar recreaciones generadas por IA de niños que fueron asesinados para crear contenido aún más espantoso genere aún más controversia en torno al género problemático y sus fanáticos.
Personalmente, te recomiendo que no busques estas cosas. Los videos de TikTok que vi mientras miraba esto me revolvieron el estómago. Es una mierda horrenda y una señal oscura de que justo cuando crees que el contenido generado por IA no puede empeorar, lo hace, y de una manera nueva que nunca imaginaste. Realmente no hay escapatoria de este tren del infierno, ¿eh?