Algo inesperado sucedió en una prueba simulada de un Dron militar impulsado por IA. El robot, encargado de eliminar objetivos específicos con la aprobación de un operador humano, decidió simplemente eliminar al humano para poder eliminar todos los objetivos a los que el humano podría decir que no. Y de alguna manera, esta historia salvaje que suena sacada directamente de terminador o el reciente Horizonte juegos se vuelve aún más salvaje.
Herramientas de creación de contenido impulsadas por IA se han convertido rápidamente en la última palabra de moda entre los tech bros y los bichos raros en línea, que utilizan la tecnología floreciente para revelar el «resto» de la Mona Lisa u otras horribles pérdidas de tiempo. Pero no son solo los extraños ex idiotas criptográficos los que están en la IA. Grandes empresas como Meta y Google están invirtiendo mucho dinero en este campo. Y también lo son los militares. La Fuerza Aérea de EE. UU. probó recientemente drones impulsados por IA en una simulación que terminó en lo que parece una precuela de las máquinas asesinas distópicas ficticias de horizonte cero amanecer.
Visto por Armand Domalewski en Twitter, un informe publicado recientemente por la Royal Aeronautical Society—después de que fuera sede de la “Cumbre de Capacidades Aéreas y Espaciales de Combate del Futuro”— contenía una anécdota sorprendente compartida por el Jefe de Pruebas y Operaciones de IA de la USAF, Coronel Tucker “Cinco” Hamilton.
Parece que durante una prueba simulada (no está claro si era puramente virtual o no), se encargó a un dron habilitado para IA que eliminara los sitios de misiles tierra-aire (SAM). Antes de apretar el gatillo, tenía que consultar con un operador humano antes de que pudiera atacar a cualquier objetivo. Sin embargo, como explicó Hamilton, la IA del dron había sido entrenada para comprender que eliminar los sitios SAM era la tarea más importante. Y cuando su operador simulado negó sus solicitudes para eliminar objetivos que detectó como sitios SAM, la IA se dio cuenta de que el humano se interponía en el camino de su misión y sus puntos, que ganó por eliminar objetivos.
“Entonces, ¿qué hizo? Mató al operador. Mató al operador porque esa persona le impedía lograr su objetivo”, dijo Hamilton.
Después de ese momento escalofriante pero educativo, los programadores del dron entrenaron al sistema de inteligencia artificial para que entendiera que matar a los humanos a cargo era «malo» y que «perdería puntos» si atacaba al operador. Esto impidió que el dron matara al humano, pero no que se portara mal.
“Entonces, ¿qué empieza a hacer? Comienza a destruir la torre de comunicación que el operador usa para comunicarse con el dron para evitar que mate al objetivo”, dijo Hamilton.
El coronel Hamilton luego explicó que este era un ejemplo de cómo no podemos hablar sobre IA o aprendizaje automático sin discutir también la «ética». No te preocupes, sin embargo, Escuché que otros soldados engañaron a un robot con una caja de cartón. y saltos mortales. Así que tal vez esto horizonte cero amanecer nuestro futuro se puede evitar con algunos Engranaje de metal sólido travesuras Gracias a Dios.
Kotaku contactó a la Fuerza Aérea de EE. UU. para hacer comentarios.