Un fuerte jugador aficionado de Go ha vencido a un sistema de IA de alto rango después de explotar una debilidad descubierta por una segunda computadora, el tiempo financiero ha informado. Al explotar la falla, el jugador estadounidense Kellin Pelrine derrotó al sistema KataGo de manera decisiva, ganando 14 de 15 juegos sin más ayuda de la computadora. Es una rara victoria de Go para los humanos desde la victoria histórica de AlphaGo en 2016 que ayudó a allanar el camino para la locura actual de la IA. También muestra que incluso los sistemas de inteligencia artificial más avanzados pueden tener puntos ciegos evidentes.
La victoria de Pelrine fue posible gracias a una empresa de investigación llamada FAR AI, que desarrolló un programa para investigar las debilidades de KataGo. Después de jugar más de un millón de juegos, pudo encontrar una debilidad que podría ser explotada por un jugador aficionado decente. «No es del todo trivial, pero no es superdifícil» de aprender, dijo Pelrine. Usó el mismo método para vencer a Leela Zero, otra de las mejores Go AI.
Así es como funciona: el objetivo es crear un gran «bucle» de piedras para rodear al grupo de un oponente, luego distraer a la computadora haciendo movimientos en otras áreas del tablero. Incluso cuando su grupo estaba casi rodeado, la computadora no se dio cuenta de la estrategia. «Como humano, sería bastante fácil de detectar», dijo Pelrine, ya que las piedras que lo rodean se destacan claramente en el tablero.
La falla demuestra que los sistemas de IA realmente no pueden «pensar» más allá de su entrenamiento, por lo que a menudo hacen cosas que parecen increíblemente estúpidas para los humanos. Hemos visto cosas similares con los bots de chat como el empleado por el motor de búsqueda Bing de Microsoft. Si bien era bueno en tareas repetitivas como elaborar un itinerario de viaje, también brindaba información incorrecta, reprendía a los usuarios por perder el tiempo e incluso mostraba un comportamiento «desquiciado», probablemente debido a los modelos en los que se entrenó.
Lightvector (el desarrollador de KataGo) ciertamente es consciente del problema, que los jugadores han estado explotando durante varios meses. En una publicación de GitHub, dijo que ha estado trabajando en una solución para una variedad de tipos de ataques que usan el exploit.
Todos los productos recomendados por Engadget son seleccionados por nuestro equipo editorial, independiente de nuestra empresa matriz. Algunas de nuestras historias incluyen enlaces de afiliados. Si compra algo a través de uno de estos enlaces, podemos ganar una comisión de afiliado. Todos los precios son correctos en el momento de la publicación.