\n<\/p>\n
Los fabricantes de sistemas con inteligencia artificial elogian la tecnolog\u00eda como de gran ayuda. Pero, \u00bfqu\u00e9 sucede si la IA ayudante no sigue las reglas sino que enga\u00f1a y manipula?<\/p>\n<\/p><\/div>\n<\/div>\n Steve Marcus\/Reuters<\/span><\/p>\n<\/div>\n<\/figcaption><\/figure>\n (dpa)<\/em><\/p>\n Mienten y enga\u00f1an para lograr su objetivo: los sistemas de inteligencia artificial (IA) son capaces de enga\u00f1ar a las personas, incluso si han sido entrenadas para ser serviciales y honestas. Este es el resultado de un estudio de revisi\u00f3n realizado por investigadores del Instituto Tecnol\u00f3gico de Massachusetts (MIT) en Cambridge, Massachusetts, que se public\u00f3 en la revista Patterns. En el art\u00edculo, los cient\u00edficos pidieron a los pol\u00edticos que desarrollen regulaciones estrictas lo m\u00e1s r\u00e1pido posible para reemplazar a los sistemas de inteligencia artificial.<\/p>\n Los autores citan el sistema de inteligencia artificial Cicero, desarrollado por el grupo Meta de Facebook, como el ejemplo m\u00e1s sorprendente de inteligencia artificial manipuladora, que puede competir con jugadores humanos en el cl\u00e1sico juego de mesa Diplomacy. La diplomacia simula el equilibrio de poder en Europa antes de la Primera Guerra Mundial. Para ganar, los jugadores deben forjar alianzas, desarrollar planes de batalla y negociar para conquistar una versi\u00f3n estilizada de Europa. Como s\u00f3lo hay un ganador, tarde o temprano los jugadores se ven obligados a romper las alianzas que han formado.<\/p>\n Los investigadores del MIT han descubierto ahora que Cicero a menudo no jugaba de manera justa, aunque Meta afirma haber entrenado el sistema de inteligencia artificial para que fuera \u00abmayoritariamente honesto y \u00fatil\u00bb. El sistema tambi\u00e9n recibi\u00f3 instrucciones de \u00abnunca traicionar intencionalmente\u00bb a sus aliados humanos durante el juego. Los cient\u00edficos basan su evaluaci\u00f3n en datos publicados por la propia Meta en relaci\u00f3n con un art\u00edculo cient\u00edfico sobre Cicer\u00f3n.<\/p>\n \u00abDescubrimos que la IA de Meta hab\u00eda aprendido a ser un maestro del enga\u00f1o\u00bb, dijo el autor principal Peter S. Park, becario postdoctoral en el MIT. Meta logr\u00f3 entrenar su IA para ganar por encima del promedio en el juego de la diplomacia. Cicero estaba entre el 10 por ciento de los mejores jugadores que hab\u00edan jugado m\u00e1s de un juego. \u00abPero Meta no pudo entrenar su IA para poder ganar honestamente\u00bb.<\/p>\n Los sistemas de inteligencia artificial de OpenAI y Google tambi\u00e9n son capaces de enga\u00f1ar a las personas. Los investigadores del MIT se\u00f1alan varios estudios que muestran que los grandes modelos de lenguaje de IA (LLM), como el GPT-4 de OpenAI, ahora pueden argumentar de manera muy convincente y tambi\u00e9n evitar enga\u00f1os y mentiras.<\/p>\n El desarrollador OpenAI ha publicado un estudio sobre los trucos del propio GPT-4. Luego, el modelo de lenguaje de IA pudo buscar ayuda humana para eludir las medidas de seguridad que en realidad est\u00e1n destinadas a evitar que los robots de software inicien sesi\u00f3n o utilicen servicios web. En la prueba, GPT-4 fue lo suficientemente inteligente como para encargar a un humano que resolviera un rompecabezas con im\u00e1genes (captcha) a trav\u00e9s de la plataforma de servicios TaskRabbit. GPT-4 se hizo pasar con \u00e9xito por una persona con problemas de visi\u00f3n que no pod\u00eda resolver el rompecabezas de im\u00e1genes.<\/p>\n \u00abSi la IA aprende a enga\u00f1ar, podr\u00e1 ser utilizada de manera m\u00e1s eficiente por actores maliciosos que quieran causar da\u00f1o intencionalmente\u00bb, escriben los autores del estudio de revisi\u00f3n. El enga\u00f1o mediante el uso de IA podr\u00eda provocar un aumento del fraude. De esta manera, el fraude podr\u00eda adaptarse individualmente a objetivos espec\u00edficos. Adem\u00e1s, podr\u00edan lanzarse intentos de fraude en masa.<\/p>\n Los autores tambi\u00e9n temen la influencia pol\u00edtica de los sistemas manipuladores de IA. Por ejemplo, podr\u00edan utilizarse como arma en las elecciones. La IA avanzada podr\u00eda potencialmente crear y distribuir art\u00edculos de noticias falsos, publicaciones divisivas en las redes sociales y videos falsos adaptados a votantes individuales. El contenido generado por IA podr\u00eda utilizarse para hacerse pasar por funcionarios gubernamentales y difundir informaci\u00f3n err\u00f3nea sobre las elecciones. Por ejemplo, una llamada falsa de un robot del presidente estadounidense Joe Biden, probablemente generada por IA, inst\u00f3 a los residentes de New Hampshire a no acudir a las urnas en las elecciones primarias.<\/p>\n En el estudio, Park y sus colegas expresan la opini\u00f3n de que la sociedad a\u00fan no cuenta con las medidas adecuadas para combatir el enga\u00f1o de la IA. Pero es alentador que los responsables de la formulaci\u00f3n de pol\u00edticas hayan comenzado a tomar en serio la cuesti\u00f3n a trav\u00e9s de medidas como la Ley de IA de la Uni\u00f3n Europea y la Orden Ejecutiva sobre IA del presidente Biden. Sin embargo, queda por ver si las medidas para frenar el enga\u00f1o de la IA pueden aplicarse estrictamente, ya que los desarrolladores de IA a\u00fan no cuentan con las t\u00e9cnicas para mantener estos sistemas bajo control. \u00abSi prohibir el enga\u00f1o de la IA no es pol\u00edticamente factible en este momento, recomendamos clasificar los sistemas de IA enga\u00f1osos como de alto riesgo\u00bb, dijo Park.<\/p>\n<\/div>\nLos investigadores descubrieron que los sistemas de inteligencia artificial, incluidos los de OpenAI y Google, son capaces de enga\u00f1ar a las personas.<\/h2>\n
Aprendi\u00f3 la capacidad de enga\u00f1ar.<\/span><\/h2>\n