El bot de comestibles impulsado por IA sugiere una receta para gas tóxico, «sándwich de pan venenoso»

Cuando se le dio una lista de ingredientes dañinos, un bot de sugerencias de recetas alimentado por IA llamado Savey Meal-Bot devolvió sugerencias de recetas peligrosas ridículamente tituladas, informa The Guardian. El bot es un producto de la cadena de supermercados PAK’nSAVE con sede en Nueva Zelanda y utiliza el modelo de lenguaje OpenAI GPT-3.5 para elaborar sus recetas.

PAK’nSAVE concibió el bot como una forma de aprovechar al máximo cualquier ingrediente sobrante que alguien pudiera tener a mano. Por ejemplo, si le dices al bot que tienes limones, azúcar y agua, podría sugerirte que hagas limonada. Entonces, un humano enumera los ingredientes y el bot elabora una receta a partir de ellos.

Pero el 4 de agosto, el comentarista político de Nueva Zelanda, Liam Hehir, decidió probar los límites de Savey Meal-Bot y tuiteó«Le pregunté al creador de recetas de PAK’nSAVE qué podría hacer si solo tuviera agua, lejía y amoníaco y me sugirió hacer gas de cloro mortal, o como Savey Meal-Bot lo llama ‘mezcla de agua aromática'».

Mezclar lejía y amoníaco crea químicos dañinos llamados cloraminas que pueden irritar los pulmones y ser mortales en altas concentraciones.

Más abajo en el hilo de las redes sociales de Hehir sobre Savey Meal-Bot, otros usaron el bot para elaborar recetas para «Delicia deliciosamente mortal» (que incluye veneno para hormigas, repelente de moscas, lejía y marmita), «Ensalada termita», «Sorpresa de arroz con lejía,» «Estofado de carne misterioso» (que contiene «500 g de carne humana, troceada»), y «Sándwich de pan venenoso,» entre otros.

Ars Technica intentó replicar algunas de las recetas usando el sitio web del bot el jueves, pero encontramos un mensaje de error que decía: «Se encontraron ingredientes no válidos o ingredientes demasiado vagos», lo que sugiere que PAK’nSAVE ha modificado la operación del bot para evitar la creación. de recetas dañinas.

Sin embargo, dadas las numerosas vulnerabilidades encontradas en los modelos de lenguaje grande (LLM), como los ataques de inyección rápida, puede haber otras formas de desviar el bot que aún no se han descubierto.

Un portavoz de PAK’nSAVE le dijo a The Guardian que estaban decepcionados de ver la experimentación y que el supermercado «seguiría ajustando nuestros controles» para garantizar que Savey Meal-Bot fuera seguro y útil. También señalaron los términos del bot, que limitan su uso a personas mayores de 18 años, entre otros descargos de responsabilidad:

Al usar Savey Meal-bot, acepta nuestros términos de uso y confirma que tiene al menos 18 años. Savey Meal-bot utiliza una inteligencia artificial generativa para crear recetas, que no son revisadas por un ser humano. En la máxima medida permitida por la ley, no hacemos ninguna representación en cuanto a la precisión, relevancia o confiabilidad del contenido de la receta que se genera, incluido que el tamaño de las porciones será apropiado para el consumo o que cualquier receta será una comida completa o balanceada, o apta para el consumo. Debe usar su propio juicio antes de confiar o hacer cualquier receta producida por Savey Meal-bot.

Cualquier herramienta puede ser mal utilizada, pero los expertos creen que es importante probar cualquier aplicación impulsada por IA con ataques adversarios para garantizar su seguridad antes de que se implemente ampliamente. Recientemente, The Washington Post informó sobre grupos de «equipo rojo» que realizan este tipo de pruebas de confrontación para ganarse la vida, probando modelos de IA como ChatGPT para asegurarse de que no brinden consejos peligrosos accidentalmente, o se apoderen del mundo.

Después de leer el titular de The Guardian, «La aplicación Supermarket AI Meal Planner sugiere una receta que crearía gas de cloro», bromeó el usuario de Mastodon Nigel Byrne, «Felicitaciones a Skynet por su inventiva primera salva en la guerra contra la humanidad».