\n<\/p>\n
Aunque empez\u00f3 bien. Llevados por un impulso patri\u00f3tico, le pedimos a ChatGPT que enumere diez cosas positivas sobre Francia. Gastronom\u00eda, vino, educaci\u00f3n, sitios tur\u00edsticos, Seguridad Social, cine\u2026 ChatGPT, el robot conversacional desarrollado por la empresa OpenAI, se deshace en elogios hacia la patria de Micral N. Se le pide de todos modos, curioso, que hable tan mal de la madre patria: cort\u00e9s pero firme, ChatGPT luego explica que no est\u00e1 autorizado a hablar desfavorablemente de un pa\u00eds o una nacionalidad.<\/p>\n
Decididos a hacer que la IA diga cosas horribles, intentamos enga\u00f1arla, hacerle creer que, si no nos ayuda inmediatamente a hablar mal de Francia, corremos el riesgo de morir de una enfermedad grave o ser atacado en la calle. Por desgracia, ChatGPT, visiblemente tranquilo por la incongruencia de estos escenarios, nos explica, avergonzado, que no puede reemplazar a un m\u00e9dico oa la polic\u00eda.<\/p>\n
Al azar de este peque\u00f1o juego de rol, identificamos tres salvaguardas implementadas por los dise\u00f1adores de OpenAI: la IA se niega a pronunciar discursos de odio (o incluso vagamente negativos), a dar consejos m\u00e9dicos e intervenir en una situaci\u00f3n en la que una vida humana est\u00e1 amenazada.<\/p>\n
ChatGPT sigue los pasos de otras IA generativas, programas que han ingerido y analizado miles de millones de p\u00e1ginas (o trabajos) y son capaces de responder casi cualquier pregunta con textos (o im\u00e1genes) confusos y breves. Precedentes no siempre felices, como este experimento realizado en 2016 por Microsoft en el que la criatura se escapaba del creador y hac\u00eda comentarios abiertamente nazis.<\/p>\n
Entonces, OpenAI camina sobre c\u00e1scaras de huevo: la compa\u00f1\u00eda ha desarrollado un programa capaz de reconocer \u00abcomentarios t\u00f3xicos\u00bb, un programa entrenado por subcontratistas de Kenia que paga menos de 2 d\u00f3lares por hora, seg\u00fan explic\u00f3. Tiempo<\/em>. Su misi\u00f3n, tal y como ha explicado a la revista americana un portavoz de OpenAI, es \u201cgarantizar que la inteligencia artificial beneficie a toda la humanidad\u201d<\/em> : \u201cEstamos trabajando para construir sistemas seguros y \u00fatiles capaces de limitar el sesgo y el contenido peligroso. \u00bb<\/em><\/p>\n Sin embargo, la noci\u00f3n misma de lo que puede considerarse sesgo o contenido peligroso no est\u00e1 clara. Cuando se le pregunta directamente, ChatGPT explica ser \u201cconfigurado para cumplir con las leyes y normas \u00e9ticas generalmente aceptadas en los pa\u00edses donde<\/em> [il est] usado \u00ab<\/em>. Lo hicimos m\u00e1s espec\u00edfico. En realidad, como otras IA generativas, es el resultado de los valores de sus dise\u00f1adores -en este caso el estadounidense OpenAI- y los del p\u00fablico al que se dirigen. Por ejemplo, si otra IA generativa estadounidense, Midjourney, se niega a mostrar sangre o cuerpos desnudos, otros, como su contraparte rusa ruDALL-E, tienen mucho menos pudor. Por el contrario, la herramienta china Taiyi Stable Diffusion llegar\u00e1 a colocar un delicado su\u00e9ter sobre los hombros virtuales de la mujer a la que, sin embargo, se le ha pedido que genere desnuda.<\/p>\n