Nvidia es el gigante tecnol\u00f3gico detr\u00e1s de las GPU que impulsan nuestros juegos, ejecutan nuestras suites creativas y, \u00faltimamente, desempe\u00f1an un papel crucial en el entrenamiento de los modelos generativos de IA detr\u00e1s de chatbots como ChatGPT. La compa\u00f1\u00eda se ha sumergido m\u00e1s profundamente en el mundo de la IA con el anuncio de un nuevo software que podr\u00eda resolver un gran problema que tienen los chatbots: descarrilarse y ser un poco… extra\u00f1os.<\/p>\n
Las recientemente anunciadas ‘NeMo Guardrails’ (se abre en una pesta\u00f1a nueva)<\/span> es una pieza de software dise\u00f1ada para garantizar que las aplicaciones inteligentes impulsadas por modelos de lenguaje extenso (LLM) como los chatbots de IA sean \u00abprecisas, apropiadas, sobre el tema y seguras\u00bb. Esencialmente, las medidas de protecci\u00f3n est\u00e1n ah\u00ed para eliminar la informaci\u00f3n inapropiada o inexacta generada por el chatbot, evitar que llegue al usuario e informar al bot que la salida espec\u00edfica fue incorrecta. Ser\u00e1 como una capa adicional de precisi\u00f3n y seguridad, ahora sin necesidad de correcci\u00f3n por parte del usuario.<\/p>\n Los desarrolladores de IA pueden usar el software de c\u00f3digo abierto para establecer tres tipos de l\u00edmites para los modelos de IA: Pautas de actualidad, seguridad y protecci\u00f3n. Desglosar\u00e1 los detalles de cada uno y por qu\u00e9 este tipo de software es tanto una necesidad como una responsabilidad.<\/p>\n Las barandillas t\u00f3picas evitar\u00e1n que el bot de IA se sumerja en temas en \u00e1reas que no est\u00e1n relacionadas o no son necesarias para el uso o la tarea. En el comunicado de Nvidia, se nos da el ejemplo de un bot de servicio al cliente que no responde preguntas sobre el clima. Si est\u00e1 hablando de la historia de las bebidas energ\u00e9ticas, no querr\u00e1 que ChatGPT comience a hablarle sobre el mercado de valores. B\u00e1sicamente, manteniendo todo en el tema.<\/p>\n Esto ser\u00eda \u00fatil en grandes modelos de IA como Bing Chat de Microsoft, que se sabe que a veces se desv\u00eda un poco, y definitivamente podr\u00eda garantizar que evitemos m\u00e1s berrinches e inexactitudes.<\/p>\n La barandilla de seguridad abordar\u00e1 la desinformaci\u00f3n y las \u00abalucinaciones\u00bb, s\u00ed, alucinaciones, y garantizar\u00e1 que la IA responda con informaci\u00f3n precisa y adecuada. Esto significa que prohibir\u00e1 el lenguaje inapropiado, reforzar\u00e1 las citas de fuentes cre\u00edbles y evitar\u00e1 el uso de fuentes ficticias o ileg\u00edtimas. Esto es especialmente \u00fatil para ChatGPT, ya que hemos visto muchos ejemplos en Internet de bots que inventan citas cuando se les pregunta.<\/p>\n Y para las medidas de seguridad, estas simplemente evitar\u00e1n que el bot acceda a aplicaciones externas que se \u00abconsideren inseguras\u00bb; en otras palabras, cualquier aplicaci\u00f3n o software para el que no se le haya dado permiso expl\u00edcito y prop\u00f3sito para interactuar, como una aplicaci\u00f3n bancaria o sus archivos personales. Esto significa que obtendr\u00e1 informaci\u00f3n optimizada, precisa y segura cada vez que use el bot.<\/p>\n\u00bfQu\u00e9 son las barandillas?<\/h2>\n
Polic\u00eda de la moralidad <\/h2>\n