\n
El lista creciente de empresas que incorporan IA<\/span> en sus aplicaciones y plataformas han tenido que crear y ajustar continuamente sus propias soluciones para lidiar con la propensi\u00f3n de AI a mentir, enga\u00f1ar, dise\u00f1ar, pedir prestado o intercambiar<\/span>. Ahora, Nvidia busca brindar a m\u00e1s desarrolladores una forma m\u00e1s f\u00e1cil de decirle a la IA que cierre la trampa.<\/p>\n\n
\n
\n
\n
\n
\n
\n
\n
\u00a1Advertencia! Microsoft quiere que ChatGPT controle los robots a continuaci\u00f3n<\/p>\n<\/div>\n
<\/video><\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\nEl martes, Nvidia compartido<\/span> sus llamados \u00abNeMo Guardrails\u00bb que la compa\u00f1\u00eda describi\u00f3 como una especie de bot de censura de talla \u00fanica para aplicaciones impulsadas por grandes modelos de lenguaje. el software es fuente abierta<\/span>y se supone que encaja en la parte superior de los juegos de herramientas modernos de uso frecuente como LangChain<\/span>. Seg\u00fan la empresa blog tecnico<\/span>NeMo usa un subsistema espec\u00edfico de IA llamado Colang como una especie de interfaz para definir qu\u00e9 tipo de restricciones en la salida de IA quiere tener cada aplicaci\u00f3n. <\/p>\nAquellos que usan NeMo pueden ayudar a los chatbots a mantenerse en el tema y evitar que arrojen informaci\u00f3n err\u00f3nea, ofrezcan respuestas t\u00f3xicas o abiertamente racistas, o realicen tareas como crear c\u00f3digo malicioso. Nvidia dijo que ya est\u00e1 empleado con la empresa de aplicaciones web Zapier.<\/p>\n
El vicepresidente de investigaci\u00f3n aplicada de Nvidia, Jonathan Cohen, dijo TechCrunch<\/span> que si bien la empresa ha estado trabajando en el sistema Guardrails durante a\u00f1os, descubrieron hace un a\u00f1o que este sistema funcionar\u00eda bien para Modelos GPT de OpenAI<\/span>. La p\u00e1gina de NeMo dice que funciona sobre modelos de lenguaje m\u00e1s antiguos como GPT-3 de OpenAI y T5 de Google. Nvidia dice que tambi\u00e9n funciona encima de algunos Modelos de generaci\u00f3n de im\u00e1genes de IA<\/span> como Stable Diffusion 1.5 e Imagen. Un portavoz de Nvidia confirm\u00f3 a Gizmodo que se supone que NeMo funciona con \u00abtodos los LLM principales compatibles con LangChain, incluido GPT-4 de OpenAI\u00bb. <\/p>\n\n
\n
\n
\n
<\/picture><\/div>\n\n
A LA VENTA AHORA<\/p>\n
Dos de nuestras VPN favoritas<\/p>\n<\/div>\n<\/div>\n
\n
Proteja sus datos privados<\/strong>Compartimos y accedemos a una tonelada de datos privados todos los d\u00edas, lo que puede causar grandes problemas si esa informaci\u00f3n cae en las manos equivocadas.<\/span><\/p>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\nA\u00fan as\u00ed, no est\u00e1 claro cu\u00e1nto bien podr\u00eda lograr una barrera de protecci\u00f3n de c\u00f3digo abierto. Mientras es posible que no obtengamos un \u00abGPT-5\u00bb en el corto plazo<\/span>OpenAI ya ha intentado comercializar en masa su modelo GPT-4 con su acceso API<\/span>. Stability AI, los creadores de Stable Diffusion, es tambi\u00e9n se inclina hacia las empresas con su modelo \u00abXL\u00bb<\/span>. Ambas compa\u00f1\u00edas han tratado de asegurar a los clientes que ya hay bloqueos en mal contenido encontrado en las profundidades de los datos de entrenamiento de la IA<\/span>aunque especialmente con GPT-4, estamos forzado a creer en la palabra de OpenAI<\/span>.<\/p>\nE incluso si se implementa en el software que mejor lo admite, como LangChain, no es como si NeMo lo captara todo. Las empresas que ya han implementado sistemas de IA lo han descubierto por las malas. Bing AI de Microrosoft comenz\u00f3 su viaje a principios de este a\u00f1o y los usuarios inmediatamente encontr\u00f3 formas de abusar de \u00e9l para decir \u00abHeil Hitler\u00bb y hacer otras declaraciones racistas<\/span>. Cada actualizaci\u00f3n que le dio a la IA un poco m\u00e1s de margen de maniobra demostr\u00f3 c\u00f3mo se pod\u00eda explotar su IA<\/span>.<\/p>\nE incluso si la IA tiene bloques expl\u00edcitos para cierto contenido, eso no significa que siempre sea perfecto. La semana pasada, Snapchat tom\u00f3 su chatbot basado en ChatGPT \u00abMy AI\u00bb<\/span> fuera de beta y lo impuso a todos sus usuarios. Un usuario demostr\u00f3 que pod\u00eda manipular la IA para decir la palabra n<\/a><\/span>a pesar de que los intentos de otros usuarios con el mismo aviso fueron frustrados por los bloques existentes en la IA.<\/p>\nEs por eso que la mayor\u00eda de las implementaciones de IA se han lanzado en una especie de formato \u00abbeta\u00bb. Google tiene llamado el lanzamiento de su Bard AI<\/span> una \u00abprueba\u00bb mientras constantemente tratando de hablar sobre el desarrollo de IA \u00abresponsable\u00bb<\/span>. Microsoft lanz\u00f3 su Bing AI basado en ChatGPT de OpenAI a un n\u00famero limitado de usuarios para comenzar. Los chatbots modernos de IA son el peor tipo de mentiroso. Mienten sin siquiera saber que lo que dicen es falso. Pueden publicar contenido da\u00f1ino, peligroso y, a menudo, absurdo.<\/span> sin comprender nada de lo que dec\u00eda. <\/p>\nLos chatbots de IA son peores que cualquier ni\u00f1o que grite obscenidades en un Walmart porque el ni\u00f1o eventualmente puede aprender. Si se le llama, la IA pretender\u00e1 disculparse, pero sin modificar los datos o procesos de aprendizaje de la IA, una IA nunca cambiar\u00e1. Lo mejor que pueden hacer la mayor\u00eda de los desarrolladores de IA para obstaculizar los peores impulsos de la IA es meterla en una jaula como la que encontrar\u00edas en la guarida del le\u00f3n en el zool\u00f3gico local. Necesitas paredes altas para mantener a raya a la IA y, aun as\u00ed, no metas la mano entre los barrotes.<\/p>\n
Y no puedes olvidar c\u00f3mo todo esto es un gran negocio para Nvidia. Se supone que estas medidas de seguridad promover\u00e1n el paquete de software de inteligencia artificial existente de la compa\u00f1\u00eda para las empresas. Nvidia ya es uno de los jugadores m\u00e1s importantes en el espacio de la IA, al menos en t\u00e9rminos de hardware. Sus chips de entrenamiento A100 y H100 AI m\u00e1s nuevos representan m\u00e1s del 90% del mercado global para ese tipo de GPU. Seg\u00fan los informes, Microsoft ha estado tratando de encontrar una manera de crear su propio chip de entrenamiento de IA.<\/span> y salir de debajo del yugo del dominio de Nvidia.<\/p>\n<\/div>\n