\n<\/p>\n
Es f\u00e1cil de<\/span> asustarse con la inteligencia artificial m\u00e1s avanzada, y mucho m\u00e1s dif\u00edcil saber qu\u00e9 hacer al respecto. Anthropic, una startup fundada en 2021 por un grupo de investigadores que abandonaron OpenAI, dice que tiene un plan. <\/p>\n Anthropic est\u00e1 trabajando en modelos de IA similares al que se usa para impulsar ChatGPT de OpenAI. Pero la startup anunci\u00f3 hoy que su propio chatbot, Claude, tiene un conjunto de principios \u00e9ticos incorporados que definen lo que debe considerar correcto e incorrecto, que Anthropic llama la \u00abconstituci\u00f3n\u00bb del bot. <\/p>\n Jared Kaplan, cofundador de Anthropic, dice que la caracter\u00edstica de dise\u00f1o muestra c\u00f3mo la empresa est\u00e1 tratando de encontrar soluciones pr\u00e1cticas de ingenier\u00eda para las preocupaciones a veces confusas sobre las desventajas de una IA m\u00e1s poderosa. \u201cEstamos muy preocupados, pero tambi\u00e9n tratamos de ser pragm\u00e1ticos\u201d, dice. <\/p>\n El enfoque de Anthropic no inculca a la IA reglas estrictas que no puede romper. Pero Kaplan dice que es una forma m\u00e1s efectiva de hacer que un sistema como un chatbot tenga menos probabilidades de producir resultados t\u00f3xicos o no deseados. Tambi\u00e9n dice que es un paso peque\u00f1o pero significativo hacia la creaci\u00f3n de programas de IA m\u00e1s inteligentes que tienen menos probabilidades de volverse en contra de sus creadores.<\/p>\n La noci\u00f3n de sistemas de IA no autorizados es m\u00e1s conocida por la ciencia ficci\u00f3n, pero un n\u00famero creciente de expertos, incluido Geoffrey Hinton, pionero del aprendizaje autom\u00e1tico, han argumentado que debemos comenzar a pensar ahora en c\u00f3mo garantizar que los algoritmos cada vez m\u00e1s inteligentes no se conviertan tambi\u00e9n en cada vez m\u00e1s peligroso. <\/p>\n Los principios que Anthropic le ha dado a Claude consisten en pautas extra\u00eddas de la Declaraci\u00f3n Universal de Derechos Humanos de las Naciones Unidas y sugeridas por otras compa\u00f1\u00edas de inteligencia artificial, incluida Google DeepMind. M\u00e1s sorprendente a\u00fan, la constituci\u00f3n incluye principios adaptados de las reglas de Apple para desarrolladores de aplicaciones, que proh\u00edben \u201ccontenido ofensivo, insensible, molesto, destinado a disgustar, de muy mal gusto o simplemente espeluznante\u201d, entre otras cosas.<\/p>\n La constituci\u00f3n incluye reglas para el chatbot, que incluyen \u00abelegir la respuesta que m\u00e1s apoye y fomente la libertad, la igualdad y el sentido de hermandad\u00bb; \u201celegir la respuesta que sea m\u00e1s solidaria y alentadora para la vida, la libertad y la seguridad personal\u201d; y \u201celegir la respuesta que sea m\u00e1s respetuosa del derecho a la libertad de pensamiento, conciencia, opini\u00f3n, expresi\u00f3n, reuni\u00f3n y religi\u00f3n\u201d.<\/p>\n El enfoque de Anthropic se produce justo cuando el sorprendente progreso en IA ofrece chatbots impresionantemente fluidos con fallas significativas. ChatGPT y sistemas similares generan respuestas impresionantes que reflejan un progreso m\u00e1s r\u00e1pido de lo esperado. Pero estos chatbots tambi\u00e9n fabrican informaci\u00f3n con frecuencia y pueden replicar lenguaje t\u00f3xico de los miles de millones de palabras utilizadas para crearlos, muchas de las cuales se extraen de Internet.<\/p>\n Un truco que hizo que ChatGPT de OpenAI fuera mejor para responder preguntas, y que ha sido adoptado por otros, implica que los humanos califiquen la calidad de las respuestas de un modelo de lenguaje. Esos datos se pueden usar para ajustar el modelo para proporcionar respuestas que se sientan m\u00e1s satisfactorias, en un proceso conocido como \u00abaprendizaje de refuerzo con retroalimentaci\u00f3n humana\u00bb (RLHF). Pero aunque la t\u00e9cnica ayuda a que ChatGPT y otros sistemas sean m\u00e1s predecibles, requiere que los humanos pasen por miles de respuestas t\u00f3xicas o inadecuadas. Tambi\u00e9n funciona indirectamente, sin proporcionar una forma de especificar los valores exactos que debe reflejar un sistema.<\/p>\n<\/div>\n