\n<\/p>\n
Si lo construyes, la gente intentar\u00e1 romperlo. A veces incluso la gente edificio<\/em> las cosas son las que lo rompen. Tal es el caso de Anthropic y su \u00faltima investigaci\u00f3n que demuestra una vulnerabilidad interesante en la tecnolog\u00eda LLM actual. M\u00e1s o menos, si contin\u00faas con una pregunta, puedes romper las barreras y terminar con grandes modelos de lenguaje que te dicen cosas para las que no est\u00e1n dise\u00f1ados. Como c\u00f3mo construir una bomba.<\/p>\n Por supuesto, dado el progreso en la tecnolog\u00eda de inteligencia artificial de c\u00f3digo abierto, puede crear su propio LLM localmente y preguntarle lo que quiera, pero para cosas m\u00e1s de consumo, este es un tema que vale la pena considerar. Lo divertido de la IA hoy en d\u00eda es el r\u00e1pido ritmo al que avanza y lo bien (o no) que estamos haciendo como especie para comprender mejor lo que estamos construyendo.<\/p>\n Si me permiten pensar, me pregunto si veremos m\u00e1s preguntas y problemas del tipo que Anthropic describe a medida que los LLM y otros nuevos tipos de modelos de IA se vuelvan m\u00e1s inteligentes y m\u00e1s grandes. Lo cual tal vez sea repetirme. Pero cuanto m\u00e1s nos acerquemos a una inteligencia artificial m\u00e1s generalizada, m\u00e1s deber\u00eda parecerse a una entidad pensante y no a una computadora que podamos programar, \u00bfverdad? Si es as\u00ed, \u00bfpodr\u00edamos tener m\u00e1s dificultades para concretar los casos extremos hasta el punto en que ese trabajo se vuelva inviable? De todos modos, hablemos de lo que Anthropic comparti\u00f3 recientemente.<\/p>\n<\/p><\/div>\n