La empresa de investigación y seguridad de IA Anthropic acaba de lanzar su asistente de IA de próxima generación llamado Claude(Se abre en una nueva ventana).
Claude es un competidor de ChatGPT de OpenAI, que ya ha generado algunos titulares negativos. Sin embargo, Claude está diseñado para ser diferente, con un enfoque en ser «útil, honesto e inofensivo» mientras logra llevar a cabo todas las tareas que esperarías de un asistente de IA (por ejemplo, resumen, búsqueda, creatividad y colaboración). escritura, preguntas y respuestas y codificación).
Como informa Reuters(Se abre en una nueva ventana), Anthropic fue cofundado por los exejecutivos de OpenAI Dario y Daniela Amodei, y cuenta con el respaldo de Alphabet. La razón por la que Claude es diferente y se puede confiar en que sea útil y confiable es porque a la IA se le ha proporcionado una lista de reglas/principios y se la ha entrenado a través de la superación personal. Es un método conocido como «IA constitucional(Se abre en una nueva ventana).»
Como explica Anthropic:
«El proceso implica tanto un aprendizaje supervisado como una fase de aprendizaje por refuerzo. En la fase supervisada, tomamos muestras de un modelo inicial, luego generamos autocríticas y revisiones, y luego ajustamos el modelo original en las respuestas revisadas. En la fase RL, tomamos muestras del modelo ajustado, use un modelo para evaluar cuál de las dos muestras es mejor y luego entrene un modelo de preferencia a partir de este conjunto de datos de preferencias de IA. Luego entrenamos con RL usando el modelo de preferencia como señal de recompensa, es decir, usamos ‘RL de AI Feedback’ (RLAIF).»
El resultado final permite a Claude participar en consultas dañinas, desagradables e incluso maliciosas realizadas por los usuarios «explicándoles sus objeciones». Entonces Claude puede proporcionar respuestas honestas sin producir ningún resultado dañino. Esa es una característica muy atractiva para ofrecer a las empresas que desean usar IA, pero les preocupa cómo se puede abusar de ella y dañar potencialmente su marca o reputación.
Anthropic ofrece hoy dos versiones de su asistente de IA llamadas Claude y Claude Instant. Claude es el modelo de alto rendimiento de vanguardia que puede convertirse en «un encantador representante de la empresa, un asistente de investigación, un socio creativo, un automatizador de tareas» y más, con la capacidad de personalizar la personalidad, el tono y el comportamiento. Claude Instant es simplemente más ligero, menos costoso y mucho más rápido, optimizado para casos de uso de baja latencia y alto rendimiento. El precio de ambos es por millón de caracteres.(Se abre en una nueva ventana).
Recomendado por Nuestros Editores
Quora ya está utilizando Claude en su aplicación Poe AI Chat, la empresa de educación en línea Juni Learning para impulsar un bot tutor de Discord, Notion para aumentar la productividad del usuario, DuckDuckGo para DuckAssist y Robin AI para evaluar partes de contratos legales.
El asistente de IA continúa desarrollándose y mejorándose, y Anthropic planea implementar actualizaciones en las próximas semanas. Solo el tiempo dirá qué tan inofensivo resulta el asistente de IA, ya que los usuarios sin duda lo probarán a fondo como lo han hecho con ChatGPT.
¡Obtenga nuestras mejores historias!
Matricularse en ¿Qué hay de nuevo ahora? para recibir nuestras mejores historias en su bandeja de entrada todas las mañanas.
Este boletín puede contener publicidad, ofertas o enlaces de afiliados. Suscribirse a un boletín informativo indica su consentimiento a nuestros Términos de uso y Política de privacidad. Puede darse de baja de los boletines en cualquier momento.