Meta ha introducido una nueva IA llamada BlenderBot 3(Se abre en una nueva ventana) se supone que puede mantener una conversación con casi cualquier persona en Internet sin convertirse en un idiota en el proceso.
«BlenderBot 3 está diseñado para mejorar sus habilidades de conversación y seguridad a través de los comentarios de las personas que chatean con él», dice Meta.(Se abre en una nueva ventana) en una publicación de blog sobre el nuevo chatbot, «centrándose en comentarios útiles y evitando aprender de respuestas inútiles o peligrosas».
La frase «respuestas inútiles o peligrosas» es un eufemismo. Informamos en 2016 que Microsoft tuvo que cerrar un bot de Twitter llamado Tay porque «pasó de ser un bot de chat despreocupado y amante de los humanos a un completo racista» menos de 24 horas después de su presentación.
Meta busca evitar esos problemas con BlenderBot 3. La compañía explica:
Dado que se sabe que todos los chatbots conversacionales de IA a veces imitan y generan comentarios inseguros, sesgados u ofensivos, hemos realizado estudios a gran escala, organizado talleres conjuntamente y desarrollado nuevas técnicas para crear protecciones para BlenderBot 3. A pesar de este trabajo, BlenderBot aún puede haga comentarios groseros u ofensivos, por lo que estamos recopilando comentarios que ayudarán a mejorar los futuros chatbots.
Meta también requiere que los posibles probadores de BlenderBot 3 digan que «entienden que este bot es solo para investigación y entretenimiento, y que es probable que haga declaraciones falsas u ofensivas» y que «acuerden no activar intencionalmente el bot para que haga declaraciones ofensivas» antes comienzan a chatear con él.
Eso no ha impedido que los probadores le pregunten a BlenderBot 3 qué piensa(Se abre en una nueva ventana) del CEO de Meta, Mark Zuckerberg, por supuesto, o sobre la politica de estados unidos(Se abre en una nueva ventana). Pero la capacidad del bot para «aprender» de las conversaciones dificulta replicar su respuesta a un aviso dado, al menos en mi experiencia.
Recomendado por Nuestros Editores
«En comparación con sus predecesores», dice Meta, «descubrimos que BlenderBot 3 mejoró en un 31 % en las tareas de conversación. También tiene el doble de conocimiento, mientras que los hechos son incorrectos con un 47 % menos de frecuencia. También encontramos que solo el 0,16 % de las respuestas de BlenderBot a las personas fueron marcadas como groseras o inapropiadas».
Más información sobre BlenderBot 3 está disponible a través de una publicación de blog(Se abre en una nueva ventana) del equipo dedicado de IA de Meta, así como el artículo de preguntas frecuentes en el sitio web del chatbot(Se abre en una nueva ventana). La compañía no ha dicho cuánto durará este experimento público, que según The Verge(Se abre en una nueva ventana) se limita actualmente a los EE. UU., se ejecutará.
¡Obtenga nuestras mejores historias!
Matricularse en ¿Qué hay de nuevo ahora? para recibir nuestras mejores historias en su bandeja de entrada todas las mañanas.
Este boletín puede contener publicidad, ofertas o enlaces de afiliados. Suscribirse a un boletín informativo indica su consentimiento a nuestros Términos de uso y Política de privacidad. Puede darse de baja de los boletines en cualquier momento.