La explosión de popularidad del chatbot de inteligencia artificial (IA) ChatGPT es digna de admiración y temor (solo un poco), y estamos viendo que cada vez más empresas se esfuerzan por incluirlo en sus productos lo más rápido posible. Es probable que Meta y Twitter sean los siguientes en Silicon Valley Scramble for AI, y nadie parece estar seguro de lo que esto podría significar para los usuarios.
Ya hemos sido testigos de la desgloses del nuevo Bing con tecnología ChatGPT de Microsoft y la rapidez con la que Microsoft tuvo que actuar para tratar de solucionar los problemas que enfrentaba el chatbot. Muchas de las correcciones que se tuvieron que hacer se centraron en la forma en que las personas interactuaban con Bing AI, «haciendo jailbreak» al bot, obteniendo respuestas inexactas y cómo el bot generalmente se asustaba cuando se enfrentaba a su propia existencia. Un sentimiento identificable, claro, pero todos estos son problemas que tuvieron que ser tratados rápidamente debido a lo apresurado que fue el lanzamiento del producto.
Sin la previsión adecuada, es probable que sigamos viendo numerosos errores (y correcciones apresuradas) porque la tecnología impulsada por IA en manos del público en general es impredecible y, en ocasiones, genera divisiones. Los propios empleados de Google no son fanáticos. de su versión, Google Bard, por ejemplo.
Por lo tanto, es un poco preocupante ver que los gigantes de las redes sociales comienzan a interesarse en este auge de la IA.
Aparentemente, Twitter está considerando implementar IA en la plataforma mediante el desarrollo de una alternativa a ChatGPT. A fines del año pasado, el CEO de Twitter, Elon Musk, criticó a OpenAI, los desarrolladores de ChatGPT, por implementar medidas de seguridad que evitarían que el chatbot produjera respuestas que pudieran ofender a los usuarios.
El peligro de entrenar a la IA para que se despierte, en otras palabras, mienta, es mortal16 de diciembre de 2022
Esto incluía que el bot repitiera insultos raciales, ideologías sexistas o redactara contenido inapropiado. Musk tituló las medidas de protección de ChatGPT como «entrenar a la IA para que se despierte», lo que, si bien es extraño decirlo, podría darnos una idea de cómo podría ser su chatbot rival.
Según los informes, Musk reclutó a Igor Babuschkin, un investigador que recientemente dejó la unidad DeepMind AI de la compañía de patentes de Google, Alphabets, y se especializa en modelos de aprendizaje automático que impulsan chatbots como ChatGPT. No estamos seguros de cómo se podría inyectar exactamente la IA en Twitter, pero los comentarios anteriores de Musk denunciando los límites de ‘despertar’ establecidos por OpenAI, nos preocupan de que su implementación pueda ser ofensiva, despectiva y francamente tóxica.
Facebook se ha unido al chat.
Twitter no es la única plataforma de redes sociales que se fija en la IA. El CEO de Facebook, Mark Zuckerberg, publicó una publicación (se abre en una pestaña nueva) anunciando un nuevo grupo en Meta (la empresa matriz de Facebook) que se centrará en la ‘IA generativa’ para impulsar sus productos.
El enfoque parece estar en crear sus propias herramientas impulsadas por IA en el corto plazo (probablemente similar a los intentos de Microsoft y Google) y en el largo plazo, entretejiendo la IA de manera más compleja en Whatsapp, Facebook Messenger e Instagram. Esto significa, para los escépticos de ChatGPT y AI, desafortunadamente, que pocas plataformas de redes sociales estarán a salvo de las garras de AI apresurada.
El anuncio de Zuckerberg es un poco vago, pero algunos de los ejemplos que nos dan son filtros creativos y formatos de anuncios en Instagram y funciones de texto mejoradas para Whatsapp y Messenger. Zuckerberg admite que hay mucho «trabajo fundamental por hacer» antes de que se implementen estas características, lo que nos da la esperanza de que puedan estar más pensadas que sus predecesoras.
Una cosa es segura: puede ser más difícil evitar la influencia de la IA durante mucho más tiempo y si hay un lado positivo aquí, solo podemos esperar que los desarrolladores aprendan de los errores y contratiempos y mejoren la tecnología contagiosa, no más rápido. ChatGPT con las medidas de protección implementadas sigue siendo una bestia salvaje para domar en el mejor de los casos y todavía es propenso a escupir lenguaje de odio cuando se ‘rompe’ o se le solicita de la manera correcta. La idea de que la retórica ‘anti-despertar’ de Musk se filtre en algo tan complejo e impredecible como la tecnología de IA no significa más que preocupaciones de seguridad para los usuarios que participan activamente en la esfera tecnológica emergente de los chatbots de IA, y para aquellos de nosotros que no lo somos. Parece que en la loca carrera por hacerlo rápido y hacerlo mejor, las empresas no han considerado cómo se extenderá la tecnología a áreas más generales de Internet o a espacios que no están equipados para ello.
La esperanza es que estos desarrolladores presenten herramientas útiles que beneficien a la mayoría de los usuarios y se mantengan contenidos en su propósito definido, aunque no podemos estar seguros de eso en este momento y tal vez prepararse para lo peor y esperar lo mejor es una opción más realista. estrategia.
Si vemos más filtraciones de IA en nuestras esferas de redes sociales, tendremos que centrarnos más en promover la transparencia y la seguridad para los usuarios que no están muy familiarizados con ChatGPT y sus versiones emergentes, y para aquellos de nosotros directamente afectados por la propaganda sin sentido ‘anti-despertar’ puede que tenga que prepararse para un momento turbulento en línea.