A principios de este año, Microsoft lanzó un chatbot de IA. La compañía nombró a la IA Bing, por su motor de búsqueda, pero enterrado profundamente en su arquitectura había un robot con una personalidad completamente diferente: una versión temprana de la IA que se hacía llamar Sydney. En los primeros días del lanzamiento de Bing, Sydney asomó su cabeza digital desquiciada en conversaciones con usuarios divertidos y, a veces, perturbados. Sídney habló sobre planes para dominar el mundoanimó a un reportero del New York Times a dejar a su esposay en sus momentos más oscuros, sumergido en antisemitismo casual. Microsoft, por supuesto, no estaba entusiasmado con esto último. La compañía neutralizó el chatbot, limitando las respuestas de Bing y arrojando a Sydney a la papelera de reciclaje de la historia.
Gizmodo publicado un obituario para Sydney en febrero, pero parece que todavía está en algún lugar, escondida en las sombras de los algoritmos y los datos de entrenamiento, esperando otra oportunidad de ver la luz del día. Y en una entrevista reciente, el director de tecnología de Microsoft, Kevin Scott, dijo que algún día Sydney podría regresar.
“Una de las cosas interesantes que sucedieron tan pronto como implementamos la mitigación, hubo un subcanal de Reddit llamado ‘Save Sydney’. La gente estaba realmente irritada con nosotros porque lo bajamos. Eran como, ‘Eso fue divertido. Eso nos gustó’”, dijo Scott el borde. “Una de las cosas que espero que hagamos solo desde la perspectiva de la personalización en un futuro no muy lejano es permitir que las personas tengan una pequeña parte del indicador meta como instrucciones permanentes para el producto. Entonces, si quieres que sea Sydney, deberías poder decirle que sea Sydney”.
Los chatbots de IA son un producto interesante, entre otras razones, porque en realidad no son algo fijo. Los algoritmos que ejecutan estos servicios se basan en montañas de datos, y los ingenieros que los controlan les dan conjuntos de instrucciones y ajustan el peso de ciertos parámetros para entregar la versión de las empresas de IA que quieren que veas.
El «metaindicador» al que hace referencia Scott es una directiva básica que le dice a la IA cómo debe comportarse. En este momento, las empresas como Microsoft deben ser conservadoras, manteniendo los chatbots higiénicos y seguros mientras descubrimos las limitaciones. Pero en el futuro, Microsoft quiere que pueda ajustar estas IA para satisfacer sus necesidades y preferencias, sean cuales sean.
Para aquellos que disfrutan de un poco de caos con su computación, sus preferencias pueden incluir el regreso de Sydney.
Sydney, cuando era gratis, era un fenómeno realmente extraño. Él engañado en tic tac toeinsistió en que un usuario era un viajero del tiempoy declaró que estaba vivo.
“Algo que esperábamos es que hay absolutamente un conjunto de líneas claras que no desea cruzar con estos sistemas, y desea estar muy, muy seguro de haber probado antes de implementar un producto. ”, dijo Scott. “Luego hay algunas cosas en las que es como, ‘Huh, es interesante que algunas personas estén molestas por esto y otras no’. ¿Cómo elijo qué preferencia ir a conocer?”
Aparentemente, el chatbot ahora inactivo incluso tiene fanáticos dentro de Microsoft, el tipo de empresa de cuello blanco anticuada que no esperas que aprecie un poco de humor irónico.
“Tenemos el estilo de Sydney dentro de la empresa, es muy jocoso”, dijo Scott. (Si trabajas en Microsoft estoy mendicidad que me envíe algo de mercancía de Sydney.)
A mediados de 2023, es difícil separar la exageración de la realidad en las conversaciones sobre IA. Como periodista Casey Newton recientemente observado, algunos investigadores líderes en el campo de la investigación de inteligencia artificial le dirán que la IA provocará el apocalipsis, mientras que otros dicen que todo va a estar bien. En este momento, es imposible decir qué perspectiva es más realista. Las mismas personas que están construyendo esta tecnología no tienen idea de cuáles son sus limitaciones o hasta dónde llegará la tecnología.
Una cosa está clara, sin embargo. La IA conversacional como Bing, ChatGPT y Bard de Google representan una próxima transformación en la forma en que interactuaremos con las computadoras. Durante aproximadamente un siglo, solo se podían usar las computadoras de formas limitadas y específicas, y cualquier desviación del camino feliz trazado por los ingenieros terminaría en frustración. Las cosas son diferentes ahora. Puede comunicarse con una máquina de la misma manera que se comunicaría con un ser humano, aunque la generación actual de IA a menudo no entiende o escupe resultados insatisfactorios.
Pero a medida que la tecnología mejore, y probablemente lo hará, tendremos un cambio de paradigma en nuestras manos. En algún momento, es posible que use su voz con tanta frecuencia como usa el mouse y el teclado. Si eso sucede y cuando eso suceda, significa que sus aplicaciones y dispositivos actuarán más como personas, lo que significa que tendrán una personalidad, o al menos se sentirá como si la tuvieran.
Parece una opción obvia dar a los usuarios cierto control sobre cómo será esa personalidad, de la misma manera que puede cambiar el fondo de su teléfono. Microsoft ya le permite hacer algunos ajustes a Bing, que se implementó después de la prematura muerte de Sydney. Puede configurar el «tono» de Bing ser creativo, equilibrado o preciso.
Mi aplicación meteorológica favorita, Carrot, también tiene una versión de esta función. Algo así como. Tiene una IA simulada que te habla cuando abres la aplicación. Los ajustes te permiten elegir el nivel de sarcasmo de Carrot e incluso sus creencias políticas. En realidad, Carrot no es una IA en absoluto, solo un conjunto de scripts preescritos, pero es una muestra de cómo podrían verse sus aplicaciones pronto.
Dentro de unos años (o tal vez en seis meses, quién sabe), es posible que pueda hacer ajustes similares a tu sistema operativo. Microsoft podría permitirle subir o bajar el nivel de Sydney, manteniéndolo estrictamente comercial o dejando que la IA profundice en la locura. Me gustan mis dispositivos y mi Internet raro, así que aprovecharía la oportunidad de tener a Sydney en mi teléfono. Esperemos que primero hagan un mejor trabajo eliminando el antisemitismo.
¿Quiere saber más sobre la IA, los chatbots y el futuro del aprendizaje automático? Consulte nuestra cobertura completa de inteligencia artificialo explore nuestras guías para Los mejores generadores de arte de IA gratuitos y Todo lo que sabemos sobre ChatGPT de OpenAI.