Construir y mantener relaciones es difícil, y el COVID-19 definitivamente no ayudó. Múltiples estudios han demostrado que los adultos se han vuelto aún más solitarios desde el comienzo de la pandemia.
Los fundadores están tratando de encontrar soluciones tecnológicas. Hay muchas nuevas empresas que buscan combatir la soledad, algunas formadas años antes de la pandemia, incluidas ElliQ y Replika, que se enfocan en personas mayores, que crea un compañero de IA, y Pi de Infection AI, un bot de apoyo emocional. Pero un nuevo participante realmente me llamó la atención esta semana: Amorai.
La startup ha creado un entrenador de relaciones de IA para ayudar a las personas a crecer y fomentar conexiones en la vida real al ofrecer consejos y respuestas a preguntas sobre relaciones. La empresa fue fundada por la exdirectora ejecutiva de Tinder, Renate Nyborg, y se incubó en el AI Fund de Andrew Ng. La compañía acaba de recaudar una cantidad no revelada de fondos iniciales que tomó solo 24 horas para recaudar, dijo Nyborg al podcast Recode Media de Vox en abril.
Si bien combatir la soledad es una gran misión, y algunos grupos de personas pueden estar más abiertos a conversar con un bot que con un humano, parece que tiene el potencial de salir mal tan rápido. ¿Pero que se yo? Así que contacté a un experto.
Resulta que no soy el único que desconfía un poco de este concepto. Maarten Sap, profesor de la Universidad Carnegie Mellon e investigador del Instituto Allen de IA sin fines de lucro, compartió mi preocupación. La investigación de Sap se centra en incorporar el sentido común social y la inteligencia social en la IA. También ha realizado investigaciones sobre el desarrollo de modelos de aprendizaje profundo de idiomas que ayudan a comprender la cognición humana. Esencialmente, sabe un par de cosas sobre cómo la IA interactúa con los humanos.
Sap me dijo que si bien la idea de crear una solución tecnológica para ayudar a fomentar las relaciones de la vida real es admirable, y definitivamente hay pruebas de que habrá casos de uso sólidos para la IA en la lucha contra este tipo de problemas, esto lo hace pensar.
“Estoy diciendo esto con la mente abierta, no creo que funcione”, dijo. “¿Han hecho los estudios que muestran cómo funcionará esto? Hace [Amorai] aumentar [users’] ¿habilidades sociales? Porque sí, no sé hasta qué punto estas cosas se transfieren”.
Lo que más le preocupa, dijo, es la preocupación de que este tipo de aplicación les dé a todos sus usuarios el mismo consejo, bueno o malo, y que sería difícil para la IA obtener los matices correctos sobre ciertas relaciones. . Además, ¿la gente confiaría en los consejos de AI sobre otra persona de todos modos?
“Se me ocurrió la idea de los artistas del ligue”, dijo Sap. “¿Esto te va a dar un consejo para decirle a un grupo de hombres heterosexuales que regañen a las mujeres o que intenten acostarse con ellas? ¿O son sus barandillas para esto?
Si el modelo está diseñado para aprender por sí mismo, podría crear una cámara de eco basada en los tipos de preguntas que hace la gente. Eso, a su vez, podría apuntar al modelo en una dirección problemática si no se controla. Es posible que los usuarios de Bing ya hayan aprendido esto de la manera más difícil cuando su IA les dijo a las personas que no estaban felices en sus matrimonios.
Sap dijo que una forma en que esto definitivamente podría funcionar sería si hubiera un toque humano en esto. La supervisión humana para garantizar que la aplicación brinde los consejos correctos a las personas adecuadas podría hacer de esta una herramienta poderosa. Pero no sabemos si ese es el caso porque la empresa no responde preguntas ni acepta entrevistas.
Esta ronda también destaca cuán profundo es realmente el FOMO en AI. Alguien que investiga estas cosas todos los días no puede ver cómo esta empresa podría funcionar realmente y, sin embargo, Amorai recaudó fondos en 24 horas antes del lanzamiento en un mercado malo.
Por supuesto, los inversores saben más sobre la empresa de lo que se publica y, por supuesto, estas inquietudes pueden servir como retroalimentación para la puesta en marcha. Pero como muchas nuevas empresas de IA, debo asumir que se está construyendo con buenas intenciones, a pesar de no tener nada concreto que lo demuestre.
Tampoco creo que se tratara de una pequeña ronda previa a la semilla, algo que suelo asumir cuando una empresa no revela el total de la financiación; si fuera grande, querrías que la gente lo supiera, pero en este caso, creo que es probablemente lo contrario. Es mucha presión recaudar mucho dinero antes de ejecutar o encontrar el producto adecuado para el mercado.
“Cuando escucho sobre este tipo de ideas y nuevas empresas, proviene de un buen lugar, pero a menudo es solo la mentalidad de solucionador tecnológico”, dijo Sap.