El jefe de Google dice que la inteligencia artificial del futuro debe alinearse con los valores humanos


AI es la tecnología fundamental en Google y su empresa matriz, Alphabet, dijo el CEO Sundar Pichai a la audiencia en la conferencia Code de este año.(Se abre en una nueva ventana) En los angeles. Señaló los éxitos «extraordinarios» de los equipos de Google AI y DeepMind en áreas como los grandes modelos de lenguaje y el proyecto AlphaFold.(Se abre en una nueva ventana), que mostró la estructura subyacente de 200 millones de proteínas. Dijo que Google ahora estaba aplicando informática profunda e inteligencia artificial a todos sus productos, desde la búsqueda hasta su trabajo con compañías farmacéuticas con AlphaFold y automóviles autónomos. Pero, agregó, es «importante que desarrollemos IA alineada con los valores humanos».

La presentadora de la conferencia, Kara Swisher, mostró una entrevista de 2016 en la que Pichai (entonces entrevistado por el ahora retirado Walt Mossberg) dijo que esperaba que tuviéramos una verdadera «IA conversacional» para ayudar a hacer las cosas en los próximos 5 a 10 años. Pichai dijo que aún no está completamente aquí, diciendo que faltaron algunos años y que Google todavía tiene trabajo por hacer. Por ejemplo, dijo, sería genial si todos pudieran tener un tutor en el bolsillo sobre cualquier tema, pero la IA aún no es lo suficientemente buena para eso.

Swisher y Pichai (Crédito: Michael J. Miller)

Swisher lo presionó sobre cómo consiguió que la empresa cambiara a la IA, y dijo que enmarcar el paso a ser «IA primero» era lo mismo que ser «móvil primero» y que la IA sería «tan grande como Internet». , y luego tener un gran llamado a las armas dentro de la organización. Ahora dijo: «La IA es parte de todos nuestros productos».

Se le preguntó sobre la ética de la IA y cómo algunas personas se han ido de la empresa con quejas sobre cómo estaba manejando el problema.(Se abre en una nueva ventana), dijo que, en comparación con la mayoría de las tecnologías, la IA es muy temprana. Dio crédito a las personas que han resaltado el tema. Dijo que las empresas están hablando de ello, y Google había hecho su parte al publicar cientos de documentos y abrir sus modelos. Reconoció que ha habido desacuerdos internos sobre lo que debería haberse publicado y dijo que «debimos haberlo manejado mejor». En esta situación, dijo, la empresa debería haberse ralentizado y comprometido mejor. Dijo que el énfasis de Google en la descentralización le dio más velocidad pero a un costo.

Desde la controversia, dijo que Google ha ampliado su equipo de Ética de IA, pero también elogió las «voces independientes» que analizan la IA y dijo que el gobierno tiene un papel en la regulación de la IA, como se está promoviendo en la Unión Europea.

Sobre el alboroto de si el modelo LaMDA de Google era realmente sensible, Pichai dijo que Google desaceleró las cosas y siguió el proceso. «No creo que LaMDA sea consciente de ninguna manera», dijo, pero mostró los problemas que enfrenta Google. «Creo que hay un largo camino por recorrer», dijo, y agregó que la discusión se adentra en temas filosóficos sobre lo que es la sensibilidad. «La buena noticia es que estamos lejos de eso y es posible que nunca lleguemos allí».

La conversación abordó muchos otros problemas que enfrentan Google y la industria tecnológica. Cuando se le preguntó sobre la competencia, dijo que la competencia surge de la nada y señaló que «ninguno de nosotros estaba hablando de TikTok hace unos años». Pero en general, dijo, los mayores competidores de Google son los otros grandes gigantes tecnológicos, incluidos Amazon, Apple, Microsoft y Facebook; tecnología emergente como TikTok; y en algunas áreas, las empresas chinas (Alibaba, Tencent y Baidu). Pero añadió, «tiendes a equivocarte si te centras en la competencia», y las grandes empresas que fracasan suelen hacerlo internamente.

Más tarde, cuando se le preguntó acerca de las cuestiones antimonopolio y la gran posición de Google en el mercado de la publicidad, dijo que no cree que la «búsqueda general» sea el mercado que se deba considerar porque las personas pueden ver publicidad y comprar productos en una variedad de contextos. Señaló que TikTok ahora tiene $ 12 mil millones en ingresos publicitarios, Amazon tiene $ 30 mil millones y Apple ahora está expandiendo su negocio publicitario, diciendo que «la competencia es hiperintensa y puede provenir de cualquier parte».

Si bien dijo que tenía mucho respeto por la senadora Amy Klobuchar (quien habló en la conferencia(Se abre en una nueva ventana) anteriormente sobre su proyecto de ley antimonopolio y dijo que era correcto que los funcionarios electos y los reguladores analizaran la tecnología), Pichai cree que la mayoría de los consumidores estadounidenses priorizarían la privacidad y la seguridad de los niños en línea.

Sobre el controvertido tema de la moderación de contenido, señaló que la empresa enfrentó mucho escrutinio hace algunos años por albergar contenido no seguro para niños. Google calificó un «código interno amarillo» para solucionarlo y ha convertido la responsabilidad del contenido en un pilar principal en áreas que van desde la búsqueda hasta YouTube. «Nuestra misión es la información de alta calidad», dijo.

Cuando se le preguntó por detalles, Pichai dijo que la compañía bloqueó nuevos videos de Donald Trump después del 6 de enero debido al «riesgo de violencia», pero dijo que Google está «comprometido con la libertad de expresión» y que la decisión será reevaluada a medida que cambien las circunstancias. Dijo que la aplicación Truth Social de Trump se envió recientemente a Play Store y que el equipo de Google estaba trabajando con Truth Social en cosas como un mecanismo para eliminar contenido violento directo. Señaló que recientemente se aprobó la red social Parler(Se abre en una nueva ventana).

Recomendado por Nuestros Editores

Pichai dijo que era esencial proteger el discurso, pero también había un equilibrio para prevenir el discurso de odio y las amenazas de violencia. La compañía continúa consultando con expertos sobre temas como el terrorismo y la integridad electoral, pero no hay una panacea. Él cree que Google lo está haciendo mejor en estas áreas, pero «eres tan bueno como tu último error».

Sundar Pichai

Sundar Pichai (Crédito: Michael J. Miller)

Cuando se le preguntó por qué Google Cloud Platform no está funcionando tan bien como Amazon y Microsoft, Pichai lo describió como «uno de nuestros negocios de más rápido crecimiento» y afirmó que tendrá decenas de miles de millones en ingresos y será rentable. Dijo que la compañía está «adoptando una visión a largo plazo» y que el futuro de la nube consistirá en llevar la IA al mundo.

Swisher le preguntó sobre la responsabilidad de Google después de la anulación de Roe v. Wade, y Pichai dijo que era un tema muy complejo. Dijo que la empresa se aseguraba de entregar información precisa, como certificar si los proveedores realmente realizan abortos; hacer que el modo de incógnito en Chrome sea más seguro al ofrecer varias opciones de eliminación automática y rechazar las solicitudes gubernamentales demasiado amplias de información que van más allá del debido proceso. Pero, dijo, con el tiempo, necesitamos una legislación sobre privacidad.

Cuando se le preguntó por qué Google no ha tomado una posición más abierta sobre el tema, Pichai dijo que somos una empresa de información, por lo que debemos ser objetivos con la información. Dijo que la empresa se preocupa por el bienestar de nuestros empleados, pero eso es aparte. Concluyó que “la mejor manera de impactar al mundo es a través de nuestra misión y nuestros productos”.

¡Obtenga nuestras mejores historias!

Matricularse en ¿Qué hay de nuevo ahora? para recibir nuestras mejores historias en su bandeja de entrada todas las mañanas.

Este boletín puede contener publicidad, ofertas o enlaces de afiliados. Suscribirse a un boletín informativo indica su consentimiento a nuestros Términos de uso y Política de privacidad. Puede darse de baja de los boletines en cualquier momento.





Source link-38