Escribir un informe sobre el estado de la IA debe parecerse mucho a construir sobre arenas movedizas: para cuando presionas publicar, toda la industria ha cambiado bajo tus pies. Pero todav\u00eda hay tendencias y conclusiones importantes en la oferta de 386 p\u00e1ginas de Stanford para resumir este dominio complejo y de r\u00e1pido movimiento.<\/p>\n
El \u00cdndice AI, del Instituto de Inteligencia Artificial Centrada en el Humano, trabaj\u00f3 con expertos de la academia y la industria privada para recopilar informaci\u00f3n y predicciones al respecto. Como un esfuerzo anual (y por el tama\u00f1o del mismo, puede apostar que ya est\u00e1n trabajando arduamente para dise\u00f1ar el pr\u00f3ximo), puede que esta no sea la versi\u00f3n m\u00e1s fresca de la IA, pero estas amplias encuestas peri\u00f3dicas son importantes para mantener el dedo en el pulso de la industria.<\/p>\n
El informe de este a\u00f1o incluye \u201cun nuevo an\u00e1lisis de los modelos b\u00e1sicos, incluida su geopol\u00edtica y los costos de capacitaci\u00f3n, el impacto ambiental de los sistemas de IA, la educaci\u00f3n de IA de K-12 y las tendencias de la opini\u00f3n p\u00fablica en IA\u201d, adem\u00e1s de una mirada a la pol\u00edtica en cien pa\u00edses nuevos.<\/p>\n
Perm\u00edtanos solo enumerar las conclusiones de m\u00e1s alto nivel:<\/p>\n
- \n
- El desarrollo de la IA ha cambiado en la \u00faltima d\u00e9cada de liderado por la academia a liderado por la industria, por un amplio margen, y esto no muestra signos de cambio.<\/li>\n
- Se est\u00e1 volviendo dif\u00edcil probar modelos en puntos de referencia tradicionales y es posible que se necesite un nuevo paradigma aqu\u00ed.<\/li>\n
- La huella energ\u00e9tica del entrenamiento y uso de la IA se est\u00e1 volviendo considerable, pero a\u00fan tenemos que ver c\u00f3mo puede agregar eficiencias en otros lugares.<\/li>\n
- El n\u00famero de \u00abincidentes y controversias de IA\u00bb se ha multiplicado por 26 desde 2012, lo que en realidad parece un poco bajo.<\/li>\n
- Las habilidades relacionadas con la IA y las ofertas de trabajo est\u00e1n aumentando, pero no tan r\u00e1pido como crees.<\/li>\n
- Los formuladores de pol\u00edticas, sin embargo, se est\u00e1n desmoronando tratando de redactar un proyecto de ley definitivo sobre IA, una tonter\u00eda si alguna vez hubo una.<\/li>\n
- La inversi\u00f3n se ha estancado temporalmente, pero eso es despu\u00e9s de un aumento astron\u00f3mico durante la \u00faltima d\u00e9cada.<\/li>\n
- M\u00e1s del 70% de los encuestados chinos, sauditas e indios sintieron que la IA ten\u00eda m\u00e1s beneficios que inconvenientes. americanos? 35%.<\/li>\n<\/ul>\n
Pero el informe entra en detalles sobre muchos temas y subtemas y es bastante legible y no t\u00e9cnico. Solo los dedicados leer\u00e1n las 386 p\u00e1ginas de an\u00e1lisis, pero en realidad, casi cualquier organismo motivado podr\u00eda hacerlo.<\/p>\n
Veamos el Cap\u00edtulo 3, \u00c9tica t\u00e9cnica de la IA, con un poco m\u00e1s de detalle.<\/p>\n
El sesgo y la toxicidad son dif\u00edciles de reducir a m\u00e9tricas, pero en la medida en que podamos definir y probar modelos para estas cosas, est\u00e1 claro que los modelos \u00absin filtrar\u00bb son mucho, mucho m\u00e1s f\u00e1ciles de llevar a un territorio problem\u00e1tico. El ajuste de instrucciones, es decir, agregar una capa de preparaci\u00f3n adicional (como un mensaje oculto) o pasar la salida del modelo a trav\u00e9s de un segundo modelo mediador, es efectivo para mejorar este problema, pero est\u00e1 lejos de ser perfecto.<\/p>\n
El aumento de \u00abincidentes y controversias de IA\u00bb al que se alude en las vi\u00f1etas se ilustra mejor con este diagrama:<\/p>\n
\nCr\u00e9ditos de imagen:<\/strong> Universidad de Stanford<\/p>\n<\/div>\n
Como puede ver, la tendencia es al alza y estos n\u00fameros llegaron antes de la adopci\u00f3n generalizada de ChatGPT y otros modelos de lenguaje grandes, sin mencionar la gran mejora en los generadores de im\u00e1genes. Puede estar seguro de que el aumento de 26x es solo el comienzo.<\/p>\n
Hacer que los modelos sean m\u00e1s justos o imparciales de una manera puede tener consecuencias inesperadas en otras m\u00e9tricas, como muestra este diagrama:<\/p>\n
![\"\"](\"https:\/\/techcrunch.com\/wp-content\/uploads\/2023\/04\/bias-fairness-ai.jpg\")
<\/p>\nCr\u00e9ditos de imagen:<\/strong> Universidad de Stanford<\/p>\n<\/div>\n
Como se\u00f1ala el informe, \u00ablos modelos de lenguaje que se desempe\u00f1an mejor en ciertos puntos de referencia de equidad tienden a tener peor sesgo de g\u00e9nero\u00bb. \u00bfPor qu\u00e9? Es dif\u00edcil decirlo, pero demuestra que la optimizaci\u00f3n no es tan simple como todos esperan. No existe una soluci\u00f3n sencilla para mejorar estos grandes modelos, en parte porque no entendemos realmente c\u00f3mo funcionan.<\/p>\n
La verificaci\u00f3n de hechos es uno de esos dominios que suena como un ajuste natural para la IA: habiendo indexado gran parte de la web, puede evaluar declaraciones y devolver la confianza de que est\u00e1n respaldadas por fuentes veraces, y as\u00ed sucesivamente. Esto est\u00e1 muy lejos de ser el caso. La IA en realidad es particularmente mala para evaluar la factualidad y el riesgo no es tanto que sean verificadores poco confiables, sino que se conviertan en fuentes poderosas de informaci\u00f3n err\u00f3nea convincente. Se han creado una serie de estudios y conjuntos de datos para probar y mejorar la verificaci\u00f3n de hechos de IA, pero hasta ahora estamos m\u00e1s o menos donde comenzamos.<\/p>\n
Afortunadamente, hay un gran aumento en el inter\u00e9s aqu\u00ed, por la raz\u00f3n obvia de que si las personas sienten que no pueden confiar en la IA, toda la industria retrocede. Ha habido un tremendo aumento en las presentaciones en la Conferencia ACM sobre equidad, responsabilidad y transparencia, y en NeurIPS, temas como la equidad, la privacidad y la interpretabilidad est\u00e1n recibiendo m\u00e1s atenci\u00f3n y tiempo en el escenario.<\/p>\n
Estos mechas de mechas dejan mucho detalle sobre la mesa. Sin embargo, el equipo de HAI ha hecho un gran trabajo al organizar el contenido y, despu\u00e9s de leer detenidamente el material de alto nivel aqu\u00ed, puede descargar el documento completo y profundizar en cualquier tema que despierte su inter\u00e9s.<\/p>\n<\/p><\/div>\n