\n<\/p>\n
La agencia de publicidad creativa McKinney desarroll\u00f3 un juego de preguntas llamado \u00ab\u00bfEres m\u00e1s negro que ChatGPT?\u00bb para arrojar luz sobre el sesgo de la IA.<\/p>\n
El juego pone a prueba el conocimiento de una persona sobre la cultura negra compar\u00e1ndolo con lo que ChatGPT ha sido entrenado para saber sobre la comunidad negra. Plantea preguntas como: \u00ab\u00bfQu\u00e9 significa cuando alguien dice: ‘Ya no les pongo demasiado’?\u00bb y \u201c\u00bfCu\u00e1l es tu respuesta si te invitan a un evento?\u201d Cuando hice el cuestionario, tanto ChatGPT como yo acertamos en el primero: cuando alguien dice \u00abno demasiado con ellos\u00bb, generalmente significa ser suave con ellos. Pero ChatGPT fall\u00f3 en lo que respecta al segundo. Cuando alguien te invita a un evento, la respuesta estereotipada en la comunidad negra es: \u00ab\u00bfQui\u00e9n m\u00e1s estar\u00e1 all\u00ed?\u00bb Pero ChatGPT dijo: \u00ab\u00a1Gracias por la invitaci\u00f3n!\u00bb<\/p>\n
\u00abEs interesante porque se anuncia como un robot que lo sabe todo, y es como si, claramente, no lo supieras todo, especialmente cuando se trata de cosas que no son espec\u00edficas para los blancos\u00bb, dijo Meghan Woods, redactora de McKinney y una de los creadores del juego, dijo a TechCrunch.<\/p>\n
Woods dijo que la idea del cuestionario surgi\u00f3 el a\u00f1o pasado durante una lluvia de ideas creativa en McKinney. A Woods y un equipo liderado por negros les tom\u00f3 un a\u00f1o crear este producto, con el prop\u00f3sito de se\u00f1alar en broma cu\u00e1n desconectado est\u00e1 ChatGPT de los usuarios negros. Se\u00f1al\u00f3 que un punto ciego para ChatGPT parece surgir del hecho de que muchos elementos culturales negros no est\u00e1n necesariamente documentados en l\u00ednea; en cambio, se transmiten en persona u oralmente de generaci\u00f3n en generaci\u00f3n. Esto significa que su algoritmo pasa por alto muchos matices al buscar en Internet informaci\u00f3n sobre los negros.<\/p>\n
\u00abLos puntos ciegos pueden ser bastante perturbadores\u00bb, dijo Woods. \u00abEs bastante peligroso\u00bb.<\/p>\n
Un ejemplo de ChatGPT que obtiene una respuesta incorrecta sobre algo estereot\u00edpicamente com\u00fan en la comunidad negra. Cr\u00e9ditos de imagen:<\/strong> McKinney \/ Captura de pantalla<\/p>\n<\/div>\n La IA puede estar en una buena racha, pero las mujeres, los constructores negros y morenos y los fundadores en el espacio, han hablado durante mucho tiempo de ser ignorados o dejados de lado. El resultado es que la innovaci\u00f3n en IA se est\u00e1 construyendo sin el conocimiento cultural y las complejidades que la har\u00edan adecuada para diferentes culturas. En su forma m\u00e1s extrema, la falta de diversidad significa que los autom\u00f3viles se desarrollan utilizando inteligencia artificial que no puede detectar la piel negra, lo que genera un n\u00famero cada vez mayor de accidentes. En el otro extremo, simplemente significa un chat que no puede distinguir entre una canci\u00f3n de Whitney Houston y otra.<\/p>\n Gerald Carter, fundador de Destined AI, una empresa que ayuda a detectar y mitigar el sesgo de la IA, dijo que el cuestionario de McKinney hace un buen trabajo al ludificar y generar m\u00e1s conciencia sobre estas brechas de la IA. \u00abSe pueden abordar muchos matices incluyendo diversas perspectivas en todos los niveles\u00bb, dijo. \u00abPara que la IA alcance su m\u00e1ximo potencial, debe funcionar para todos, en todas partes\u00bb.<\/p>\n La empresa matriz de ChatGPT, OpenAI, ha recibido cr\u00edticas por la falta de diversidad en su directorio. Woods dijo que tampoco parece que ChatGPT est\u00e9 aprendiendo del cuestionario, bas\u00e1ndose en el hecho de que sigue obteniendo las mismas respuestas incorrectas en muchos casos. \u00abNuestra hip\u00f3tesis es que nunca podr\u00e1 comprender plenamente muchas de las cosas que le preguntamos\u00bb.<\/p>\n Nos comunicamos con OpenAI para hacer comentarios y actualizaremos esta publicaci\u00f3n cuando tengamos noticias.<\/p>\n Carter dijo que ChatGPT podr\u00eda funcionar mejor para m\u00e1s culturas con un mejor abastecimiento y una recopilaci\u00f3n de datos m\u00e1s inclusiva. Un enfoque m\u00e1s inmediato es monitorear la deriva del modelo de IA y realizar mejoras utilizando herramientas centradas en perspectivas culturales.<\/p>\n Mientras las empresas m\u00e1s grandes trabajan para que la IA sea \u00fatil para todos, los constructores negros y morenos en el espacio han tomado el asunto en sus propias manos para garantizar que esta pr\u00f3xima ola de IA sea diversa.<\/p>\n Carter, por ejemplo, trabaja con empresas para ayudarlas a obtener datos m\u00e1s inclusivos. Erin Reddick cre\u00f3 ChatBlackGPT (sin relaci\u00f3n con OpenAI) para ofrecer una visi\u00f3n m\u00e1s profunda de la cultura y la historia de los negros, y Tamar Huggins recaud\u00f3 1,4 millones de d\u00f3lares para su alternativa ChatGPT, llamada Spark Plug, que traduce textos de literatura cl\u00e1sica al dialecto del ingl\u00e9s vern\u00e1culo afroamericano (AAVE). .<\/p>\n \u201cContratar, retener, asegurarse de que la gente est\u00e9 presente en la mesa\u201d, dijo Woods, sobre lo que se necesita hacer para que la IA sea m\u00e1s inclusiva. \u00abS\u00e9 que suena a clich\u00e9, pero creo que eso puede empezar a tener un impacto\u00bb.<\/p>\n<\/p><\/div>\n