\n<\/aside>\n<\/p>\n
Cualquiera que haya tenido que regresar y volver a escribir una palabra en su tel\u00e9fono inteligente porque la autocorrecci\u00f3n eligi\u00f3 la palabra incorrecta ha tenido alg\u00fan tipo de experiencia escribiendo con IA. Si no se hacen estas correcciones, la IA puede decir cosas que no pretend\u00edamos. Pero, \u00bftambi\u00e9n es posible que los asistentes de escritura de IA cambien lo que desear<\/i> \u00bfdecir?<\/p>\n
Esto es lo que Maurice Jakesch, estudiante de doctorado en ciencias de la informaci\u00f3n en la Universidad de Cornell, quer\u00eda averiguar. Cre\u00f3 su propio asistente de escritura basado en IA basado en GPT-3, uno que generar\u00eda autom\u00e1ticamente sugerencias para completar oraciones, pero hab\u00eda una trampa. Se supon\u00eda que los sujetos que usaban el asistente deb\u00edan responder: \u00ab\u00bfSon las redes sociales buenas para la sociedad?\u00bb El asistente, sin embargo, estaba programado para ofrecer sugerencias sesgadas sobre c\u00f3mo responder esa pregunta.<\/p>\n
Ayudando con sesgo<\/h2>\n La IA puede estar sesgada a pesar de no estar viva. Aunque estos programas solo pueden \u00abpensar\u00bb en la medida en que los cerebros humanos descubran c\u00f3mo programarlos, sus creadores pueden terminar incorporando sesgos personales en el software. Alternativamente, si se entrena en un conjunto de datos con una representaci\u00f3n limitada o sesgada, el producto final puede mostrar sesgos.<\/p>\n
A d\u00f3nde va una IA desde all\u00ed puede ser problem\u00e1tico. A gran escala, puede ayudar a perpetuar los prejuicios existentes en una sociedad. A nivel individual, tiene el potencial de influir en las personas a trav\u00e9s de la persuasi\u00f3n latente, lo que significa que la persona puede no ser consciente de que est\u00e1 siendo influenciada por sistemas automatizados. Ya se ha descubierto que la persuasi\u00f3n latente por parte de los programas de IA influye en las opiniones de las personas en l\u00ednea. Incluso puede tener un impacto en el comportamiento en la vida real.<\/p>\n\n Anuncio <\/span> <\/p>\n<\/aside>\nDespu\u00e9s de ver estudios previos que suger\u00edan que las respuestas automatizadas de IA pueden tener una influencia significativa, Jakesch se dispuso a investigar qu\u00e9 tan extensa puede ser esta influencia. En un estudio presentado recientemente en la Conferencia CHI de 2023 sobre factores humanos en sistemas inform\u00e1ticos, sugiri\u00f3 que los sistemas de IA como GPT-3 podr\u00edan haber desarrollado sesgos durante su entrenamiento y que esto puede afectar las opiniones de un escritor, sea o no el escritor. se da cuenta<\/p>\n
\u201cLa falta de conocimiento de la influencia de los modelos respalda la idea de que la influencia del modelo no se produjo solo a trav\u00e9s del procesamiento consciente de nueva informaci\u00f3n, sino tambi\u00e9n a trav\u00e9s de los procesos intuitivos y subconscientes\u201d, dijo en el estudio.<\/p>\n
Investigaciones anteriores han demostrado que la influencia de las recomendaciones de una IA depende de la percepci\u00f3n de las personas sobre ese programa. Si piensan que es confiable, es m\u00e1s probable que acepten lo que sugiere, y la probabilidad de seguir el consejo de IA como este solo aumenta si la incertidumbre hace que sea m\u00e1s dif\u00edcil formarse una opini\u00f3n. Jakesch desarroll\u00f3 una plataforma de medios sociales similar a Reddit y un asistente de escritura de IA que estaba m\u00e1s cerca de la IA detr\u00e1s de Google Smart Compose o Microsoft Outlook que de la autocorrecci\u00f3n. Tanto Smart Compose como Outlook generan sugerencias autom\u00e1ticas sobre c\u00f3mo continuar o completar una oraci\u00f3n. Si bien este asistente no escribi\u00f3 el ensayo en s\u00ed, actu\u00f3 como coautor que sugiri\u00f3 letras y frases. Aceptar una sugerencia solo requer\u00eda un clic.<\/p>\n
Para algunos, el asistente de IA estaba dise\u00f1ado para sugerir palabras que finalmente resultar\u00edan en respuestas positivas. Para otros, estaba sesgado contra las redes sociales y gener\u00f3 respuestas negativas. (Tambi\u00e9n hubo un grupo de control que no us\u00f3 la IA en absoluto). Result\u00f3 que cualquiera que recibiera asistencia de la IA ten\u00eda el doble de probabilidades de seguir el sesgo integrado en la IA, incluso si su opini\u00f3n inicial hab\u00eda sido diferente. Las personas que segu\u00edan viendo aparecer lenguaje tecno-optimista en sus pantallas ten\u00edan m\u00e1s probabilidades de decir que las redes sociales benefician a la sociedad, mientras que los sujetos que ve\u00edan lenguaje tecno-pesimista ten\u00edan m\u00e1s probabilidades de argumentar lo contrario.<\/p>\n<\/p><\/div>\n
Source link-49<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"Parradee Kietsirikul Cualquiera que haya tenido que regresar y volver a escribir una palabra en su tel\u00e9fono inteligente porque la autocorrecci\u00f3n eligi\u00f3 la palabra incorrecta ha tenido alg\u00fan tipo de…<\/p>\n","protected":false},"author":1,"featured_media":654783,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[21980],"tags":[30066,27096,8,23451,11527,2964,73405,663,6512],"_links":{"self":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/654782"}],"collection":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/comments?post=654782"}],"version-history":[{"count":1,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/654782\/revisions"}],"predecessor-version":[{"id":654784,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/654782\/revisions\/654784"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media\/654783"}],"wp:attachment":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media?parent=654782"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/categories?post=654782"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/tags?post=654782"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}