\n
ChatGPT ha impresionado a millones con su capacidad para unir oraciones coherentes, a veces incluso precisas, notas publicitarias, guiones y m\u00e1s. Para escribir como un ser humano, el bot de IA fue entrenado con algoritmos de aprendizaje autom\u00e1tico en un cat\u00e1logo masivo de material extra\u00eddo de la web. Pero el desarrollo de ChatGPT no fue completamente automatizado: se requiri\u00f3 trabajo humano para evitar que ChatGPT cayera en la misma trampa que su predecesor GPT-3, que era capaz de hacer comentarios inapropiados, a veces incluso racistas. (se abre en una pesta\u00f1a nueva)<\/span>comentarios.<\/p>\nSeg\u00fan una investigaci\u00f3n reciente de Time (se abre en una pesta\u00f1a nueva)<\/span>el creador de ChatGPT, OpenAI, subcontrat\u00f3 esta desagradable tarea de procesamiento de datos a los trabajadores de Kenia, muchos de los cuales, seg\u00fan se informa, ganan menos de $ 2 por hora.<\/p>\n\nChatGPT est\u00e1 entrenado en conjuntos de datos de un tama\u00f1o tan inmenso que no se pueden seleccionar a mano, al igual que las herramientas de generaci\u00f3n de im\u00e1genes como DALL-E (tambi\u00e9n operada por OpenAI), Stable Diffusion y Midjourney. Sin capacitaci\u00f3n, ChatGPT no funcionar\u00eda en absoluto, pero no todo el texto que puede encontrar en Internet conduce al tipo de comentarios que desea que haga su bot de IA.<\/p>\n
El trabajo subcontratado implic\u00f3 etiquetar ejemplos del tipo de texto ofensivo que podr\u00eda aparecer en el material de capacitaci\u00f3n. Luego, una colecci\u00f3n de estas muestras de texto etiquetado se introdujo en otra IA, entren\u00e1ndola para detectar y eliminar texto ofensivo similar de las respuestas de ChatGPT a los usuarios.<\/p>\n
Entrenar a la IA para evitar lenguaje y temas inapropiados mantiene ChatGPT m\u00e1s limpio y hace que sea m\u00e1s dif\u00edcil de usar para producir contenido perturbador. Pero en este esfuerzo por mejorar el bot, OpenAI expuso a los trabajadores mal pagados en Kenia a algunos de los peores materiales en la web.<\/p>\n
\u00abPara obtener esas etiquetas, OpenAI envi\u00f3 decenas de miles de fragmentos de texto a una empresa de subcontrataci\u00f3n en Kenia, a partir de noviembre de 2021\u00bb, informa Time. \u00abGran parte de ese texto parec\u00eda haber sido sacado de los rincones m\u00e1s oscuros de Internet. Parte de \u00e9l describ\u00eda situaciones con detalles gr\u00e1ficos como abuso sexual infantil, bestialidad, asesinato, suicidio, tortura, autolesiones e incesto\u00bb.<\/p>\n\n\n
\n
<\/picture><\/p>\n<\/div>\n<\/div>ChatGPT ahora es tan popular que la herramienta suele estar al m\u00e1ximo de su capacidad. <\/span>(Cr\u00e9dito de la imagen: OpenAI)<\/span><\/figcaption><\/figure>\nEl informe de Time dice que un trabajador sufr\u00eda de visiones recurrentes como resultado del contenido que encontraba en el trabajo. Los cuatro trabajadores con los que habl\u00f3 Time dijeron que estaban \u00abmentalmente marcados por el trabajo\u00bb.<\/p>\n
Seg\u00fan los informes, se emplearon alrededor de 36 trabajadores para llevar a cabo la tarea en nombre de OpenAI, cada uno de los cuales esperaba \u00ableer y etiquetar entre 150 y 250 pasajes de texto por turno de nueve horas\u00bb.<\/p>\n
La empresa responsable del trabajo de subcontrataci\u00f3n se llama Sama, una empresa con sede en San Francisco con trabajadores en Kenia, Uganda e India. Time informa que OpenAI firm\u00f3 tres contratos para el trabajo de etiquetado a fines de 2021, por un valor total de alrededor de $ 200,000.<\/p>\n
Sama dice que sus empleados tuvieron acceso a sesiones individuales y grupales con terapeutas profesionales de salud mental, accesibles en cualquier momento. Sin embargo, los trabajadores con los que habl\u00f3 Time dicen que solo ten\u00edan disponibles sesiones grupales.<\/p>\n
\u00abNuestra misi\u00f3n es garantizar que la inteligencia artificial general beneficie a toda la humanidad, y trabajamos arduamente para construir sistemas de IA seguros y \u00fatiles que limiten el sesgo y el contenido da\u00f1ino\u00bb, dijo un portavoz de OpenAI a Time sobre el trabajo de procesamiento de datos subcontratado. \u00abClasificaci\u00f3n y filtrado nocivos [text and images] es un paso necesario para minimizar la cantidad de contenido violento y sexual incluido en los datos de entrenamiento y crear herramientas que puedan detectar contenido da\u00f1ino\u00bb.<\/p>\n\n\n
\n
ChatGPT usa la serie GPT-3.5 de OpenAI, que se entren\u00f3 en 2022 usando la infraestructura de supercomputaci\u00f3n de Microsoft Azure. Los etiquetadores se utilizan para ajustar la IA, como en el modelo de optimizaci\u00f3n anterior. <\/span>(Cr\u00e9dito de la imagen: OpenAI)<\/span><\/figcaption><\/figure>\nSeg\u00fan Time, la naturaleza del trabajo de Sama para OpenAI dio un giro diferente en febrero de 2022 cuando comenz\u00f3 a recopilar \u00abim\u00e1genes sexuales y violentas\u00bb, algunas de las cuales se considerar\u00edan ilegales en los EE. UU. OpenAI dijo que etiquetar im\u00e1genes da\u00f1inas era \u00abun paso necesario\u00bb para hacer que sus herramientas fueran seguras, pero que nunca tuvo la intenci\u00f3n de que Sama recopilara la categor\u00eda m\u00e1s extrema de im\u00e1genes y que esto fue una falta de comunicaci\u00f3n.<\/p>\n
Sama finalmente rescindi\u00f3 su contrato con OpenAI antes de tiempo. El informe sugiere que el equipo de Sama expres\u00f3 su preocupaci\u00f3n por el contenido de las im\u00e1genes, lo que eventualmente llev\u00f3 al colapso del acuerdo de las dos compa\u00f1\u00edas. Posteriormente, algunos de los trabajadores de Sama fueron trasladados a contratos con salarios m\u00e1s bajos o sus puestos fueron rescindidos por completo. El informe de tiempo completo (se abre en una pesta\u00f1a nueva)<\/span> entra en muchos m\u00e1s detalles sobre la relaci\u00f3n de OpenAI con Sama.<\/p>\nOpenAI actualmente est\u00e1 valorado en miles de millones de d\u00f3lares. Seg\u00fan se informa, Microsoft busca invertir m\u00e1s dinero en la empresa de IA, a pesar de sus propios despidos masivos recientes, y ha anunciado planes para integrar las tecnolog\u00edas OpenAI en sus servicios.<\/p>\n
El trabajo de moderaci\u00f3n ha implicado durante mucho tiempo cierto grado de sufrimiento humano: un informe de 2019 (se abre en una pesta\u00f1a nueva)<\/span> sobre el bienestar mental de los empleados de los equipos de moderaci\u00f3n utilizados por Facebook describieron s\u00edntomas de trauma duraderos como resultado del trabajo. <\/p>\nLas necesidades de etiquetado de OpenAI tambi\u00e9n son una faceta de una crisis \u00e9tica m\u00e1s grande que crece en el centro de la investigaci\u00f3n de IA: el problema de qu\u00e9 usar como material de capacitaci\u00f3n. Las m\u00e1quinas no pueden aprender a comportarse como humanos sin material creado por humanos, pero no todo el mundo quiere que su trabajo se alimente a un algoritmo, y el a\u00f1o pasado los artistas comenzaron a etiquetar su trabajo como \u00absin IA\u00bb en un intento de evitar que las empresas recopilen datos de capacitaci\u00f3n. para generadores de im\u00e1genes. Ahora aqu\u00ed est\u00e1 el problema inverso: material que los fabricantes de bots no <\/em>quieren influir en su IA. Nuevamente, la tarea de criar bots de IA respetuosos se reduce a las personas, en este caso, trabajadores pagados para leer el contenido m\u00e1s perturbador de la web.<\/p>\n<\/div>\nSource link-8 <\/a><\/p>\n","protected":false},"excerpt":{"rendered":"ChatGPT ha impresionado a millones con su capacidad para unir oraciones coherentes, a veces incluso precisas, notas publicitarias, guiones y m\u00e1s. Para escribir como un ser humano, el bot de…<\/p>\n","protected":false},"author":1,"featured_media":416527,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[34],"tags":[16248,9721,73901,376,2975,18748,437,14985,8,16204,8849,107,110,12211,4450],"_links":{"self":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/416526"}],"collection":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/comments?post=416526"}],"version-history":[{"count":1,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/416526\/revisions"}],"predecessor-version":[{"id":416528,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/416526\/revisions\/416528"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media\/416527"}],"wp:attachment":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media?parent=416526"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/categories?post=416526"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/tags?post=416526"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}