{"id":572575,"date":"2023-04-14T03:38:47","date_gmt":"2023-04-14T03:38:47","guid":{"rendered":"https:\/\/magazineoffice.com\/las-regulaciones-de-ai-chatbot-de-china-amenazan-los-derechos-humanos-expertos\/"},"modified":"2023-04-14T03:38:50","modified_gmt":"2023-04-14T03:38:50","slug":"las-regulaciones-de-ai-chatbot-de-china-amenazan-los-derechos-humanos-expertos","status":"publish","type":"post","link":"https:\/\/magazineoffice.com\/las-regulaciones-de-ai-chatbot-de-china-amenazan-los-derechos-humanos-expertos\/","title":{"rendered":"Las regulaciones de AI Chatbot de China amenazan los derechos humanos: expertos"},"content":{"rendered":"


\n<\/p>\n

\n

El principal regulador digital de China propuso esta semana nuevas y audaces directrices que proh\u00edben Estilo ChatGPT<\/span> grandes modelos ling\u00fc\u00edsticos de escupir contenido que se cree que subvierte el poder estatal o aboga por el derrocamiento del sistema pol\u00edtico comunista del pa\u00eds. Los expertos que hablaron con Gizmodo dijeron que las nuevas pautas marcan las se\u00f1ales m\u00e1s claras hasta ahora del entusiasmo de las autoridades chinas por extender su aparato de censura en l\u00ednea de l\u00ednea dura al mundo emergente de la inteligencia artificial generativa. Gran cortafuegos de China<\/span> ahora rodea AI.<\/p>\n

\n
\n
\n
\n
\n
\n
\n
\n

Ok Google, \u00bfa d\u00f3nde se fue la duraci\u00f3n de la bater\u00eda de mi reloj?<\/p>\n<\/div>\n

\u201cNo debemos hacernos ilusiones. El Partido utilizar\u00e1 las nuevas Directrices de IA Generativa para llevar a cabo la misma funci\u00f3n de censura, vigilancia y manipulaci\u00f3n de informaci\u00f3n que ha buscado justificar bajo otras leyes y regulaciones\u201d, Michael Caster, Gerente del Programa Asia Digital de Article 19, una organizaci\u00f3n de derechos humanos. centrado en la libertad de expresi\u00f3n en l\u00ednea, le dijo a Gizmodo.<\/p>\n

El proyecto pautas<\/span>publicado por la Administraci\u00f3n del Ciberespacio de China, le pisan los talones a los nuevos productos de IA generativa de Baidu<\/span>, alibaba<\/span>y otros gigantes tecnol\u00f3gicos chinos. Los desarrolladores de IA que deseen operar en China en el futuro deber\u00e1n enviar sus productos a una revisi\u00f3n de seguridad del gobierno antes de que se publiquen al p\u00fablico y asegurarse de que todo el contenido generado por IA est\u00e9 claramente etiquetado. Los chatbots tendr\u00e1n que verificar las identidades de los usuarios, y sus creadores estar\u00e1n obligados a garantizar que el contenido servido por IA sea real:hasta ahora un gran problema para sus hom\u00f3logos estadounidenses<\/span>\u2014y no discrimina la raza, etnia, creencia, pa\u00eds, regi\u00f3n o g\u00e9nero de los usuarios. <\/p>\n

Si bien la mayor\u00eda de esas salvaguardias parecen estar en consonancia con llamadas de expertos en seguridad de IA<\/span> en otros pa\u00edses, las pautas difieren marcadamente en los temas de contenido pol\u00edtico potencialmente subversivo. Sobre esa pregunta, China quiere imponer medidas estrictas en gran medida en l\u00ednea con sus pol\u00edticas actuales de moderaci\u00f3n del discurso en las redes sociales. Aqu\u00ed hay una parte traducida de las pautas propuestas por la Administraci\u00f3n del Ciberespacio.<\/p>\n

\n

\u201cEl contenido generado por la inteligencia artificial generativa debe reflejar los valores fundamentales del socialismo y no debe contener la subversi\u00f3n del poder estatal, el derrocamiento del sistema socialista, la incitaci\u00f3n a dividir el pa\u00eds, socavar la unidad nacional, promover el terrorismo, el extremismo y promover odio \u00e9tnico y discriminaci\u00f3n \u00e9tnica, violencia, informaci\u00f3n obscena y pornogr\u00e1fica, informaci\u00f3n falsa y contenido que pueda perturbar el orden econ\u00f3mico y social\u201d.<\/p>\n<\/blockquote>\n

\n
\n
\n
\n
<\/picture><\/div>\n<\/div>\n
\n

En este momento, se pueden obtener descuentos de clase galaxia en muchos de los mejores y m\u00e1s grandes kits de modelos de LEGO Star Wars.<\/span><\/p>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n

Caster teme que las nuevas pautas de Beijing sobre IA generativa puedan conducir a una represi\u00f3n de art\u00edculos extranjeros traducidos por chatbots o sugerencias sobre c\u00f3mo los usuarios de Internet podr\u00edan usar VPN u otras herramientas para eludir el llamado filtro de contenido Great Firewall del pa\u00eds. Caster destac\u00f3 espec\u00edficamente la arresto reciente<\/span> de un bloguero llamado Ruan Xiaohuan, quien fue encarcelado durante siete a\u00f1os por incitaci\u00f3n a la subversi\u00f3n del poder estatal. Los modelos de IA que vuelvan a publicar cualquiera de sus escritos, bajo estas pautas, podr\u00edan enfrentar represalias.<\/p>\n

\u201cEstos son los tipos de informaci\u00f3n independiente que se consideran subversivos en China y lo que entrar\u00eda en conflicto con las nuevas pautas si un conjunto de datos se extrajera inadvertidamente de su [Xiaohuan\u2019s] sitio web en la entrega de contenido generativo\u201d, dijo Caster.<\/p>\n

El investigador principal de Human Rights Watch sobre China, Yaqiu Wang, le dijo a Gizmodo que esas reglas estrictas, aunque nuevas, eran \u00abtotalmente esperadas\u00bb. Incluso sin estas pautas, Wang dijo que cre\u00eda que los funcionarios del gobierno chino a\u00fan podr\u00edan castigar efectivamente a las empresas por difundir contenido considerado cr\u00edtico con el sistema pol\u00edtico. Tener reglas escritas que mencionen espec\u00edficamente la IA generativa hace que sea administrativamente m\u00e1s simple para los funcionarios citar estatutos precisos cuando se dirigen a empresas tecnol\u00f3gicas potencialmente infractoras.<\/p>\n

\u201cIncluso sin las pautas, pueden hacer lo mismo\u201d, dijo Wang. \u201cLas pautas son solo una herramienta conveniente a la que pueden se\u00f1alar\u201d. Estuvo de acuerdo con la evaluaci\u00f3n de Caster y dijo que parec\u00eda posible que las autoridades chinas pudieran usar el texto del nuevo borrador de las reglas de IA para acabar con un discurso pac\u00edfico y \u00abtotalmente leg\u00edtimo\u00bb.<\/p>\n

Es probable que las grandes empresas de tecnolog\u00eda como Baidu ya hayan construido y entrenado sus modelos sabiendo que pasar\u00eda algo similar a estas restricciones. Anterior reportando<\/span> del Wall Street Journal mostr\u00f3 c\u00f3mo las versiones anteriores de los chatbots chinos se ahogaban cuando se les hac\u00edan preguntas cr\u00edticas sobre el presidente chino, Xi Jinping, o cuando se les ped\u00eda que hablaran sobre pol\u00edtica china. Seg\u00fan los informes, algunos usuarios frustrados llaman a los aspirantes a ChatGPT censurados \u00abChatCCP\u00bb.<\/p>\n

\u201cSi est\u00e1 operando en el sistema chino, sabe que hay cosas de las que no puede hablar\u201d, dijo Wang. \u201cLas pautas son solo otra advertencia\u201d.<\/p>\n

\u00bfQu\u00e9 es la Administraci\u00f3n del Ciberespacio de China y qu\u00e9 quiere con la IA?<\/strong> <\/h2>\n

La Administraci\u00f3n del Ciberespacio de China (CAC), formada en 2013, ha evolucion\u00f3 r\u00e1pidamente<\/span> en los \u00faltimos a\u00f1os y asumi\u00f3 un papel como el principal censor de Internet del pa\u00eds y un servidor de pesadillas regulatorias para las empresas tecnol\u00f3gicas chinas en r\u00e1pido crecimiento. El CAC fue responsable de derribar repentinamente al gigante chino de transporte compartido Hice<\/span> fuera de las tiendas de aplicaciones en 2021 solo unos d\u00edas despu\u00e9s de su salida a bolsa masiva de 4.400 millones de d\u00f3lares<\/span>y ha desempe\u00f1ado un papel destacado en la elaboraci\u00f3n de dos de China Lo m\u00e1s significativo<\/span> y severo leyes de privacidad de datos<\/span>. Los cr\u00edticos del CAC, como Caster de Article 19, dicen que los estrechos v\u00ednculos de la agencia con el presidente Xi Jinping significan que est\u00e1 directamente involucrado en las demandas de censura dictadas desde los m\u00e1s altos niveles de poder. <\/p>\n

Caster advirti\u00f3 que las prohibiciones sugeridas por el CAC sobre el contenido que promueve el terrorismo o el extremismo, aunque loables en abstracto, podr\u00edan usarse como armas para reprimir a los disidentes pol\u00edticos o grupos marginados como la minor\u00eda musulmana uigur del pa\u00eds. En ese caso, las autoridades del gobierno chino han categoriz\u00f3 a los uigures como extremistas<\/span> para justificar acciones que m\u00faltiples grupos de derechos humanos han descrito como persecuci\u00f3n sancionada por el estado. Contenido generado por IA que simplemente reconoce uigur<\/span> la historia o la cultura, seg\u00fan las nuevas pautas, podr\u00eda verse como una promoci\u00f3n del extremismo, dijo Caster.<\/p>\n

Los chatbots de EE. UU. y China podr\u00edan existir en realidades alternativas<\/strong><\/h2>\n

Los reguladores chinos no han sido t\u00edmidos acerca de sus preocupaciones sobre la posible interferencia pol\u00edtica atribuida a los chatbots de inteligencia artificial fabricados en Estados Unidos. En febrero, seg\u00fan se informa, Tencent y Ant Group tomaron medidas dr\u00e1sticas contra los usuarios que intentaban acceder a ChatGPT de OpenAI, que seg\u00fan los reguladores advirtieron que podr\u00eda usarse para \u00abdifundir informaci\u00f3n falsa\u00bb. Aunque ChatGPT est\u00e1 bloqueado en China, se inform\u00f3 que los usuarios de WeChat y otras aplicaciones compart\u00edan intercambios con la modelo despu\u00e9s de acceder a trav\u00e9s de VPN. Algunas de las respuestas proporcionadas por ChatGPT, de acuerdo a<\/span> the Guardian, fueron percibidos por las autoridades chinas como \u201ccoherentes con la propaganda pol\u00edtica del gobierno de EE. UU.\u201d.<\/p>\n

Al otro lado del Pac\u00edfico, los legisladores estadounidenses expresan preocupaciones similares sobre los modelos de inteligencia artificial fabricados en China. Hablando en un Evento de Axios el mes pasado<\/span>El presidente del comit\u00e9 selecto de la C\u00e1mara de Representantes de China, el representante republicano Mike Gallagher, describi\u00f3 los modelos chinos de IA como armas que los funcionarios del gobierno podr\u00edan usar para perfeccionar un \u00abestado de vigilancia tecno-totalitario orwelliano\u00bb. Eso puede sonar tonto, y lo es, pero otros halcones de China m\u00e1s respetados, como el ex CEO de Google, Eric Schmidt, tambi\u00e9n deben hacer los EE. UU.lo que sea necesario<\/span>\u201d, para ganar una carrera de IA contra China.<\/p>\n

\u201cCreo que nuestro desaf\u00edo\u201d, dijo Gallagher, \u201ces garantizar que la IA se utilice como un instrumento para el florecimiento y la libertad humanos\u201d.<\/p>\n

Las restricciones a los chatbots extranjeros se producen justo cuando marcas locales como Baidu y Alibaba se apresuran a lanzar sus propias alternativas similares. Baidu mostr\u00f3 su propia alternativa, apodado Ernie Bot<\/span>, durante una demostraci\u00f3n pregrabada el mes pasado. Comparte algunas similitudes con los modelos de OpenAI, pero los cr\u00edticos se\u00f1alan que el competidor de Baidu parec\u00eda tener problemas con la l\u00f3gica b\u00e1sica. Internamente, el Wall Street Journal notas<\/span>, Baidu trabaj\u00f3 las 24 horas del d\u00eda, luchando para asegurarse de que Ernie fuera capaz de completar las funciones b\u00e1sicas. Alibaba lanz\u00f3 m\u00e1s recientemente Tongyi Qianwen modelo<\/span>que la empresa abri\u00f3 a clientes corporativos, sobresale al escribir poemas en varios idiomas y resolver problemas matem\u00e1ticos b\u00e1sicos, pero tambi\u00e9n lucha con problemas l\u00f3gicos b\u00e1sicos. <\/p>\n

El aparente liderazgo de las empresas tecnol\u00f3gicas de EE. UU. en los grandes modelos de lenguaje, al menos por ahora, se debe en parte a las regulaciones de IA relativamente m\u00e1s estrictas en China y a la afluencia de inversiones de las empresas estadounidenses. El a\u00f1o pasado, de acuerdo a<\/span> Seg\u00fan un an\u00e1lisis reciente realizado por investigadores de Stanford, las empresas estadounidenses invirtieron 47.400 millones de d\u00f3lares en proyectos de IA, una cifra 3,5 veces superior a la de China. Esas cifras contrastan con las afirmaciones de algunos entusiastas de la IA de EE. UU. que han sugerido que las empresas estadounidenses podr\u00edan perder su ventaja debido a un entorno no regulatorio en el que todo vale en China.<\/p>\n

\u201cEst\u00e1 claro que China se est\u00e1 moviendo al ritmo del impulso global en la regulaci\u00f3n de la IA\u201d, dijo a Gizmodo el director ejecutivo del AI Now Institute, Amba Kak. \u00abEste y otros movimientos regulatorios del gobierno chino, como la aplicaci\u00f3n de la competencia, contradicen directamente las afirmaciones de que las empresas tecnol\u00f3gicas chinas tienen una ventaja en la ‘carrera de IA entre EE. UU. y China’ porque no est\u00e1n reguladas\u00bb.<\/p>\n

\u201cEstas afirmaciones sin respaldo son peligrosas porque se utilizan para rechazar la regulaci\u00f3n de las grandes empresas tecnol\u00f3gicas en los EE. UU., promoviendo una carrera a la baja en lo que respecta a los est\u00e1ndares de privacidad, competencia y protecci\u00f3n del consumidor\u201d, agreg\u00f3 Kak.<\/p>\n<\/div>\n


\n
Source link-45<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

El principal regulador digital de China propuso esta semana nuevas y audaces directrices que proh\u00edben Estilo ChatGPT grandes modelos ling\u00fc\u00edsticos de escupir contenido que se cree que subvierte el poder…<\/p>\n","protected":false},"author":1,"featured_media":572576,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[123],"tags":[4565,23592,1603,1187,7301,3275,246,8,16442],"_links":{"self":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/572575"}],"collection":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/comments?post=572575"}],"version-history":[{"count":1,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/572575\/revisions"}],"predecessor-version":[{"id":572577,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/572575\/revisions\/572577"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media\/572576"}],"wp:attachment":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media?parent=572575"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/categories?post=572575"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/tags?post=572575"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}