El principal regulador digital de China propuso esta semana nuevas y audaces directrices que prohíben Estilo ChatGPT grandes modelos lingüísticos de escupir contenido que se cree que subvierte el poder estatal o aboga por el derrocamiento del sistema político comunista del país. Los expertos que hablaron con Gizmodo dijeron que las nuevas pautas marcan las señales más claras hasta ahora del entusiasmo de las autoridades chinas por extender su aparato de censura en línea de línea dura al mundo emergente de la inteligencia artificial generativa. Gran cortafuegos de China ahora rodea AI.
“No debemos hacernos ilusiones. El Partido utilizará las nuevas Directrices de IA Generativa para llevar a cabo la misma función de censura, vigilancia y manipulación de información que ha buscado justificar bajo otras leyes y regulaciones”, Michael Caster, Gerente del Programa Asia Digital de Article 19, una organización de derechos humanos. centrado en la libertad de expresión en línea, le dijo a Gizmodo.
El proyecto pautaspublicado por la Administración del Ciberespacio de China, le pisan los talones a los nuevos productos de IA generativa de Baidu, alibabay otros gigantes tecnológicos chinos. Los desarrolladores de IA que deseen operar en China en el futuro deberán enviar sus productos a una revisión de seguridad del gobierno antes de que se publiquen al público y asegurarse de que todo el contenido generado por IA esté claramente etiquetado. Los chatbots tendrán que verificar las identidades de los usuarios, y sus creadores estarán obligados a garantizar que el contenido servido por IA sea real:hasta ahora un gran problema para sus homólogos estadounidenses—y no discrimina la raza, etnia, creencia, país, región o género de los usuarios.
Si bien la mayoría de esas salvaguardias parecen estar en consonancia con llamadas de expertos en seguridad de IA en otros países, las pautas difieren marcadamente en los temas de contenido político potencialmente subversivo. Sobre esa pregunta, China quiere imponer medidas estrictas en gran medida en línea con sus políticas actuales de moderación del discurso en las redes sociales. Aquí hay una parte traducida de las pautas propuestas por la Administración del Ciberespacio.
“El contenido generado por la inteligencia artificial generativa debe reflejar los valores fundamentales del socialismo y no debe contener la subversión del poder estatal, el derrocamiento del sistema socialista, la incitación a dividir el país, socavar la unidad nacional, promover el terrorismo, el extremismo y promover odio étnico y discriminación étnica, violencia, información obscena y pornográfica, información falsa y contenido que pueda perturbar el orden económico y social”.
En este momento, se pueden obtener descuentos de clase galaxia en muchos de los mejores y más grandes kits de modelos de LEGO Star Wars.
Caster teme que las nuevas pautas de Beijing sobre IA generativa puedan conducir a una represión de artículos extranjeros traducidos por chatbots o sugerencias sobre cómo los usuarios de Internet podrían usar VPN u otras herramientas para eludir el llamado filtro de contenido Great Firewall del país. Caster destacó específicamente la arresto reciente de un bloguero llamado Ruan Xiaohuan, quien fue encarcelado durante siete años por incitación a la subversión del poder estatal. Los modelos de IA que vuelvan a publicar cualquiera de sus escritos, bajo estas pautas, podrían enfrentar represalias.
“Estos son los tipos de información independiente que se consideran subversivos en China y lo que entraría en conflicto con las nuevas pautas si un conjunto de datos se extrajera inadvertidamente de su [Xiaohuan’s] sitio web en la entrega de contenido generativo”, dijo Caster.
El investigador principal de Human Rights Watch sobre China, Yaqiu Wang, le dijo a Gizmodo que esas reglas estrictas, aunque nuevas, eran «totalmente esperadas». Incluso sin estas pautas, Wang dijo que creía que los funcionarios del gobierno chino aún podrían castigar efectivamente a las empresas por difundir contenido considerado crítico con el sistema político. Tener reglas escritas que mencionen específicamente la IA generativa hace que sea administrativamente más simple para los funcionarios citar estatutos precisos cuando se dirigen a empresas tecnológicas potencialmente infractoras.
“Incluso sin las pautas, pueden hacer lo mismo”, dijo Wang. “Las pautas son solo una herramienta conveniente a la que pueden señalar”. Estuvo de acuerdo con la evaluación de Caster y dijo que parecía posible que las autoridades chinas pudieran usar el texto del nuevo borrador de las reglas de IA para acabar con un discurso pacífico y «totalmente legítimo».
Es probable que las grandes empresas de tecnología como Baidu ya hayan construido y entrenado sus modelos sabiendo que pasaría algo similar a estas restricciones. Anterior reportando del Wall Street Journal mostró cómo las versiones anteriores de los chatbots chinos se ahogaban cuando se les hacían preguntas críticas sobre el presidente chino, Xi Jinping, o cuando se les pedía que hablaran sobre política china. Según los informes, algunos usuarios frustrados llaman a los aspirantes a ChatGPT censurados «ChatCCP».
“Si está operando en el sistema chino, sabe que hay cosas de las que no puede hablar”, dijo Wang. “Las pautas son solo otra advertencia”.
¿Qué es la Administración del Ciberespacio de China y qué quiere con la IA?
La Administración del Ciberespacio de China (CAC), formada en 2013, ha evolucionó rápidamente en los últimos años y asumió un papel como el principal censor de Internet del país y un servidor de pesadillas regulatorias para las empresas tecnológicas chinas en rápido crecimiento. El CAC fue responsable de derribar repentinamente al gigante chino de transporte compartido Hice fuera de las tiendas de aplicaciones en 2021 solo unos días después de su salida a bolsa masiva de 4.400 millones de dólaresy ha desempeñado un papel destacado en la elaboración de dos de China Lo más significativo y severo leyes de privacidad de datos. Los críticos del CAC, como Caster de Article 19, dicen que los estrechos vínculos de la agencia con el presidente Xi Jinping significan que está directamente involucrado en las demandas de censura dictadas desde los más altos niveles de poder.
Caster advirtió que las prohibiciones sugeridas por el CAC sobre el contenido que promueve el terrorismo o el extremismo, aunque loables en abstracto, podrían usarse como armas para reprimir a los disidentes políticos o grupos marginados como la minoría musulmana uigur del país. En ese caso, las autoridades del gobierno chino han categorizó a los uigures como extremistas para justificar acciones que múltiples grupos de derechos humanos han descrito como persecución sancionada por el estado. Contenido generado por IA que simplemente reconoce uigur la historia o la cultura, según las nuevas pautas, podría verse como una promoción del extremismo, dijo Caster.
Los chatbots de EE. UU. y China podrían existir en realidades alternativas
Los reguladores chinos no han sido tímidos acerca de sus preocupaciones sobre la posible interferencia política atribuida a los chatbots de inteligencia artificial fabricados en Estados Unidos. En febrero, según se informa, Tencent y Ant Group tomaron medidas drásticas contra los usuarios que intentaban acceder a ChatGPT de OpenAI, que según los reguladores advirtieron que podría usarse para «difundir información falsa». Aunque ChatGPT está bloqueado en China, se informó que los usuarios de WeChat y otras aplicaciones compartían intercambios con la modelo después de acceder a través de VPN. Algunas de las respuestas proporcionadas por ChatGPT, de acuerdo a the Guardian, fueron percibidos por las autoridades chinas como “coherentes con la propaganda política del gobierno de EE. UU.”.
Al otro lado del Pacífico, los legisladores estadounidenses expresan preocupaciones similares sobre los modelos de inteligencia artificial fabricados en China. Hablando en un Evento de Axios el mes pasadoEl presidente del comité selecto de la Cámara de Representantes de China, el representante republicano Mike Gallagher, describió los modelos chinos de IA como armas que los funcionarios del gobierno podrían usar para perfeccionar un «estado de vigilancia tecno-totalitario orwelliano». Eso puede sonar tonto, y lo es, pero otros halcones de China más respetados, como el ex CEO de Google, Eric Schmidt, también deben hacer los EE. UU.lo que sea necesario”, para ganar una carrera de IA contra China.
“Creo que nuestro desafío”, dijo Gallagher, “es garantizar que la IA se utilice como un instrumento para el florecimiento y la libertad humanos”.
Las restricciones a los chatbots extranjeros se producen justo cuando marcas locales como Baidu y Alibaba se apresuran a lanzar sus propias alternativas similares. Baidu mostró su propia alternativa, apodado Ernie Bot, durante una demostración pregrabada el mes pasado. Comparte algunas similitudes con los modelos de OpenAI, pero los críticos señalan que el competidor de Baidu parecía tener problemas con la lógica básica. Internamente, el Wall Street Journal notas, Baidu trabajó las 24 horas del día, luchando para asegurarse de que Ernie fuera capaz de completar las funciones básicas. Alibaba lanzó más recientemente Tongyi Qianwen modeloque la empresa abrió a clientes corporativos, sobresale al escribir poemas en varios idiomas y resolver problemas matemáticos básicos, pero también lucha con problemas lógicos básicos.
El aparente liderazgo de las empresas tecnológicas de EE. UU. en los grandes modelos de lenguaje, al menos por ahora, se debe en parte a las regulaciones de IA relativamente más estrictas en China y a la afluencia de inversiones de las empresas estadounidenses. El año pasado, de acuerdo a Según un análisis reciente realizado por investigadores de Stanford, las empresas estadounidenses invirtieron 47.400 millones de dólares en proyectos de IA, una cifra 3,5 veces superior a la de China. Esas cifras contrastan con las afirmaciones de algunos entusiastas de la IA de EE. UU. que han sugerido que las empresas estadounidenses podrían perder su ventaja debido a un entorno no regulatorio en el que todo vale en China.
“Está claro que China se está moviendo al ritmo del impulso global en la regulación de la IA”, dijo a Gizmodo el director ejecutivo del AI Now Institute, Amba Kak. «Este y otros movimientos regulatorios del gobierno chino, como la aplicación de la competencia, contradicen directamente las afirmaciones de que las empresas tecnológicas chinas tienen una ventaja en la ‘carrera de IA entre EE. UU. y China’ porque no están reguladas».
“Estas afirmaciones sin respaldo son peligrosas porque se utilizan para rechazar la regulación de las grandes empresas tecnológicas en los EE. UU., promoviendo una carrera a la baja en lo que respecta a los estándares de privacidad, competencia y protección del consumidor”, agregó Kak.