Beijing publica un borrador de reglamento para la llamada inteligencia artificial generativa. Los desarrolladores deben enviar su software a las autoridades para que lo prueben con anticipación.
El gobierno chino quiere establecer un camino claro para el software que puede generar texto, imágenes y videos. En la imagen, visitantes de la Conferencia Mundial de Internet 2019 en la ciudad de Wuzhen, con la que el gobierno chino promueve su control de Internet como modelo para el mundo.
China está a punto de convertirse en el primer país del mundo en software integral como Chat GPT regular. La poderosa Administración del Ciberespacio de China tiene uno este martes Borrador publicado. Está dirigido a la llamada inteligencia artificial generativa, es decir, IA que puede generar texto, imágenes, sonidos y videos, por ejemplo.
Como primer punto concreto, el borrador exige que el contenido generado “refleje los valores básicos del socialismo”. Entre otras cosas, están prohibidas «la subversión del poder estatal, el derrocamiento del sistema socialista, la incitación a dividir el país, el socavamiento de la unidad nacional». También debe descartarse la discriminación por motivos de etnia, edad o género.
Los desarrolladores de IA deben entregar el software a las autoridades por adelantado
Los desarrolladores y proveedores de software de chat similar a GPT en China tendrán que enfrentarse a amplias obligaciones en el futuro. El reglamento estipula que esto ya se aplica al proceso de investigación y desarrollo, no solo al uso real de la inteligencia artificial generativa (GKI). Y antes de la publicación, dicho software, incluido el algoritmo, debe enviarse a las autoridades para su inspección.
La inteligencia artificial se basa en la evaluación de grandes cantidades de datos de una amplia variedad de fuentes. Según el borrador, también deberían estar los responsables directos de la «autenticidad, exactitud, objetividad y diversidad de los datos» y del contenido generado: no los desarrolladores de software, sino los proveedores que prestan el servicio al público.
Además, los proveedores deberán dotar a las “imágenes, vídeos y otros contenidos” generados de una especie de marca de agua, gracias a la cual se pueda rastrear su origen. Este requisito se basa en un reglamento que ha estado en vigor desde enero. Según la Administración del Ciberespacio de China, esto se usa contra las llamadas «falsificaciones profundas», es decir, contra videos falsos en los que, por ejemplo, los políticos dicen cosas que nunca dijeron.
En última instancia, los proveedores deberían dar a sus clientes una «comprensión científica» y un «uso racional» del software GRI, como establece vagamente el borrador. Como es habitual en China en Internet ya la hora de comprar billetes de tren, por ejemplo, los usuarios deberán identificarse con su nombre real.
Los analistas encuentran el borrador «relativamente flexible» o «restrictivo»
Los observadores comentaron el borrador de manera bastante diferente. Wu Shenkuo, ejecutivo de la asociación industrial Internet Society of China, dijo al sitio web Yicai.cn tres características del proyecto: Maximiza el alcance de las normas existentes, prioriza la prevención y gestión de riesgos y está orientado a procesos. Además, las autoridades presentaron el borrador muy rápidamente, lo que demuestra la creciente madurez y eficiencia de la regulación de Internet de China.
El analista Vincent Brussee del think tank de Berlín China Merics escribió en Twitter, la regulación es «relativamente laxa», aparentemente la innovación no debe ser sofocada. Brussee señaló que, a diferencia de la regulación de algoritmos existente, el borrador no exige la propagación de «energía positiva» en la Internet china, ni que se prioricen las fuentes estatales al entrenar los algoritmos.
el portal web Techcrunch sin embargo, China calificó el proyecto de «restrictivo». Si bien algunos requisitos podrían verse como prudentes o incluso cruciales para una industria de IA responsable. Pero muchos de estos requisitos son «increíblemente difíciles, tal vez incluso imposibles» de implementar. Al mismo tiempo, el autor de Techcrunch cree que es poco probable que Beijing desperdicie los frutos de años de financiación de la investigación y el desarrollo simplemente aplicando prohibiciones generales.
De hecho, el proyecto de reglamento parece una vez más un instrumento preventivo del gobierno chino que, como la espada de Damocles, puede que nunca quiera usar por completo, pero si es necesario lo hará.
Desde el comienzo de campaña contra las grandes plataformas de Internet en el otoño de 2020, China emitió una serie de regulaciones de este tipo. En última instancia, su objetivo final, como la política del gobierno chino en general, es que nadie dude del gobierno del Partido Comunista.
Baidu, Alibaba y otros compiten por software
El carreras en china La mejor respuesta al software GPT de chat estadounidense ahora se está produciendo en condiciones modificadas con el borrador de la regulación. El software Ernie Bot de la contraparte de Google, Baidu, que se presentó en marzo, se considera su peor rival. El viernes, la contraparte china de Amazon, Alibaba, presentó planes para su chatbot de IA. El lunes, la empresa de software de inteligencia artificial Sensetime y otras dos empresas siguieron con anuncios.
Una gran pregunta ya no es necesariamente qué proveedor publica realmente su software y cuándo, sino quién pasa primero el control de seguridad de las autoridades. A diferencia del chat GPT, incluso Ernie de Baidu solo está disponible para un número muy limitado de usuarios. Chat GPT en sí no está oficialmente disponible en China.
Por lo tanto, la nueva regulación, que entrará en vigencia el 10 de mayo luego de una consulta pública, podría ralentizar las alternativas de China para chatear GPT, al menos temporalmente. Como señaló Techcrunch, el éxito de Chat-GPT también se debe al hecho de que el desarrollador Open AI «funciona en un vacío normativo casi total».
Sin embargo, recién el martes el Departamento de Comercio de EE.UU. publicó una Llamado a consulta pública – también para regular la inteligencia artificial.