Los reguladores chinos han propuesto reglas restrictivas en torno a los modelos de IA como ChatGPT que se están construyendo en el país, que exigen la identificación del usuario y revisiones de seguridad, y que prohíben “cualquier contenido que subvierta el poder estatal, abogue por el derrocamiento del sistema socialista, incite a dividir el país o socave la unidad nacional”. .”
Las reglas llegan inmediatamente después de que las empresas tecnológicas chinas implementen sus versiones de modelos de lenguaje grande de propósito general, sistemas de inteligencia artificial versátiles que pueden conversar en lenguaje natural y llevar a cabo una cantidad sorprendente de tareas. Si bien la recepción de los modelos de SenseTime, Baidu y Alibaba durante el último mes sugiere que están algo por detrás de GPT-4, está claro que la industria allí está igualmente dedicada a desarrollar estas capacidades.
Desafortunadamente, poco después del debut del modelo Tongyi Qianwen de Alibaba, uno de los reguladores tecnológicos del país, la Administración del Ciberespacio de China, propuso restricciones que pueden sofocar las innovaciones relevantes, y las ambiciones de la industria china de IA junto con ellas.
El borrador de las reglas no está disponible en inglés (tomé la cita anterior de la traducción del Financial Times sindicada en Ars Technica), pero se puede ver en el sitio web del regulador aquí. La primera parte del artículo 4 prohíbe la IA generativa que subvierte el poder y la autoridad del gobierno o cuestiona la unidad nacional, junto con otras categorías de prohibiciones como la discriminación étnica, el terrorismo, etc.
Este tipo de cláusula de moralidad general es un lugar común en China, pero resulta ser el tipo de restricción que la IA generativa es incapaz de cumplir. Incluso el LLM más cuidadosamente entrenado y sintonizado parece ser capaz de ser engañado para decir todo tipo de cosas objetables. Si los censores chinos deciden que esto cumple con la ley o no, depende más o menos de ellos, algo que hace que la perspectiva de dedicar recursos serios a un proyecto de este tipo sea algo tensa.
Por supuesto, gran parte de la industria china existe bajo una daga suspendida similar, y aunque los reguladores de China son caprichosos, no son lo suficientemente tontos como para tirar los frutos de los años de apoyo del gobierno en I+D en el país. Es probable que, al igual que otras leyes que limitan el contenido allí, esto actúe más como una hoja de parra y una excusa férrea para que el gobierno ejerza influencia, no como una prohibición general.
En todo caso, son los otros requisitos los que pueden ralentizar el desarrollo de la IA.
El borrador de las reglas del CAC requiere, entre otras cosas, que los proveedores asuman responsabilidad por los datos de entrenamiento de los modelos, incluidas métricas difíciles de medir como la autenticidad, la objetividad y la diversidad; los usuarios de los servicios deben ser verificados como personas reales; la información personal y la reputación deben ser respetadas o los reguladores pueden considerar responsable al proveedor; el contenido generado debe etiquetarse como tal; y muchas otras restricciones.
Ciertamente, algunos de estos requisitos podrían considerarse prudentes o incluso críticos para una industria de IA responsable, pero la verdad es que muchos de ellos serían increíblemente difíciles, tal vez imposibles de implementar por parte de las empresas y los esfuerzos de I+D actuales. OpenAI ha logrado su éxito en parte porque está trabajando en un vacío regulatorio casi total. Si la ley exigiera que la empresa, por ejemplo, obtuviera el permiso de los titulares de los derechos del texto y los medios que utilizó para entrenar sus modelos, probablemente todavía estaría esperando para construir GPT-2.
Si una startup de IA o incluso una empresa establecida no puede operar con confianza en China por temor a violar estas reglas a gran escala, pueden decidir que es mejor gastar sus recursos en otro lugar. Tan rápido como es esta industria, tal revés puede ser muy difícil de recuperar.
El Financial Times citó al director ejecutivo de Alibaba, Daniel Zhang, diciendo que “dentro de 10 a 20 años, cuando miremos hacia atrás, nos daremos cuenta de que todos estábamos en la misma línea de partida”. Es casi seguro que eso es cierto, y desde una perspectiva similar bien podemos ver cómo la regulación estranguló la innovación, o tal vez cómo evitó un monopolio estancado o protegió a las personas del robo masivo bien organizado de sus datos.
El borrador de las reglas está abierto para comentarios (por parte de las partes en China, obviamente) durante el próximo mes, después de lo cual pueden o no ser revisados, y está programado que entren en vigencia a finales de este año.