\n<\/p>\n
Los reguladores europeos se encuentran en una encrucijada sobre c\u00f3mo se regular\u00e1 la IA (y, en \u00faltima instancia, c\u00f3mo se utilizar\u00e1 comercial y no comercialmente) en la regi\u00f3n, y hoy el grupo de consumidores m\u00e1s grande de la UE, BEUC, intervino con su propia posici\u00f3n: dejar de dar largas y \u201clanzar investigaciones urgentes sobre los riesgos de la IA generativa\u201d ahora, dijo.<\/p>\n
\u201cLa IA generativa como ChatGPT ha abierto todo tipo de posibilidades para los consumidores, pero existen serias preocupaciones sobre c\u00f3mo estos sistemas pueden enga\u00f1ar, manipular y da\u00f1ar a las personas. Tambi\u00e9n se pueden usar para difundir desinformaci\u00f3n, perpetuar los sesgos existentes que amplifican la discriminaci\u00f3n o para cometer fraude\u201d, dijo Ursula Pachl, directora general adjunta de BEUC, en un comunicado. \u201cHacemos un llamado a las autoridades de seguridad, datos y protecci\u00f3n al consumidor para que inicien investigaciones ahora y no esperen sin hacer nada a que haya ocurrido todo tipo de da\u00f1o al consumidor antes de tomar medidas. Estas leyes se aplican a todos los productos y servicios, ya sea que funcionen con IA o no, y las autoridades deben hacerlas cumplir\u201d.<\/p>\n
La BEUC, que representa a las organizaciones de consumidores en 13 pa\u00edses de la UE, emiti\u00f3 el llamado coincidiendo con un informe publicado hoy por uno de sus miembros, Forbrukerr\u00e5det en Noruega.<\/p>\n
Ese informe noruego es inequ\u00edvoco en su posici\u00f3n: la IA plantea da\u00f1os al consumidor (el t\u00edtulo del informe lo dice todo: \u00abFantasma en la m\u00e1quina: abordar los da\u00f1os al consumidor de la IA generativa\u00bb) y plantea numerosos problemas.<\/p>\n
Si bien algunos tecn\u00f3logos han hecho sonar las alarmas en torno a la IA como instrumento de extinci\u00f3n humana, el debate en Europa se ha centrado m\u00e1s directamente en torno a los impactos de la IA en \u00e1reas como el acceso equitativo a los servicios, la desinformaci\u00f3n y la competencia.<\/p>\n
Destaca, por ejemplo, c\u00f3mo \u00abciertos desarrolladores de IA, incluidas las grandes empresas tecnol\u00f3gicas\u00bb han cerrado los sistemas del escrutinio externo, lo que dificulta ver c\u00f3mo se recopilan los datos o c\u00f3mo funcionan los algoritmos; el hecho de que algunos sistemas producen informaci\u00f3n incorrecta tan alegremente como lo hacen con resultados correctos, sin que los usuarios a menudo se den cuenta de cu\u00e1l podr\u00eda ser; IA dise\u00f1ada para enga\u00f1ar o manipular a los usuarios; el problema del sesgo basado en la informaci\u00f3n que se alimenta a un modelo de IA en particular; y seguridad, espec\u00edficamente c\u00f3mo la IA podr\u00eda armarse para estafar a las personas o violar los sistemas.<\/p>\n
Aunque el lanzamiento de ChatGPT de OpenAI definitivamente ha colocado a la IA y el potencial de su alcance en la conciencia p\u00fablica, el enfoque de la UE sobre el impacto de la IA no es nuevo. Declar\u00f3 debatir cuestiones de \u00abriesgo\u00bb en 2020, aunque esos esfuerzos iniciales se presentaron como base para aumentar la \u00abconfianza\u00bb en la tecnolog\u00eda.<\/p>\n
Para 2021, hablaba m\u00e1s espec\u00edficamente de aplicaciones de IA de \u00abalto riesgo\u00bb, y unas 300 organizaciones se unieron para opinar y abogar por prohibir por completo algunas formas de IA.<\/p>\n
Los sentimientos se han vuelto m\u00e1s cr\u00edticos con el tiempo, a medida que la UE trabaja a trav\u00e9s de sus leyes regionales. La semana pasada, la jefa de competencia de la UE, Margarethe Vestager, habl\u00f3 espec\u00edficamente de c\u00f3mo la IA presenta riesgos de sesgo cuando se aplica en \u00e1reas cr\u00edticas como servicios financieros como hipotecas y otras solicitudes de pr\u00e9stamos.<\/p>\n
Sus comentarios se produjeron justo despu\u00e9s de que la UE aprobara su Ley oficial de IA, que divide provisionalmente las aplicaciones de IA en categor\u00edas como riesgo inaceptable, alto y limitado, cubriendo una amplia gama de par\u00e1metros para determinar en qu\u00e9 categor\u00eda se encuentran.<\/p>\n
La Ley de IA, cuando se implemente, ser\u00e1 el primer intento mundial de tratar de codificar alg\u00fan tipo de comprensi\u00f3n y cumplimiento legal sobre c\u00f3mo se usa la IA comercial y no comercial.<\/p>\n
El pr\u00f3ximo paso en el proceso es que la UE se comprometa con los pa\u00edses individuales de la UE para determinar qu\u00e9 forma final tomar\u00e1 la ley, espec\u00edficamente para identificar qu\u00e9 (y qui\u00e9n) encajar\u00eda en sus categor\u00edas y qu\u00e9 no. La pregunta ser\u00e1 qu\u00e9 tan f\u00e1cilmente los diferentes pa\u00edses se ponen de acuerdo. La UE quiere finalizar este proceso para fines de este a\u00f1o, dijo.<\/p>\n
\u201cEs crucial que la UE haga que esta ley sea lo m\u00e1s estricta posible para proteger a los consumidores\u201d, dijo Pachl en su declaraci\u00f3n. \u201cTodos los sistemas de IA, incluida la IA generativa, necesitan el escrutinio p\u00fablico, y las autoridades p\u00fablicas deben reafirmar el control sobre ellos. Los legisladores deben exigir que el resultado de cualquier sistema generativo de IA sea seguro, justo y transparente para los consumidores\u201d.<\/span><\/p>\n La BEUC es conocida por intervenir en momentos cr\u00edticos y por hacer llamados influyentes que reflejan la direcci\u00f3n que finalmente toman los reguladores. Fue una de las primeras voces, por ejemplo, en contra de Google en las investigaciones antimonopolio a largo plazo contra el gigante de las b\u00fasquedas y los dispositivos m\u00f3viles, interviniendo a\u00f1os antes de que se tomaran medidas contra la empresa. Sin embargo, ese ejemplo subraya algo m\u00e1s: el debate sobre la IA y sus impactos, y el papel que podr\u00eda desempe\u00f1ar la regulaci\u00f3n en eso, probablemente ser\u00e1 largo.<\/p>\n<\/p><\/div>\n