La Unión Europea pone freno a la IA: imponen nuevas exigencias de transparencia bajo advertencia de sanciones millonarias
La Unión Europea dio un paso decisivo en la regulación del entorno digital con la entrada en vigor de sus nuevas normas de transparencia para la inteligencia artificial (IA). El marco regulatorio obliga a los desarrolladores y plataformas a informar de forma clara a los ciudadanos cuando están interactuando con un sistema automatizado generado artificialmente.
Con esta medida, la recién creada Oficina de Inteligencia Artificial de la Comisión Europea asume competencias directas para auditar modelos generativos de alto riesgo y sancionar a las corporaciones tecnológicas que incumplan los estándares fijados por el bloque.
A continuación, se sintetizan los aspectos fundamentales de la nueva etapa:
Gigantes tecnológicos como OpenAI (ChatGPT), Google (Gemini) y Anthropic (Claude) deberán garantizar que sus interfaces adviertan de manera explícita que la interacción se realiza con una máquina. Esta exigencia aplica también a los algoritmos implementados en servicios públicos, atención al cliente y gestión de denuncias.
De igual manera, las herramientas empleadas por el reconocimiento de emociones o la categorización biométrica deberán alertar a las personas sometidas a dicho análisis, reservando excepciones únicamente para investigaciones penales autorizadas por la ley.
Asimismo, entra en vigor la obligación inmediata de etiquetar todo contenido generado con IA que difunda información de interés general como procesos electorales, asuntos de salud pública o debates judiciales, salvo que haya contado con la supervisión directa de una persona.
A partir del 2 de diciembre, los desarrolladores deberán incluir marcas de agua en textos, fotografías, audios y videos manipulados para permitir su fácil identificación.
La Comisión Europea cuenta con la facultad de exigir acceso a modelos de IA considerados de alto riesgo para evaluar potenciales amenazas a la seguridad.
Actualmente, Bruselas negocia con firmas como Anthropic los protocolos para que la Agencia de Ciberseguridad de la UE (ENISA) revise sus desarrollos sin poner en peligro infraestructuras ni información confidencial.
El régimen disciplinario contempla severas penalizaciones financieras para las empresas que violen las directivas. La Comisión Europea podrá imponer 15 millones de euros o de hasta el 3% de su facturación anual global (aplicando la cifra de mayor valor).
Para las Instituciones u organismos de la UE, sanciones de hasta 750.000 euros en caso de incumplir sus compromisos de transparencia institucional.