Entran en vigor las nuevas normas de transparencia para la inteligencia artificial en la Unión Europea 

Las disposiciones forman parte de la implementación escalonada de la Ley de Inteligencia Artificial (AI Act), considerada la primera regulación integral del mundo sobre esta tecnología. Desde este domingo, además, la Oficina de Inteligencia Artificial de la Comisión Europea asume nuevas facultades para supervisar los modelos de IA generativa e imponer sanciones económicas a quienes incumplan las obligaciones establecidas.

Entre las empresas alcanzadas por las nuevas exigencias figuran desarrolladores de sistemas como ChatGPT, de OpenAI; Gemini, de Google; y Claude, de Anthropic. La normativa también aplica a herramientas de IA utilizadas por administraciones públicas, empresas privadas para la atención al cliente y sistemas destinados, por ejemplo, a gestionar denuncias de fraude.

Asimismo, los sistemas que empleen inteligencia artificial para el reconocimiento de emociones o la categorización biométrica deberán informar a las personas cuando estén siendo analizadas mediante estas tecnologías, salvo en los casos contemplados por la legislación para prevenir o investigar delitos.

Marcas de agua y restricciones desde diciembre

La regulación continuará ampliándose a partir del 2 de diciembre, cuando entrará en vigor la obligación de incorporar marcas de agua u otros mecanismos de identificación en textos, imágenes, videos y audios manipulados mediante inteligencia artificial para facilitar que el público reconozca su origen.

Sin embargo, la responsabilidad legal de identificar ese contenido recaerá principalmente en los usuarios que lo publiquen y no en las plataformas o herramientas de IA, como ChatGPT, Gemini, Claude o redes sociales que integran funciones de inteligencia artificial.

La normativa excluye de esta obligación las obras de ficción y los contenidos de carácter artístico o satírico.

No obstante, existe una excepción inmediata para los contenidos relacionados con asuntos de interés público, como procesos electorales, decisiones judiciales, salud pública u otros temas susceptibles de generar debate social. En esos casos, el contenido generado con IA deberá identificarse desde ahora, salvo que haya sido supervisado previamente por una persona.

A partir de diciembre también quedará prohibida la creación de imágenes sexualizadas mediante inteligencia artificial sin el consentimiento de las personas afectadas. La medida fue acordada tras la polémica provocada por imágenes generadas con Grok, la herramienta de IA integrada en la red social X.

Bruselas refuerza la supervisión de modelos avanzados

Con las nuevas competencias, la Oficina de Inteligencia Artificial de la Comisión Europea podrá solicitar acceso a modelos considerados de alto riesgo para evaluar su impacto y posibles amenazas.

Uno de los casos bajo análisis es Mythos, desarrollado por Anthropic. Bruselas mantiene negociaciones con la empresa para que la Agencia de Ciberseguridad de la Unión Europea (ENISA) pueda evaluar el sistema sin comprometer infraestructuras críticas ni exponer información sensible.

No obstante, persisten interrogantes sobre la capacidad real de la Comisión para acceder a este tipo de modelos, especialmente si Estados Unidos vuelve a imponer restricciones de acceso a ciudadanos extranjeros, como ocurrió temporalmente a mediados de junio.

Multas de hasta el 3% de la facturación global

Las empresas que incumplan las nuevas obligaciones podrán enfrentar multas de hasta 15 millones de euros o el 3% de su facturación anual global, aplicándose la cantidad que resulte mayor.

En el caso de instituciones y agencias de la propia Unión Europea, las sanciones podrán alcanzar los 750,000 euros por incumplir los requisitos de transparencia establecidos por la nueva legislación.