La inteligencia artificial ha dejado de ser una tecnología reservada a especialistas y grandes compañías para convertirse en una herramienta presente en prácticamente todos los ámbitos de nuestra vida cotidiana y profesional.
Empresas, administraciones públicas, despachos profesionales, medios de comunicación y particulares utilizan ya sistemas capaces de generar textos, imágenes, vídeos y voces, analizar grandes cantidades de información o automatizar determinadas decisiones.
Ante esta rápida expansión, la Unión Europea estableció un marco jurídico específico mediante el Reglamento (UE) 2024/1689, conocido como Ley Europea de Inteligencia Artificial o AI Act, que entró en vigor el 1 de agosto de 2024 con un calendario de aplicación gradual.
El 2 de agosto de 2026 constituye una fecha especialmente relevante, al resultar aplicable una parte sustancial de las obligaciones previstas en el Reglamento. No significa que la Ley de IA comience ahora, puesto que determinadas disposiciones ya estaban vigentes, sino que Europa entra en una fase mucho más avanzada de aplicación efectiva, convirtiendo la inteligencia artificial en una verdadera cuestión de cumplimiento normativo, responsabilidad y gestión del riesgo.
La Ley Europea de IA no prohíbe la inteligencia artificial ni somete todos sus usos a idénticas obligaciones. El legislador europeo establece un sistema basado, fundamentalmente, en el riesgo que cada aplicación puede representar para la seguridad, la salud y los derechos fundamentales.
De manera general, distingue entre prácticas prohibidas, sistemas de alto riesgo, sistemas sometidos a determinadas obligaciones de transparencia y aplicaciones de riesgo limitado o mínimo.
La lógica resulta clara: cuanto mayor sea la capacidad de una inteligencia artificial para afectar a los derechos de una persona, mayores serán las obligaciones exigibles a quienes la desarrollan, comercializan o utilizan profesionalmente. No puede recibir el mismo tratamiento jurídico una herramienta destinada a mejorar una fotografía que un sistema utilizado para seleccionar trabajadores o adoptar decisiones relevantes sobre una persona.
Parte de las prohibiciones previstas por el Reglamento comenzaron a aplicarse el 2 de febrero de 2025.
Entre ellas se encuentran determinados usos manipuladores o engañosos de la inteligencia artificial, ciertas formas de explotación de vulnerabilidades, determinados sistemas de puntuación social y algunos usos especialmente sensibles vinculados a la identificación biométrica o al reconocimiento de emociones, sin perjuicio de las excepciones contempladas por el propio Reglamento.
La norma europea, por tanto, no pretende únicamente ordenar el mercado tecnológico, sino establecer límites jurídicos respecto de aquello que puede hacerse con inteligencia artificial cuando están en juego derechos fundamentales.
Uno de los aspectos que tendrá mayor incidencia directa sobre los ciudadanos son las obligaciones de transparencia.
El artículo 50 del Reglamento establece obligaciones destinadas a impedir que una persona pueda creer razonablemente que está interactuando con otro ser humano cuando en realidad lo hace con un sistema de inteligencia artificial. Así, cuando determinadas empresas utilicen 'chatbots' para relacionarse directamente con consumidores o usuarios, deberá informarse de esta circunstancia cuando resulte exigible.
La finalidad es evitar el engaño o la confusión: el ciudadano debe poder conocer cuándo se relaciona con una máquina.
Esta misma preocupación se extiende a determinados contenidos sintéticos. La extraordinaria evolución de los sistemas capaces de generar imágenes, audios y vídeos realistas plantea problemas evidentes de suplantación de identidad, desinformación y manipulación audiovisual.
Especial relevancia tienen los denominados 'deepfakes', mediante los cuales puede conseguirse que una persona aparentemente diga algo que nunca dijo, utilizar artificialmente su voz o generar imágenes de acontecimientos inexistentes.
El Reglamento establece obligaciones de transparencia para determinados contenidos de esta naturaleza, aunque contempla particularidades cuando formen parte de obras evidentemente artísticas, creativas, satíricas o ficticias. Encontrar el equilibrio entre la protección frente al engaño y derechos como la libertad artística y de expresión será, previsiblemente, una de las cuestiones que mayores dificultades interpretativas planteará.
Especialmente sensibles son también los sistemas capaces de inferir emociones o utilizar información biométrica. Algunos usos del reconocimiento de emociones se encuentran directamente prohibidos en determinados ámbitos, como el laboral o educativo, salvo las excepciones legalmente previstas.
Cuando una inteligencia artificial no se limita a generar contenido, sino que comienza a clasificar, interpretar o evaluar características de las personas, aumenta considerablemente su potencial afectación sobre los derechos fundamentales.
Esta misma lógica explica la regulación de los denominados sistemas de IA de alto riesgo, probablemente uno de los elementos jurídicamente más relevantes del Reglamento.
Bajo determinadas condiciones, pueden encontrarse dentro de esta categoría aplicaciones relacionadas con el empleo y la gestión de trabajadores, la educación, determinados servicios esenciales, la aplicación de la ley, la migración o la administración de justicia.
En estos casos, las obligaciones son considerablemente mayores y adquieren especial importancia la gestión del riesgo, la documentación técnica, la calidad de los datos, la trazabilidad, la supervisión humana y la seguridad.
No basta, por tanto, con que una inteligencia artificial funcione correctamente desde un punto de vista tecnológico: deberá utilizarse dentro de un marco compatible con los derechos fundamentales y las garantías exigidas por el ordenamiento jurídico.
Existe una idea equivocada que conviene corregir: pensar que la Ley Europea de IA afecta exclusivamente a las grandes compañías tecnológicas que desarrollan estos sistemas.
El Reglamento diferencia entre distintas figuras, entre ellas proveedores y responsables del despliegue, atribuyendo obligaciones diferentes en función de la posición que ocupen.
Una empresa que incorpore inteligencia artificial a sus procesos internos o a sus relaciones con clientes y trabajadores deberá, por tanto, determinar qué posición jurídica ocupa y cuáles son sus obligaciones.
El cumplimiento normativo en materia de inteligencia artificial deja así de ser exclusivamente una cuestión tecnológica para afectar conjuntamente a departamentos jurídicos, laborales, protección de datos, seguridad y dirección empresarial.
La utilización de inteligencia artificial tampoco permite trasladar automáticamente la responsabilidad a la máquina. La IA carece de personalidad jurídica propia en el sentido tradicional y funciona dentro de estructuras empresariales, profesionales o administrativas, que continúan sometidas al Derecho.
Cuando un sistema automatizado intervenga en una actuación que produzca un daño será necesario determinar, entre otras cuestiones, quién tenía la obligación de supervisarlo, quién adoptó o ejecutó la decisión, cómo funcionaba el sistema, qué información se encontraba disponible y si se actuó con la diligencia jurídicamente exigible.
Además, el AI Act no opera de manera aislada. Dependiendo del supuesto, deberán tenerse en consideración otras normas sobre protección de datos, consumidores, responsabilidad por productos, derechos fundamentales o responsabilidad contractual y extracontractual.
La inteligencia artificial no constituye, por tanto, un territorio ajeno al Derecho.
La aparición de modelos capaces de desarrollar multitud de tareas obligó al legislador europeo a establecer reglas específicas para los denominados modelos de IA de propósito general.
Estos sistemas pueden generar textos, resumir documentos, programar, producir imágenes, analizar información o integrarse, posteriormente, en numerosas aplicaciones.
El Reglamento establece determinadas obligaciones para sus proveedores en materia de documentación, información, transparencia y políticas relacionadas con el cumplimiento de la legislación sobre derechos de autor. Cuando estos modelos presentan el denominado riesgo sistémico, las exigencias son superiores.
Este es precisamente uno de los ámbitos donde se concentra el debate entre la regulación europea y una industria tecnológica que evoluciona a extraordinaria velocidad.
La Ley Europea de IA representa uno de los intentos regulatorios más ambiciosos realizados hasta ahora en este ámbito.
Sus defensores consideran necesario garantizar que el desarrollo tecnológico respete los derechos fundamentales, proporcione seguridad jurídica y genere confianza. Desde esta perspectiva, unas reglas claras pueden incluso constituir una ventaja competitiva y facilitar la utilización de la inteligencia artificial en sectores especialmente sensibles.
Frente a ello, determinados sectores tecnológicos advierten de que una regulación excesivamente compleja puede incrementar los costes de cumplimiento, dificultar el desarrollo de nuevos productos y perjudicar la competitividad europea frente a otras potencias tecnológicas.
El verdadero debate no consiste, por tanto, en determinar si la inteligencia artificial debe regularse, sino en establecer hasta dónde debe llegar esa regulación sin impedir el desarrollo tecnológico que pretende ordenar.
El Reglamento contempla sanciones importantes, cuya cuantía dependerá de la infracción cometida y de las circunstancias concurrentes.
Para determinadas infracciones especialmente graves relacionadas con prácticas prohibidas, las sanciones pueden alcanzar los 35 millones de euros o, tratándose de empresas, hasta el 7% de su volumen de negocios mundial total anual del ejercicio financiero anterior cuando este porcentaje sea superior.
Otras infracciones están sometidas a límites diferentes, incluidos 15 millones de euros o el 3% del volumen de negocios mundial anual en determinados supuestos.
No existe, por tanto, una multa única por incumplir la Ley Europea de IA. La responsabilidad dependerá de la obligación infringida, del sujeto responsable y de las circunstancias concretas
El Reglamento distingue entre la utilización profesional o empresarial de la inteligencia artificial y determinadas actividades puramente personales.
Las personas físicas que utilizan sistemas de IA en el curso de una actividad estrictamente personal y no profesional pueden quedar fuera del ámbito de aplicación del Reglamento, pero ello no significa que puedan actuar al margen del resto del ordenamiento jurídico.
Una imagen manipulada o un 'deepfake' podría plantear, dependiendo de las circunstancias, problemas relacionados con el derecho al honor, la propia imagen, la intimidad, la protección de datos, la propiedad intelectual u otras responsabilidades.
Por ello, quedar fuera del ámbito del AI Act no equivale a quedar exento de responsabilidad jurídica.
Las obligaciones de transparencia constituyen un instrumento importante, pero el etiquetado de un contenido generado artificialmente no solucionará por sí solo problemas como la desinformación o la manipulación.
A ello se añade una dificultad esencial: la tecnología evoluciona mucho más rápidamente que los procedimientos necesarios para aprobar, interpretar y aplicar las normas.
La Oficina Europea de Inteligencia Artificial está llamada a desempeñar un papel relevante en la aplicación y supervisión del nuevo marco, particularmente respecto de los modelos de IA de propósito general. Su capacidad para exigir documentación, evaluar riesgos y hacer cumplir las obligaciones frente a grandes compañías tecnológicas internacionales será una de las pruebas de la eficacia real de la regulación.
Las empresas deberán identificar qué herramientas utilizan, con qué finalidad, qué riesgos generan, quién asume su supervisión y qué documentación debe conservarse. Los desarrolladores tendrán que adaptar sus sistemas, las administraciones adquirir capacidad técnica suficiente y los tribunales interpretar conceptos jurídicos todavía nuevos, construyendo progresivamente una jurisprudencia que determine el verdadero alcance de la norma.
Explora los retos y obligaciones de la nueva Ley Europea de Inteligencia Artificial.
La Ley Europea de Inteligencia Artificial parte de una premisa fundamental: la innovación tecnológica no puede desarrollarse al margen de los derechos de las personas.
Conseguir el equilibrio adecuado no será sencillo. Una regulación insuficiente podría dejar sin protección efectiva a ciudadanos y empresas frente a sistemas capaces de manipular información, automatizar decisiones o provocar daños; una regulación excesivamente rígida podría dificultar la innovación y situar a las empresas europeas en una posición competitiva desfavorable.
Después de años hablando de la inteligencia artificial como una tecnología del futuro, Europa entra ahora en una etapa diferente: determinar quién responde cuando la inteligencia artificial se equivoca, qué obligaciones existen cuando se utiliza profesionalmente y qué límites deben establecerse cuando una tecnología tiene capacidad para afectar directamente a los derechos de las personas.
Javier Guerrero Guerrero
Guerrero & Asociados, Abogados
