La inteligencia artificial (IA) ha entrado de lleno en las empresas: chatbots de atención al cliente, sistemas de selección de personal, herramientas de análisis predictivo, reconocimiento de imagen, asistentes virtuales… Pero usar IA sin gestionar los riesgos de privacidad es un error legal y estratégico. El Reglamento de IA de la UE (Reg. (UE) 2024/1689) y el RGPD se aplican a la vez a cualquier sistema de IA que trate datos personales, y las autoridades de control están intensificando la supervisión.
Reglamento de IA (UE) 2024/1689 — en vigor desde el 1 de agosto de 2024, con aplicación progresiva: prohibiciones (2 feb. 2025), modelos de uso general (2 ago. 2025), alto riesgo del anexo III (2 dic. 2027, tras el Reglamento (UE) 2026/1744)
LOPDGDD (LO 3/2018) — art. 22 y arts. 87-90, derechos digitales en el ámbito laboral
Fuente: Reg. (UE) 2024/1689, DOUE de 12 de julio de 2024; FEGP (abril de 2026); APDCAT
Riesgo 1: acceso excesivo a datos (vulneración del principio de minimización)
Muchas herramientas de IA procesan más información de la necesaria para la finalidad con la que se utilizan, lo que vulnera el principio de minimización de datos del art. 5.1.c RGPD. Cuando configuras un asistente de IA con acceso a toda la base de datos de clientes o al correo corporativo, estás permitiendo que el sistema acceda a datos que quizá no necesita para la tarea concreta.
- Aplica el principio de mínima exposición: la herramienta de IA solo debe acceder a los datos necesarios para la finalidad específica.
- Revisa la configuración de permisos de cada herramienta de IA que se usa en la empresa.
- Documenta en el Registro de Actividades (RAT) a qué datos accede cada sistema de IA.
Riesgo 2: falta de transparencia y decisiones automatizadas
El art. 22 RGPD prohíbe que las personas sean objeto de decisiones basadas únicamente en un tratamiento automatizado cuando produzcan efectos jurídicos o les afecten significativamente (por ejemplo, en la selección de personal, la concesión de crédito o la fijación de precios). Si un sistema de IA toma estas decisiones o influye en ellas de forma significativa, debes informar al afectado y garantizar la intervención humana. La dificultad es que, en muchos casos, ni los propios técnicos saben explicar cómo ha llegado el sistema a la decisión: es el problema de la caja negra (black box).
Riesgo 3: sesgos algorítmicos y discriminación
Los sistemas de IA aprenden de los datos con los que se entrenan. Si esos datos contienen sesgos (por ejemplo, un historial de selección de personal en el que se contrató mayoritariamente a hombres), el sistema reproducirá y amplificará esos sesgos. Esto puede derivar en discriminación por razón de género, edad, origen o cualquier otra característica protegida, con la consiguiente responsabilidad civil y sanciones. El art. 9 RGPD protege especialmente las categorías de datos sensibles que podrían revelar características protegidas (salud, origen étnico, creencias, etc.).
- Evalúa los conjuntos de datos de entrenamiento para detectar posibles sesgos.
- Para los sistemas de alto riesgo (selección de personal, crédito), el Reglamento de IA exige un sistema de gestión de riesgos continuo.
- Documenta las pruebas realizadas y sus resultados.
Riesgo 4: transferencias de datos no controladas
Cuando usas un servicio de IA en la nube, los datos que introduces (consultas, documentos, imágenes) pueden procesarse y almacenarse en servidores de terceros, potencialmente fuera del Espacio Económico Europeo. Cada vez que envías datos personales a un servicio de terceros necesitas un contrato de encargo del tratamiento (art. 28 RGPD) y, si los datos salen de la UE, garantías adecuadas para la transferencia internacional (arts. 44-49 RGPD).
Riesgo 5: almacenamiento y memoria sin gestionar
Algunos sistemas de IA acumulan datos personales en su memoria o en historiales de conversación sin una gestión adecuada: sin plazos de conservación claros, sin posibilidad de suprimirlos y sin informar al interesado. El principio de limitación del plazo de conservación (art. 5.1.e RGPD) exige que los datos no se conserven más tiempo del necesario para la finalidad.
- Configura la eliminación automática de historiales y memorias de conversación.
- Define plazos de conservación explícitos para cada sistema de IA.
- Incluye esos plazos en el RAT y en la política de privacidad.
Riesgo 6: deepfakes y suplantación de identidad
La IA generativa permite crear imágenes, audios y vídeos falsos de gran calidad (deepfakes). Desde el 2 de febrero de 2025, el Reglamento de IA prohíbe las prácticas de IA de riesgo inaceptable, entre ellas los sistemas de manipulación subliminal y determinados usos de identificación biométrica. Además, los contenidos generados por IA que puedan inducir a error sobre su autenticidad deben estar claramente identificados (art. 50 Reg. (UE) 2024/1689), una obligación que se aplica plenamente desde agosto de 2026.
Riesgo 7: autonomía del sistema sin supervisión humana
Un sistema de IA que actúa de forma autónoma (enviando correos, tomando decisiones o modificando datos) sin supervisión humana directa supone un riesgo elevado. Cuando los efectos de esas acciones automatizadas afectan a los derechos de las personas, la normativa exige mecanismos de control y la posibilidad de intervención humana. En los sistemas de alto riesgo del anexo III del Reglamento de IA, la supervisión humana es un requisito legal obligatorio (art. 14 Reg. (UE) 2024/1689).
Si además la herramienta actúa en tu nombre (envía correos, compra o modifica archivos), revisa también el decálogo de la AEPD sobre agentes de IA.
La APDCAT, pionera en Europa en la evaluación de impacto de la IA
La Autoridad Catalana de Protección de Datos (APDCAT) publicó en 2025 el primer modelo europeo de Evaluación de Impacto en los Derechos Fundamentales (EIDF) para sistemas de IA, en línea con el art. 27 del Reglamento de IA. Es una herramienta pionera disponible en catalán, castellano e inglés, fruto del grupo de trabajo «DPD en red» liderado por el experto Alessandro Mantelero. Las organizaciones obligadas que desplieguen sistemas de IA de alto riesgo deberán realizar esta evaluación cuando se apliquen las obligaciones de alto riesgo (2 de diciembre de 2027, según el Reglamento (UE) 2026/1744). Fuente: APDCAT (2025).
Medidas prácticas inmediatas
- Haz un inventario de todos los sistemas de IA que usa tu empresa, incluidos los servicios en la nube.
- Clasifícalos por nivel de riesgo (mínimo, limitado, alto, inaceptable) según el Reglamento de IA.
- Comprueba que tienes un contrato de encargo del tratamiento (art. 28 RGPD) con cada proveedor de IA.
- Actualiza la política de privacidad para incluir los tratamientos automatizados y la lógica aplicada.
- Para los sistemas de alto riesgo (RR. HH., crédito, biometría), haz una EIPD (art. 35 RGPD) antes de ponerlos en marcha.
- Forma a los equipos: quien usa la IA en la empresa debe entender los riesgos básicos de privacidad.
¿Necesitas una evaluación de tus sistemas de IA?
Te ayudamos a clasificar los riesgos, hacer las EIPD necesarias y garantizar el cumplimiento del RGPD y del Reglamento de IA.
Consulta gratuita →Fuentes oficiales y referencias
- Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo (Reglamento de IA), DOUE de 12 de julio de 2024 — arts. 5, 14, 27 y 50
- Reglamento (UE) 2016/679 (RGPD) — arts. 5.1.c, 5.1.e, 9, 13, 14, 22, 28, 35 y 44-49
- FEGP — Uso de la inteligencia artificial y protección de datos (abril de 2026): fegp.cat
- APDCAT — Modelo EIDF, primer modelo europeo de evaluación de impacto en los derechos fundamentales para la IA (2025): apdcat.gencat.cat
- AEPD — Adecuación al RGPD de tratamientos que incorporan inteligencia artificial
- EAPC Wiki — Inteligencia artificial y protección de datos; art. 22 RGPD, decisiones automatizadas