La intel·ligència artificial (IA) ha entrat de ple a les empreses: chatbots d'atenció al client, sistemes de selecció de personal, eines d'anàlisi predictiva, reconeixement d'imatge, assistents virtuals... Però usar IA sense gestionar els riscos de privadesa és un error legal i estratègic. El Reglament d'IA de la UE (Reg. (UE) 2024/1689) i el RGPD actuen simultàniament sobre qualsevol sistema d'IA que tracti dades personals, i les autoritats de control estan intensificant la supervisió.
Reglament d'IA (UE) 2024/1689 — en vigor des de l'1 d'agost de 2024, aplicació progressiva: prohibicions (2 feb. 2025), GPAI (2 ago. 2025), alt risc annex III (2 des. 2027, després del Reglament (UE) 2026/1744)
LOPDGDD (LO 3/2018) — art. 22 i arts. 87–90 drets digitals en l'àmbit laboral
Font: Reg. (UE) 2024/1689, DOUE 12 juliol 2024; FEGP (abril 2026); APDCAT
Risc 1: Accés excessiu a dades (violació del principi de minimització)
Moltes eines d'IA processen més informació de la necessària per a la finalitat per a la qual s'utilitzen, vulnerant el principi de minimització de dades de l'art. 5.1.c RGPD. Quan configures un assistent d'IA amb accés a tota la base de dades de clients o a correus corporatius, estàs permetent que el sistema accedeixi a dades que potser no necessita per a la tasca concreta.
- Aplica el principi de mínima exposició: l'eina d'IA ha d'accedir únicament a les dades necessàries per a la finalitat específica.
- Revisa les configuracions de permisos de cada eina d'IA que uses a l'empresa.
- Documenta al Registre d'Activitats (RAT) quines dades accedeix cada sistema d'IA.
Risc 2: Falta de transparència i decisions automatitzades
L'art. 22 RGPD prohibeix que les persones siguin objecte de decisions basades únicament en tractament automatitzat quan tinguin efectes jurídics o significatius (com la selecció de personal, la concessió de crèdit o la determinació de preus). Si un sistema d'IA pren o influeix significativament en aquestes decisions, has d'informar l'afectat i garantir la intervenció humana. La dificultat és que, en molts casos, ni els propis tècnics saben explicar com el sistema ha arribat a la decisió: és el problema de la caixa negra (black box).
Risc 3: Biaixos algorítmics i discriminació
Els sistemes d'IA aprenen dels dades amb que s'entrenen. Si les dades d'entrenament contenen biaixos (per exemple, un historial de selecció de personal on majoritàriament es van contractar homes), el sistema reproduirà i amplificarà aquests biaixos. Això pot derivar en discriminació per raó de gènere, edat, origen o qualsevol altra característica protegida, generant responsabilitat civil i sancions. L'art. 9 RGPD protegeix especialment les categories de dades sensibles que podrien revelar característiques protegides (salut, origen ètnic, creences, etc.).
- Avalua els conjunts de dades d'entrenament per detectar possibles biaixos.
- Per a sistemes d'alt risc (selecció de personal, crèdit), l'Annex III del Reg. (UE) 2024/1689 exigeix un sistema de gestió de riscos continu.
- Documenta les proves realitzades i el seu resultat.
Risc 4: Transferències de dades no controlades
Quan uses un servei d'IA al núvol, les dades que hi introdueixes (consultes, documents, imatges) poden ser processades i emmagatzemades en servidors de tercers, potencialment fora de l'Espai Econòmic Europeu. Cada cop que envies dades personals a un servei de tercers, cal tenir un contracte d'encàrrec de tractament (art. 28 RGPD) i, si les dades surten de la UE, garanties adequades per a la transferència internacional (arts. 44–49 RGPD).
Risc 5: Emmagatzematge i memòria no gestionada
Alguns sistemes d'IA acumulen dades personals en memòria o historials de conversa sense una gestió adequada: sense terminis de conservació clars, sense possibilitat de suprimir-les, sense informació a l'interessat. El principi de limitació de la conservació (art. 5.1.e RGPD) exigeix que les dades no es conservin més temps del necessari per a la finalitat.
- Configura l'eliminació automàtica d'historials i memòries de conversa.
- Defineix terminis de conservació explícits per a cada sistema d'IA.
- Inclou els terminis al RAT i a la política de privadesa.
Risc 6: Deepfakes i suplantació d'identitat
La IA generativa permet crear imatges, àudios i vídeos falsificats d'alta qualitat (deepfakes). Des del 2 de febrer de 2025, el Reglament d'IA prohibeix les pràctiques d'IA de risc inacceptable que inclouen sistemes de manipulació subliminal i d'identificació biomètrica massiva. A més, els continguts generats per IA que puguin enganyar sobre la seva autenticitat han d'estar clarament identificats (art. 50 Reg. (UE) 2024/1689), obligació aplicable des del 2 d'agost de 2026.
Risc 7: Autonomia del sistema sense supervisió humana
Un sistema d'IA que actua de forma autònoma (enviant correus, prenent decisions, modificant dades) sense supervisió humana directa és un risc elevat. Quan els efectes de les accions automatitzades afecten drets de les persones, la normativa exigeix mecanismes de control i la possibilitat d'intervenció humana. En els sistemes d'alt risc de l'Annex III del Reglament d'IA, la supervisió humana és un requisit legal obligatori (art. 14 Reg. (UE) 2024/1689).
Si a més l'eina actua en nom teu (envia correus, compra o modifica fitxers), revisa també el decàleg de l'AEPD sobre agents d'IA.
L'APDCAT, pionera a Europa en avaluació d'impacte per IA
L'Autoritat Catalana de Protecció de Dades (APDCAT) ha publicat el 2025 el primer model europeu d'Avaluació d'Impacte als Drets Fonamentals (AIDF) per a sistemes d'IA, en línia amb l'art. 27 del Reglament d'IA. És una eina pionera disponible en català, castellà i anglès, fruit del grup de treball "DPD en xarxa" liderat per l'expert Alessandro Mantelero. Les organitzacions que despleguen sistemes d'IA d'alt risc hauran de fer aquesta avaluació quan s'apliquin les obligacions d'alt risc (2 de desembre de 2027, segons el Reglament (UE) 2026/1744). Font: APDCAT (2025).
Mesures pràctiques immediates
- Inventaria tots els sistemes d'IA que usa la teva empresa, inclosos els serveis al núvol.
- Classifica'ls per nivell de risc (mínim, limitat, alt, inacceptable) segons el Reglament d'IA.
- Comprova que tens contractes d'encàrrec de tractament (art. 28 RGPD) amb cada proveïdor d'IA.
- Actualitza la política de privadesa per incloure els tractaments automatitzats i la lògica aplicada.
- Per als sistemes d'alt risc (RRHH, crèdit, biometria): fes una EIPD (art. 35 RGPD) abans de posar-los en funcionament.
- Forma els equips: qui usa la IA a l'empresa ha d'entendre els riscos bàsics de privadesa.
Necessites una avaluació dels teus sistemes d'IA?
T'ajudem a classificar els riscos, fer les EIPD necessàries i garantir el compliment del RGPD i del Reglament d'IA.
Consulta gratuïta →Fonts oficials i referències
- Reglament (UE) 2024/1689 del Parlament Europeu i del Consell (AI Act), DOUE 12 juliol 2024 — arts. 5, 14, 22, 27, 50
- Reglament (UE) 2016/679 (RGPD) — arts. 5.1.c, 5.1.e, 9, 13, 14, 22, 28, 35, 44–49
- FEGP — Ús de la Intel·ligència Artificial i Protecció de Dades (abril 2026): fegp.cat
- APDCAT — Model AIDF, primer model europeu d'Avaluació d'Impacte als Drets Fonamentals per a IA (2025): apdcat.gencat.cat
- AEPD — Guia d'adequació al RGPD de tractaments que incorporen IA (2024)
- EAPC Wiki — Intel·ligència Artificial i Protecció de Dades, art. 22 RGPD decisions automatitzades