Intel·ligència artificial · Protecció de dades · AEPD

Agents d'IA i protecció de dades: el decàleg de l'AEPD explicat per a empreses

·Mainpro Consultors·7 min

Els assistents d'intel·ligència artificial ja no es limiten a respondre preguntes: cada vegada més, actuen en nom nostre. Gestionen l'agenda, responen correus, emplenen formularis, compren o reserven. Són els anomenats agents d'IA. Per ajudar a fer-los servir sense perdre el control de les dades personals, l'Agència Espanyola de Protecció de Dades (AEPD) va publicar el 27 d'octubre de 2026 el document «Asistentes y agentes de IA: Decálogo para personas usuarias», amb el lema «Que la IA actúe por ti, no sin ti».

Tot i que està pensat per a persones usuàries, les seves recomanacions són directament aplicables a les empreses i entitats que ja fan servir aquestes eines. L'AEPD ho resumeix així: quan l'assistent només respon, un error és una resposta equivocada. Quan actua, l'error pot ser un correu enviat, un fitxer compartit o un contracte acceptat.

Les cinc preguntes abans de delegar
1. Què pot veure?
2. Què pot recordar?
3. Què pot fer en nom meu?
4. On envia les meves dades?
5. Afecta algú més?

El decàleg, en deu idees

  1. Tria bé el proveïdor. Un servei identificat, que permeti exercir els drets a la UE i que expliqui on van les dades. Millor si processa al mateix dispositiu i permet veure i desfer el que ha fet.
  2. Permisos, no xecs en blanc. Accés mínim: només lectura quan n'hi hagi prou, només la carpeta o el calendari necessaris. Revisa periòdicament què tens connectat.
  3. El mínim i res de delicat. Com més sensibles són les dades (salut, economia, identitat, contrasenyes), menys accés i autonomia. Contrasenyes i targetes, mai a la conversa.
  4. Controla la memòria. La memòria construeix un perfil. Fes servir els controls del servei per esborrar-la; demanar-l'hi al xat no n'hi ha prou. Per a la resta de dades que guarda el proveïdor, exerceix els drets d'accés i supressió.
  5. Digues-li també què no ha de fer: a qui pot escriure, quant pot gastar i quan s'ha d'aturar. Comença per tasques petites i reversibles.
  6. Confirma el que és important. Activa la confirmació prèvia per enviar, pagar, contractar o esborrar, i evita els permisos de «permetre sempre». Pots respondre del que hagis permès fer a l'agent.
  7. Desconfia del que llegeix. Un correu, una web o un PDF poden amagar instruccions per enganyar l'agent (l'anomenada injecció d'instruccions). La millor defensa és limitar el que pot fer si l'enganyen.
  8. Protegeix les dades dels altres. Al correu, a l'agenda o als contactes hi ha dades de tercers, com clients o pacients, que no han triat relacionar-se amb aquesta IA. Que tu ho autoritzis no et dona via lliure.
  9. Protegeix el compte i el dispositiu: contrasenya única, verificació en dos passos i només complements i connectors d'origen conegut.
  10. Supervisa'l i aprèn a aturar-lo. Revisa l'historial, vigila les tasques programades i tingues preparat com aturar-lo i retirar-li els accessos si alguna cosa falla.

Si el fas servir a la feina

El decàleg dedica un apartat específic a l'àmbit professional. L'AEPD recomana fer servir només els assistents autoritzats per l'organització, connectar únicament els comptes i les dades autoritzats i no vincular mai el correu o els documents de feina a un compte personal d'IA. Les dades de clients, pacients, alumnes o ciutadans continuen sent responsabilitat de l'organització, i davant el dubte cal consultar el delegat de protecció de dades (DPD).

La responsabilitat no és només de l'usuari
L'AEPD també assenyala què s'ha d'esperar del proveïdor: permisos comprensibles que distingeixin consultar d'actuar, confirmació configurable per a les accions de més impacte, historial d'actuacions, una manera immediata d'aturar l'agent, gestió i esborrat de la memòria i informació clara sobre si les dades s'utilitzen per entrenar la IA. Si un servei no ofereix aquests controls, cal tenir-ho en compte a l'hora de triar-lo.

Què hauria de fer la teva organització

Traslladat a una empresa o entitat, el decàleg es converteix en una llista de tasques de governança de la IA:

  1. Política d'ús de la IA que digui quins assistents i agents estan autoritzats, per a quines tasques i amb quines dades.
  2. Inventari d'agents, connectors i extensions en ús, amb els permisos concedits a cadascun.
  3. Contracte d'encàrrec del tractament amb el proveïdor (art. 28 RGPD) i revisió de les transferències internacionals (arts. 44-49 RGPD).
  4. Registre d'activitats i anàlisi de riscos, amb una avaluació d'impacte (AIPD, art. 35 RGPD) quan el tractament pugui suposar un risc alt.
  5. Supervisió humana i confirmació prèvia per a les accions amb efectes jurídics, econòmics o sobre tercers.
  6. Formació del personal. El Reglament d'IA ja exigeix mesures d'alfabetització en IA (art. 4).
  7. Pla de resposta davant d'incidents. Si un agent envia o exposa dades personals per error, pot ser una bretxa de seguretat que calgui notificar a l'AEPD en 72 hores (art. 33 RGPD).

El teu equip ja fa servir assistents o agents d'IA?

T'ajudem a redactar la política d'ús, revisar els proveïdors i formar el personal perquè la IA treballi per a la teva organització sense posar en risc les dades.

Servei d'adaptació al Reglament d'IA →

Fonts

  • AEPD — «Asistentes y agentes de IA: Decálogo para personas usuarias» (octubre de 2026): aepd.es
  • AEPD — Nota de premsa de 27 d'octubre de 2026: aepd.es
  • CMS — Què significa per a les organitzacions el decàleg de l'AEPD (4/11/2026): cms.law
  • Reglament (UE) 2016/679 (RGPD), arts. 28, 33, 35 i 44-49; Reglament (UE) 2024/1689 (Reglament d'IA), art. 4