La dada: desplegament massiu, governança gairebé inexistent
- 97% dels executius diu que la seva empresa va desplegar agents d'IA l'últim any.
- 52% dels empleats ja fa servir agents d'IA en el seu treball diari.
- 91% de les organitzacions ja fa servir agents d'IA en algun procés.
- Però només 10% té una estratègia ben desenvolupada per gestionar-los.
- Gartner projecta que el 40% de les aplicacions empresarials inclourà agents de tasques específiques abans que acabi 2026 —enfront de menys del 5% el 2025—.
El patró és el mateix que ja vam veure amb l'adopció general de la IA: la velocitat d'implementació no té equivalent en la velocitat amb què es construeixen els controls.
Què significa "governança d'agents" a la pràctica
No és burocràcia afegida — és la diferència entre un agent que actua dins de límits coneguts i un que actua a cegues. Governar un agent d'IA significa poder respondre, en qualsevol moment, a aquestes preguntes:
- Qui pot activar o modificar aquest agent?
- A quines dades té accés, i per què necessita aquest accés?
- Quines accions pot executar sense supervisió humana, i quines requereixen aprovació?
- Existeix un registre de cada decisió que va prendre i per què la va prendre?
Si la teva empresa no pot respondre a aquestes quatre preguntes per a cada agent en producció, aquest agent no té governança — funciona, però ningú el controla realment.
Els riscos concrets d'un agent sense governança
- Accés a dades sensibles sense control. Un agent connectat al teu CRM o a dades financeres sense restriccions granulars pot exposar informació que un empleat humà mai veuria en el seu rol.
- Accions irreversibles sense supervisió. Enviar comunicacions a clients, modificar registres, aprovar pagaments o cancel·lar comandes són accions que, si l'agent les executa sense un punt de control humà, poden generar danys difícils de revertir.
- Absència total de traçabilitat. Si alguna cosa surt malament, sense logs detallats és impossible reconstruir què va decidir l'agent, amb quines dades i per què — cosa que converteix qualsevol incident en una caixa negra.
- Fricció amb obligacions regulatòries. L'AI Act exigeix supervisió humana efectiva i traçabilitat per a determinats sistemes d'IA; un agent desplegat sense aquests controls bàsics pot convertir-se en un problema de compliment, no només operatiu. Ja vam cobrir això en parlar de quina evidència de compliment comencen a demanar bancs i clients grans.
El risc no és que un agent d'IA prengui una mala decisió — això també li passa als empleats humans. El risc real és que, quan passi, ningú a l'empresa pugui explicar per què l'agent va decidir el que va decidir, amb quines dades i sota quins permisos.
Checklist mínim de governança d'agents IA
- Fes un inventari de quins agents existeixen a la teva empresa, qui els va desplegar i què fan exactament. Si no els pots llistar, probablement n'hi ha més dels que creus.
- Defineix permisos explícits per agent: quines dades pot llegir, quins sistemes pot tocar, quines accions pot executar.
- Registra un log de cada acció que l'agent executi, amb prou detall per poder auditar-ho després.
- Exigeix supervisió humana per a qualsevol acció irreversible o d'alt impacte: pagaments, comunicacions externes, canvis que afectin tercers.
- Assigna un responsable humà per a cada agent en producció — algú que respongui pel seu comportament, no només per haver-lo posat en marxa.
Conclusió
Desplegar agents d'IA s'ha tornat tan fàcil que la majoria d'empreses ho ha fet sense passar pel mateix rigor que aplicarien a qualsevol altre sistema amb accés a dades i capacitat d'executar accions. La bretxa entre el 97% que desplega i el 10% que governa és, a la pràctica, la diferència entre tenir un avantatge competitiu i tenir un risc sense quantificar.
A Dataverse Solutions dissenyem agents d'IA amb permisos, límits d'acció i traçabilitat definits des del primer dia — no com un pedaç posterior.
Preguntes freqüents
Necessito governança si només tinc un parell d'agents d'IA en producció?
Sí. El risc no depèn del nombre d'agents sinó del tipus d'acció que executen. Un sol agent amb accés a dades de clients o capacitat d'aprovar pagaments ja justifica controls bàsics: permisos explícits, registre d'accions i supervisió humana en decisions irreversibles.
La governança d'agents d'IA alenteix la implementació?
No si es dissenya des del principi juntament amb l'agent. Alenteix quan s'afegeix després, com a pedaç, sobre un agent ja desplegat sense controls. Definir permisos, límits d'acció i registre de logs des del disseny inicial amb prou feines afegeix temps al desenvolupament.