Anàlisi editorial de l'equip Akaen.
El major risc de la IA en empresa no sol ser un model molt avançat. Sol ser una cosa molt més simple: que l'organització comenci a usar-la sense regles clares.
Quan això passa, apareixen patrons molt comuns: empleats que pugen informació sensible a comptes personals, equips que usen eines diferents sense control, respostes d’IA tractades com si fossin veritat i dades corporatives circulant fora de l'entorn que l'empresa pot governar.
La bona notícia és que aquests riscos es poden reduir molt. No fa falta prohibir la IA. Fa falta usar-la amb criteri, permisos i un entorn corporatiu ben configurat.
El problema real no és la IA: és l'ús sense govern
Moltes empreses ja tenen empleats usant ChatGPT, Claude, Copilot o altres eines pel seu compte. A vegades amb bona intenció: resumir un contracte, traduir un correu, preparar una proposta o analitzar un Excel. El problema apareix quan aquest ús ocorre fora del marc corporatiu.
En aquest moment l'empresa perd visibilitat sobre tres coses crítiques: quines dades surten, qui les està utilitzant i quines decisions s'estan prenent amb aquestes respostes.
Abans dels riscos: què és realment el Shadow AI
Igual que existeix el shadow IT, ja existeix també el shadow AI: persones o equips que usen eines d’IA fora del marc aprovat per l'empresa perquè necessiten resoldre alguna cosa avui i no tenen una alternativa corporativa clara, ràpida i útil.
Aquest és el punt de partida de gairebé tots els riscos posteriors. No comença amb una filtració massiva ni amb una fallada tècnica complexa, sinó amb accions quotidianes: copiar un correu, enganxar un contracte, resumir una oferta, revisar una política o demanar ajuda a una eina externa des d’un compte personal.
Quan això passa, el problema no és només l'eina. El problema és que l'empresa deixa de tenir control, context i traçabilitat sobre com s'està usant la IA i quina informació està sortint del seu entorn.
Risc 1: dades de l'empresa en comptes personals
Aquest és el cas més freqüent i el més fàcil d’infravalorar. Una persona copia informació interna en un LLM amb el seu compte personal perquè «només volia anar més de pressa».
- Pot incloure dades confidencials de clients, preus, contractes o processos interns.
- L'empresa no controla aquest entorn ni pot auditar què s'ha compartit.
- Si demà hi ha una incidència, no hi ha traçabilitat real.
A més, en serveis de consum o comptes personals, aquest contingut pot quedar retingut pel proveïdor i, segons les condicions del servei i la configuració, es pot utilitzar per millorar o entrenar models. No significa que la dada esdevingui automàticament «pública», però sí que surt del perímetre corporatiu i deixa d’estar sota el nivell de control que l’empresa necessita.
Dit de manera simple: si la dada surt de l’entorn corporatiu, l’empresa deixa de controlar-la.
Risc 2: tenir comptes empresarials mal configurats
Tenir una llicència enterprise ajuda, però no resol el problema per si sola. La diferència real està en com està configurat l'entorn i quin acord existeix amb el proveïdor.
En molts entorns corporatius hi ha millors garanties de privacitat, controls d'accés, retenció i tractament de dades. Però això depèn del proveïdor i de la configuració concreta, no del nom “enterprise” per si sol.
- Cal revisar quines dades es poden conservar.
- Cal revisar si aquestes dades s’utilitzen per a l’entrenament, segons el contracte i la configuració.
- Cal definir qui pot usar quina eina i per a quins casos.
Comprar la versió enterprise sense governança és com comprar una caixa forta i deixar-la oberta.
Risc 3: enganxar informació sensible sense criteri
No tota la informació té el mateix nivell de sensibilitat. El problema és que en moltes empreses ningú ha explicat clarament què es pot pujar i què no.
- Dades personals.
- Informació contractual.
- Preus i marges.
- Documentació legal o financera.
- Codi o propietat intel·lectual.
Si no existeix una política simple i comprensible, l'empleat decideix per intuïció. I això no és govern.
Risc 4: usar respostes d’IA com si fossin veritat
Un LLM pot sonar convincent i així i tot estar equivocat. Aquest risc creix quan l'equip comença a usar les seves respostes per a decisions internes sense validació.
- Resums incorrectes de normativa o contractes.
- Respostes inventades sobre processos interns.
- Dades incompletes tractades com si fossin definitives.
La IA genera productivitat, sí. Però no substitueix el criteri humà en processos sensibles o amb impacte legal, financer o reputacional.
Què canvia quan l'empresa sí que ho fa bé
El salt important no és passar de “sense IA” a “amb IA”. El salt important és passar d'un ús lliure i desordenat a un ús corporatiu governat.
- Usuaris identificats i controlats.
- Permisos per rol.
- Política clara de quines dades es poden usar.
- Eines aprovades per l'empresa.
- Traçabilitat i logs.
- Revisió humana en processos sensibles.
Quan això existeix, la IA deixa de ser un risc difús i passa a ser una capacitat empresarial útil.
Per què un assistent corporatiu ajuda a mitigar aquests problemes
Una de les millors maneres de reduir risc és oferir a la plantilla un assistent corporatiu controlat, en lloc d’empènyer cada persona a utilitzar eines externes pel seu compte.
Si l'assistent està connectat a fonts internes aprovades, amb permisos per rol i traçabilitat, l'empresa guanya tres coses alhora:
- Redueix la temptació d'usar comptes personals.
- Controla millor quin coneixement es consulta i des d'on.
- Dona una alternativa útil i segura que l'equip sí que vol usar.
En la pràctica, un assistent corporatiu ben dissenyat no sols millora productivitat. També funciona com mesura de contenció del risc.
Mesures senzilles per començar a mitigar riscos ara mateix
- Definir una política mínima d'ús: què es pot pujar, què no i en quines eines.
- Centralitzar eines aprovades: millor poques i ben configurades que moltes sense control.
- Classificar la informació: no totes les dades tenen el mateix nivell de risc.
- Aplicar permisos per rol: cada persona ha d'accedir només al que necessita.
- Registrar ús i activitat: sense traçabilitat, no hi ha govern real.
- Formar l’equip: no en teoria d’IA, sinó en bones pràctiques concretes.
- Mantenir supervisió humana: sobretot en legal, finances, clients i decisions crítiques.
La regla pràctica que gairebé tothom entén
Si una persona no pujaria aquest contingut a un proveïdor extern sense revisar-lo, tampoc l’hauria d’enganxar en un LLM sense una política corporativa que ho permeti.
Aquesta regla no ho resol tot, però sí que evita una gran part dels errors més comuns.
Conclusió
El risc de la IA en empresa no està a usar-la. Està a usar-la sense marc, sense permisos i sense una alternativa corporativa ben muntada.
Les organitzacions que millor aprofitaran aquesta ona no seran les que més eines provin. Seran les que combinin utilitat real, privacitat, govern i sentit comú.
Vols definir una política d'ús o desplegar un assistent corporatiu segur? .