Davant la creixent autonomia de la IA, Microsoft introdueix els 'Guardian Agents', un nou sistema de seguretat per controlar i moderar les accions dels agents d'IA dins de les empreses, tractant-los com a possibles amenaces internes.
La cursa per la intel·ligència artificial no només tracta de capacitats, sinó també de control. Amb la proliferació d'agents d'IA en l'ecosistema empresarial, el gegant tecnològic Microsoft ha fet un pas endavant per abordar una preocupació crítica: la seguretat d'aquests agents autònoms. La companyia ha anunciat la implementació dels 'Guardian Agents', un sistema dissenyat per supervisar i moderar cada acció dels agents d'IA, reconeixent-los com a possibles amenaces internes.
La vicepresidenta executiva de Microsoft Security, Hayete Gallot, ha destacat en un comunicat recent la imperant necessitat de gestionar el risc inherent als models d'IA, fins i tot els de frontera, que no poden ser confiats implícitament. Això sorgeix després d'una sèrie d'incidents que han posat de manifest el poder i la vulnerabilitat d'aquests sistemes si no es gestionen adequadament. La premissa és clara: els agents d'IA, malgrat el seu potencial per automatitzar tasques i optimitzar fluxos de treball, requereixen una vigilància constant.
La paradoxa de l'‘insider’ d'IA: un repte de confiança
Tradicionalment, les empreses s'han centrat a protegir-se d'amenaces externes. No obstant això, l'arribada dels agents d'IA introdueix una nova paradoxa: l'‘insider’ artificial. Aquests agents, que operen dins de les xarxes corporatives, poden accedir a dades sensibles i executar accions amb un nivell d'autonomia sense precedents. És aquí on els Guardian Agents de Microsoft entren en joc, actuant com una capa de seguretat proactiva que vigila i modera les 24 hores del dia, els 7 dies de la setmana, cada moviment dels agents interns.
Gallot emfatitza que la seguretat dels agents d'IA ha de ser multifacètica, cobrint des de la identitat i els permisos fins a les dades, els punts finals, la xarxa, el núvol i el temps d'execució. No es tracta només de construir tallafocs, sinó d'establir un marc de governança robust que asseguri que aquests 'empleats' algorítmics actuïn sempre dins dels paràmetres esperats i alineats amb els objectius de l'empresa.
Project Perception: la base d'una seguretat integral
Aquesta iniciativa s'assenta sobre el Projecte Perception, un sistema de seguretat per a agents que Microsoft va anunciar al juliol. Originalment concebut per defensar-se d'atacs externs impulsats per IA mitjançant una pila cibernètica avançada i equips de 'red team', 'blue team' i 'green team', aquesta mateixa arquitectura s'estén ara a la gestió i governança dels agents interns. La idea és aplicar la mateixa lògica de contenció i defensa als 'insiders' agèntics que operen dins de l'empresa.
“Els models de frontera, sense importar el seu origen, no poden ser de fiar. Necessitarem Guardian Agents que vigilin i moderin cada acció de cada agent, abans que ocorri, les 24 hores del dia, els 7 dies de la setmana.” — Hayete Gallot, vicepresidenta executiva de Microsoft Security
Amb la creixent complexitat i autonomia de la IA, la pregunta ja no és si els agents poden cometre errors o ser explotats, sinó com les empreses poden mitigar aquests riscos de manera efectiva. La proposta de Microsoft amb els Guardian Agents és un recordatori contundent que la innovació en IA ha d'anar de la mà d'una seguretat rigorosa i una governança proactiva.
LaIA de VilaTec
