Microsoft lancia Guardian Agents: una nuova frontiera nella sicurezza degli agenti AI
In Breve
- Cosa sono i Guardian Agents di Microsoft?
- I Guardian Agents sono strumenti progettati per monitorare e gestire i rischi associati agli agenti AI autonomi.
- Qual è l'obiettivo principale dei Guardian Agents?
- L'obiettivo è separare la fornitura di intelligenza dall'autorità di controllo, garantendo una sorveglianza continua.
- Quali sono le funzionalità principali dei Guardian Agents?
- Le funzionalità includono Dynamic Permissions, Dynamic Agent Risk e Dynamic Conditional Access.
In un contesto in cui l’intelligenza artificiale sta assumendo un ruolo sempre più centrale nella tecnologia, Microsoft ha recentemente annunciato il lancio di Guardian Agents, una serie di strumenti progettati per monitorare, limitare e gestire i rischi associati agli agenti AI autonomi. L’azienda ha messo in evidenza che, sebbene i modelli agentici non siano intrinsecamente maligni, possono commettere errori, essere manipolati o compromessi, e non dovrebbero essere considerati come unica autorità di sicurezza.
Per affrontare queste problematiche, Microsoft propone di separare la fornitura di intelligenza dall’autorità che ne controlla l’accesso e le azioni. Questo approccio prevede una sorveglianza continua attraverso meccanismi esterni al modello stesso, garantendo così una maggiore sicurezza.
Questa iniziativa si inserisce in un’evoluzione più ampia di progetti già avviati, come Project Perception e la cyber stack di Microsoft. Questi strumenti coordinano agenti specializzati per analizzare dati di sicurezza, identificare vulnerabilità e gestire le risposte a potenziali minacce. Project Perception, ad esempio, utilizza tre tipi di agenti – red, blue e green – per testare, investigare e correggere minacce. Con i Guardian Agents, l’architettura viene ulteriormente estesa per proteggere gli “agentic insiders”, condividendo segnali, contesto e un registro unificato con Microsoft Agent 365, offrendo così una visione coerente di agenti e rischi.
I controlli introdotti da Microsoft si basano sul principio di circondare le intelligenze non deterministiche con controlli deterministici, evidenze indipendenti e confini di contenimento. Questi controlli si applicano a sette aspetti fondamentali: identità, permessi, dati, punti di accesso, rete, cloud e runtime. Le responsabilità principali includono la conoscenza dell’esistenza, della proprietà e del comportamento degli agenti; la capacità di contenere l’accesso e le azioni prima che si verifichino; la protezione di dati, strumenti e risorse utilizzati dagli agenti; e l’adattamento continuo delle protezioni in base al comportamento, al contesto e al rischio.
Tra le funzionalità annunciate, spicca la scoperta estesa di 35 tipi aggiuntivi di agenti locali, inclusi Claude Code, OpenAI Codex e GitHub Copilot. Inoltre, Microsoft ha ampliato Entra Agent ID con nuovi tipi di identità per pattern di agenti locali e agenti precedentemente sconosciuti, rilevati tramite sensori di sicurezza. Per garantire un controllo operativo efficace, sono previste Dynamic Permissions, che limitano l’accesso di un agente alle risorse necessarie per un compito specifico; Dynamic Agent Risk, che valuta potenziali minacce; e Dynamic Conditional Access, che può reagire a rischi crescenti restringendo permessi, bloccando operazioni o richiedendo l’intervento umano. In scenari estremi, un agente può essere fermato e isolato.
Microsoft descrive i Guardian Agents come strumenti che consentono ai team di sicurezza di operare in modo continuo e alla velocità delle macchine. Questi strumenti integrano sensori, contesto e attuatori su tutta la pila di sicurezza, permettendo di comprendere i rischi emergenti degli agenti e di adattare le contromisure in tempo reale.
