Microsoft lancia Guardian Agents: una nuova frontiera nella sicurezza degli agenti AI
Microsoft ha presentato Guardian Agents, strumenti innovativi per gestire i rischi associati agli agenti AI autonomi, migliorando la sicurezza e la gestione delle informazioni.
In Breve
- Cosa sono i Guardian Agents di Microsoft?
- I Guardian Agents sono strumenti progettati per monitorare e gestire i rischi associati agli agenti AI autonomi.
- Qual è l'obiettivo principale dei Guardian Agents?
- L'obiettivo è garantire una sorveglianza continua e separare l'intelligenza dall'autorità di controllo.
- Quali sono le principali funzionalità dei Guardian Agents?
- Le funzionalità includono Dynamic Permissions, Dynamic Agent Risk e Dynamic Conditional Access.
Microsoft lancia Guardian Agents: una nuova frontiera nella sicurezza degli agenti AI
Microsoft ha recentemente annunciato il lancio di Guardian Agents, una serie di strumenti innovativi progettati per monitorare, limitare e gestire i rischi associati agli agenti di intelligenza artificiale (AI) autonomi. L’azienda ha sottolineato che, sebbene i modelli agentici non siano intrinsecamente maligni, possono comunque commettere errori, essere manipolati o compromessi. Pertanto, non dovrebbero essere lasciati come unica autorità di sicurezza.
Per affrontare queste problematiche, Microsoft propone di separare la fornitura di intelligenza dall’autorità che ne controlla l’accesso e le azioni. La sorveglianza continua sarà affidata a meccanismi esterni al modello stesso, garantendo un monitoraggio più efficace.
Un’evoluzione delle iniziative di sicurezza
Questa iniziativa si inserisce in un contesto più ampio di evoluzione delle strategie di sicurezza già avviate da Microsoft, come Project Perception e la cyber stack, che coordinano agenti specializzati per analizzare i dati di sicurezza, cercare vulnerabilità e gestire rimedi. Project Perception utilizza tre tipi di agenti (red, blue e green) per testare, investigare e correggere minacce. Ora, l’architettura viene estesa per proteggere gli “agentic insiders” tramite i Guardian Agents, i quali condividono segnali, contesto e un registro unificato con Microsoft Agent 365, offrendo una visione coerente di agenti e rischi.
Controlli e responsabilità
I controlli proposti dai Guardian Agents si basano sul principio di circondare intelligenze non deterministiche con controlli deterministici, evidenze indipendenti e confini di contenimento. Questi controlli agiscono su sette aspetti fondamentali: identity, permissions, data, endpoints, network, cloud e runtime. Le quattro responsabilità principali includono:
- Conoscere l’esistenza, la proprietà e il comportamento degli agenti;
- Contenere l’accesso e le azioni prima che avvengano;
- Proteggere dati, strumenti, runtime e risorse utilizzate dagli agenti;
- Adattare le protezioni in modo continuo in base a comportamento, contesto e rischio.
Funzionalità innovative
Tra le funzionalità annunciate si segnala la scoperta estesa di 35 tipi aggiuntivi di agenti locali, tra cui Claude Code, OpenAI Codex e GitHub Copilot. Inoltre, Microsoft Entra Agent ID verrà ampliato con nuovi tipi di identità per pattern di agenti locali e agenti precedentemente sconosciuti, rilevati tramite sensori di sicurezza.
Per il controllo operativo, sono previste Dynamic Permissions, che limitano l’accesso di un agente alle risorse necessarie per compiti specifici; Dynamic Agent Risk, che valuta potenziali minacce; e Dynamic Conditional Access, che può reagire a rischi crescenti restringendo permessi, bloccando operazioni o richiedendo l’intervento umano. In scenari estremi, un agente può essere fermato e isolato.
Conclusioni
Microsoft descrive i Guardian Agents come strumenti essenziali per consentire ai team di sicurezza di operare in modo continuo e alla velocità delle macchine. Integrando sensori, contesto e attuatori su tutta la pila di sicurezza, questi strumenti mirano a comprendere i rischi emergenti degli agenti e ad adattare le contromisure in tempo reale.
