In Breve
- Cosa sono i Guardian Agents di Microsoft?
- I Guardian Agents sono strumenti progettati per monitorare e gestire i rischi associati agli agenti AI autonomi.
- Qual è l'obiettivo principale dei Guardian Agents?
- L'obiettivo principale è separare la fornitura di intelligenza dall'autorità di controllo, migliorando la sicurezza.
- Quali funzionalità offrono i Guardian Agents?
- Offrono controlli su identità, permessi, dati e altro, con capacità di adattamento continuo ai rischi.
Microsoft lancia Guardian Agents: nuovi strumenti per la sicurezza degli agenti AI
Microsoft ha recentemente annunciato il lancio di Guardian Agents, una serie di strumenti progettati per monitorare, limitare e gestire i rischi associati agli agenti AI autonomi. L’azienda ha evidenziato che, sebbene i modelli agentici non siano intrinsecamente maligni, possono commettere errori, essere manipolati o compromessi, e non dovrebbero essere considerati come l’unica autorità in materia di sicurezza.
Per affrontare queste problematiche, Microsoft propone di separare la fornitura di intelligenza dall’autorità che controlla l’accesso e le azioni, delegando la sorveglianza continua a meccanismi esterni al modello. Questa iniziativa si inserisce in un contesto più ampio di evoluzione delle strategie di sicurezza dell’azienda, che include progetti come Project Perception e la cyber stack di Microsoft.
Il Project Perception utilizza tre tipi di agenti (red, blue e green) per testare, investigare e correggere minacce. Con l’introduzione dei Guardian Agents, l’architettura di sicurezza viene ulteriormente estesa per proteggere gli “agentic insiders”, condividendo segnali, contesto e un registro unificato con Microsoft Agent 365. Questo approccio mira a fornire una visione coerente di agenti e rischi.
I controlli proposti dai Guardian Agents si fondano sul principio di circondare intelligenze non deterministiche con controlli deterministici, evidenze indipendenti e confini di contenimento. Tali controlli operano su sette aspetti fondamentali: identity, permissions, data, endpoints, network, cloud e runtime. Le quattro responsabilità principali includono:
- Conoscere l’esistenza, la proprietà e il comportamento degli agenti;
- Contenere l’accesso e le azioni prima che avvengano;
- Proteggere dati, strumenti, runtime e risorse utilizzate dagli agenti;
- Adattare le protezioni in modo continuo in base a comportamento, contesto e rischio.
Tra le funzionalità innovative annunciate, vi è la scoperta estesa di 35 tipi aggiuntivi di agenti locali, come Claude Code, OpenAI Codex e GitHub Copilot. Inoltre, Microsoft ha ampliato Microsoft Entra Agent ID con nuovi tipi di identità per pattern di agenti locali e agenti precedentemente sconosciuti, rilevati tramite sensori di sicurezza.
Per garantire un controllo operativo efficace, sono state introdotte le Dynamic Permissions, che limitano l’accesso di un agente alle risorse necessarie per un compito specifico. Altre funzionalità includono Dynamic Agent Risk, che valuta potenziali minacce, e Dynamic Conditional Access, che può reagire a rischi crescenti restringendo permessi, bloccando operazioni o richiedendo l’intervento umano. In scenari estremi, è possibile fermare e isolare un agente.
Microsoft descrive i Guardian Agents come strumenti essenziali per consentire ai team di sicurezza di operare in modo continuo e alla velocità delle macchine. Integrando sensori, contesto e attuatori su tutta la pila di sicurezza, i Guardian Agents mirano a comprendere i rischi emergenti degli agenti e ad adattare le contromisure di conseguenza.
