Il rischio del pulsante ‘Approvo’: governance e identità per gli agenti AI autonomi
L'autonomia degli agenti AI porta con sé rischi significativi legati alla governance e all'identità. Scopri come affrontare queste sfide.
In Breve
- Quali sono i rischi associati agli agenti AI autonomi?
- I rischi includono la mancanza di responsabilità e la difficoltà di attribuire colpe in caso di malfunzionamenti.
- Come devono essere gestiti gli agenti AI?
- Devono essere trattati come entità dotate di identità, con credenziali e audit trail.
- Qual è l'importanza della supervisione umana?
- La supervisione umana è fondamentale per garantire trasparenza e allineamento con gli obiettivi organizzativi.
Negli ultimi anni, l’adozione di sistemi di remediation automatica ha rivoluzionato il modo in cui vengono gestiti i problemi di rete. Questi sistemi possono risolvere problematiche durante la notte, senza necessità di notifiche, lasciando la verifica delle azioni all’ispezione successiva di un operatore umano. Questa modalità di operare, nota come Human-on-the-Loop, presenta però delle insidie. In scenari in cui agenti improvvisati eseguono correzioni, le azioni possono apparire simili, ma senza fornire tracce esaustive delle decisioni che hanno portato a tali interventi. Di conseguenza, i log mostrano solo il “cosa” è stato fatto, ma non sempre il “perché”, rendendo difficile attribuire responsabilità in caso di malfunzionamenti.
Markus Nispel, CTO EMEA e Head of AI Engineering di Extreme Networks, avverte che senza vincoli adeguati, le deleghe progressive a sistemi agentici possono accumularsi, generando livelli di autonomia non esplicitamente approvati. Secondo ricerche recenti, il 57% dei responsabili IT prevede di rimuovere gli esseri umani dal loop entro un anno, mentre il 79% già considera gli agenti AI come “utenti” che necessitano di gestione delle identità e controlli di governance.
È fondamentale trattare gli agenti che operano su reti come entità dotate di identità. Questi agenti richiedono credenziali, politiche, limiti operativi, spiegabilità e audit trail simili a quelli degli operatori umani. Molte infrastrutture di gestione degli accessi sono state progettate per persone, e applicare soluzioni informali agli agenti può generare accessi “ombra” e rischi non quantificati. Per mitigare tali rischi, ogni agente dovrebbe essere configurato come principal con permessi limitati, accesso temporizzato, percorsi di revoca chiari e un registro completo delle azioni compiute, nonché delle motivazioni alla base delle scelte effettuate.
La fiducia nell’autonomia degli agenti deve essere progressiva. Gli agenti possono iniziare in modalità suggerimento e guadagnare capacità operative sulla base di prove e limiti definiti, piuttosto che ricevere autonomie totalizzanti sin dall’inizio. Con l’aumento del volume e della complessità delle decisioni autonome, è essenziale affiancare la supervisione umana a infrastrutture che integrino identità, enforcement delle policy, osservabilità e responsabilità, garantendo così trasparenza e allineamento con gli obiettivi organizzativi.
Nei sistemi multi-agente, la complessità aumenta ulteriormente. Una catena di agenti che si passano contesto rende più difficile ricostruire gli eventi rispetto a un singolo agente, poiché è necessario sapere cosa ciascun agente conosceva oltre a cosa ha fatto. L’impostazione di permessi rigorosi, controlli d’identità e audit trail, sebbene considerata un compito noioso, è cruciale per distinguere le implementazioni resilienti da quelle che espongono l’organizzazione a rischi latenti.
