Il vero motivo per cui gli agenti basati sull'intelligenza artificiale falliscono in produzione non ha nulla a che vedere con il modello

Secondo Forrester, la percentuale è del 15%. Si tratta della quota di progetti aziendali di intelligenza artificiale che riescono a passare con successo dalla fase pilota a quella di produzione. L’altro 85% si arena da qualche parte tra una demo promettente e qualcosa da cui un utente reale possa effettivamente trarre beneficio su larga scala.

Quando i team cercano di capire il perché, la risposta raramente punta al modello. I modelli sono ormai da tempo all’altezza del compito. Ciò che fallisce è l’infrastruttura che li circonda, in particolare il livello di identità, autorizzazione e governance che determina se un agente possa operare in sicurezza all’interno dei sistemi aziendali reali.

Questo articolo illustra quali sono i requisiti di tale infrastruttura e cosa occorre per realizzarla correttamente.

L'identità deve essere trasmessa insieme alla richiesta

Il metodo più diffuso con cui i team aziendali implementano oggi gli agenti di intelligenza artificiale è l’utilizzo di account di servizio dotati di autorizzazioni estese. L’agente effettua l’autenticazione una sola volta e opera in modo autonomo. La traccia di audit registra che l’agente ha agito, ma non indica chi ne abbia fatto richiesta, se la persona fosse autorizzata a presentarla, né se l’azione rientrasse nell’ambito di ciò che l’utente che l’ha avviata avrebbe dovuto essere in grado di autorizzare.

Quel divario diventa rilevante nel momento in cui il team addetto alla conformità pone la domanda che qualsiasi revisore porrebbe: chi ha autorizzato questa azione?

La soluzione che colma questa lacuna consiste nel considerare l’identità come una proprietà legata alla singola richiesta piuttosto che a livello di sessione. L’utente che avvia un’azione ha bisogno che il proprio token di identità accompagni quella richiesta attraverso ogni tappa della catena: dall’agente agli strumenti da esso richiamati, fino ai sistemi di dati a cui tali strumenti accedono. Ad ogni livello, il sistema che applica la politica di accesso riconosce l’identità umana originale.

Ciò significa che i diritti di un analista junior rimangono tali anche quando un agente di intelligenza artificiale svolge il lavoro per suo conto. L’ambito di accesso di un collaboratore esterno non si amplia solo perché un agente coordina il flusso di lavoro. La traccia di audit richiesta ai fini della conformità riflette ciò che è effettivamente accaduto.

La politica deve valutare il contesto durante l'esecuzione

Le tabelle dei permessi costituiscono un'infrastruttura indispensabile per la governance dell'IA. Rappresentano inoltre un punto di partenza, non una soluzione completa.

Una tabella dei permessi indica se un utente ha accesso a una risorsa. Risponde alla domanda a livello di ruolo o di sessione. Ciò a cui non può rispondere sono le domande contestuali che i sistemi agenti generano costantemente: 

• Questa richiesta è coerente con il comportamento abituale dell'utente? 
• Il volume dei dati recuperati è proporzionato al compito indicato? 
• Questa azione rientra nel contesto operativo previsto?

Si tratta di domande relative al runtime. Richiedono una politica in grado di valutare il contesto al momento dell'arrivo di una richiesta.

Un livello di governance efficace opera contemporaneamente su due livelli:

1. Il primo è il diritto di accesso: questo utente è autorizzato a utilizzare questo strumento su questo sistema? 
2. Il secondo è il contesto: la richiesta attuale, tenendo conto di tutto ciò che si sa sull’utente, sull’agente, sui tempi e sui dati coinvolti, soddisfa la politica di esecuzione in vigore? 

Entrambe le condizioni devono essere soddisfatte prima che qualsiasi strumento venga eseguito. Una volta implementato tale livello di runtime, gli agenti di intelligenza artificiale sono in grado di gestire flussi di lavoro realmente complessi e articolati in più fasi in ambiente di produzione, mentre i team di sicurezza dispongono della visibilità necessaria per garantire la sicurezza di tali implementazioni.

Cosa rende possibile MCP

Il Model Context Protocol (MCP) sta diventando l'interfaccia standard tra i modelli di linguaggio di grandi dimensioni (LLM) e gli strumenti che questi possono richiamare. È stato introdotto da Anthropic e i principali fornitori di software aziendale lo stanno adottando perché risolve un problema concreto. 

Prima dell’introduzione di MCP, ogni integrazione di strumenti richiedeva un’implementazione personalizzata tra il modello e il sistema. MCP standardizza tale interfaccia. Offre agli agenti un metodo coerente per individuare e richiamare gli strumenti, e fornisce agli strumenti stessi un metodo coerente per ricevere e rispondere alle richieste.

L'autorizzazione è l'elemento aggiuntivo integrato dalle organizzazioni. L'architettura che ne consente il funzionamento si colloca tra il modello di linguaggio di grandi dimensioni (LLM) e gli strumenti che esso può richiamare. Quando un agente seleziona uno strumento e invia una richiesta, il livello di autorizzazione valuta l'intero contesto prima dell'esecuzione: identità dell'utente, diritti, politica di esecuzione e la catena di provenienza che indica quale agente sta agendo e per conto di chi. 

Solo quando tutto ciò è terminato, lo strumento viene eseguito e il risultato viene registrato con il contesto completo a ogni livello.

La traccia di audit che ne risulta è proprio il tipo di informazione che i team addetti alla conformità possono effettivamente utilizzare: «Questo utente, con questi diritti, ha autorizzato questo agente a eseguire questa azione in quel momento, e la politica in vigore è stata valutata come segue».

La governance è alla base dell'IA applicata alla produzione

Le organizzazioni che considerano il livello di governance come un'infrastruttura fondamentale, anziché come un semplice obbligo di conformità, sono quelle che riescono a colmare il divario tra una demo promettente e un prodotto in grado di offrire un valore reale su larga scala.

Gli agenti che operano senza un'adeguata infrastruttura di identificazione e autorizzazione sono agenti ai quali le organizzazioni non possono affidare attività di grande importanza. Gli agenti ai quali non è possibile affidare attività di grande importanza rimangono indefinitamente nell'ambiente di demo. È lì che finisce l'85% dei progetti di IA aziendali.

Per raggiungere il restante 15%, è necessario innanzitutto creare il livello di identità, autorizzazione e governance in fase di esecuzione. Solo allora gli agenti potranno svolgere il lavoro per cui sono stati progettati.