Guide

Come governare gli agenti AI in azienda

Un agente AI fa quello che l'azienda gli permette di fare. Le decisioni da prendere prima di accenderlo, reparto per reparto, e come metterle per iscritto.

di Giuseppe Di Giacomo ·

Chi introduce un agente AI in azienda di solito parte dalla domanda “che cosa sa fare?”. La domanda che conta di più arriva dopo: chi decide che cosa può fare, su quali dati, e chi risponde quando sbaglia. È questo che si intende con AI governance.

Una spiegazione di base su che cosa sono gli agenti AI è nell’articolo Agenti AI in azienda: cosa sono, esempi e quando servono sul blog di GlobalKult. Questa guida parte da un punto successivo: l’agente c’è, o ci sarà presto, e va governato.

Che cos’è l’AI governance

IBM descrive la governance dell’AI come l’insieme di processi, standard e controlli che servono a far sì che i sistemi di AI restino sicuri ed etici. Il NIST, l’istituto statunitense per gli standard, nel suo AI Risk Management Framework (pubblicato a gennaio 2023, di uso volontario) mette il “governare” accanto a mappare, misurare e gestire i rischi. Lo descrive come una funzione trasversale, che attraversa tutte le altre.

In una PMI la governance si può ridurre a cinque decisioni, da prendere per ogni agente:

  1. che cosa può leggere;
  2. che cosa può fare;
  3. quando deve decidere una persona;
  4. come si ricostruisce quello che è successo;
  5. che cosa fa quando non sa.

Le cinque decisioni

Che cosa può leggere

Conviene prenderla per prima. Un agente che legge l’intero server aziendale prima o poi userà un listino riservato o un dato del personale per rispondere a chi non doveva vederlo.

Il punto delicato è dove si applica il limite. Scrivere nelle istruzioni dell’agente “non mostrare i margini” è fragile: il modello riceve comunque quei dati, e un’istruzione può essere aggirata o fraintesa. È più solido che i documenti esclusi non arrivino proprio all’agente, cioè che il filtro stia nella ricerca. L’OWASP, la comunità di riferimento per la sicurezza delle applicazioni, mette i permessi eccessivi tra le cause principali del rischio che chiama Excessive Agency.

Che cosa può fare

Leggere, proporre e agire sono tre livelli diversi di autonomia. Un agente che cerca nei documenti e prepara una bozza ha un margine d’errore limitato: nel peggiore dei casi la bozza è da riscrivere. Un agente che scrive nel gestionale, invia email o modifica un ordine può fare danni veri.

La regola pratica: dare all’agente solo gli strumenti che servono al suo compito. Se deve consultare il CRM, basta l’accesso in sola lettura. Se deve aiutare a rispondere ai clienti, può preparare il testo senza poterlo spedire.

Quando decide una persona

Il controllo umano, che in inglese si chiama human in the loop, consiste nel far approvare a una persona le azioni che contano prima che vengano eseguite. L’OWASP lo indica tra le contromisure principali: per le email, per esempio, significa che ogni messaggio preparato dall’agente viene riletto e inviato a mano.

Conviene decidere in anticipo quali azioni richiedono una conferma; le altre possono restare all’agente. Per esempio, una PMI potrebbe ragionare così:

Azione Chi decide
Cercare un’informazione nei documenti del reparto L’agente
Preparare una bozza di risposta o di email L’agente prepara, una persona rilegge e invia
Passare una richiesta a un altro reparto L’agente propone, una persona conferma
Rispondere a un cliente sul sito L’agente, solo con informazioni pubbliche; il resto passa a una persona
Modificare dati in un gestionale Una persona

Come si ricostruisce quello che è successo

Quando una risposta è sbagliata bisogna poter capire perché: quale documento ha usato l’agente e chi ha approvato l’azione successiva. Senza questa traccia non si sa quale documento correggere.

Le cose minime da conservare sono le conversazioni con le fonti usate, le azioni proposte e confermate, con autore e data, e le modifiche ai documenti da cui l’agente attinge.

Che cosa fa quando non sa

Un modello linguistico, se non trova una risposta, tende a costruirne una plausibile. Il NIST chiama questo rischio confabulation: contenuti sbagliati espressi con sicurezza. In azienda va deciso esplicitamente che, quando i documenti non bastano, l’agente lo dica. E le domande rimaste senza risposta vanno raccolte, perché indicano quali documenti mancano.

Mettere le regole per iscritto

Le cinque decisioni stanno bene in una pagina, una per ogni agente. Lo schema qui sotto si può copiare e compilare.

C’è anche un motivo normativo. Il Regolamento europeo sull’AI (Reg. UE 2024/1689), nel testo modificato dal Reg. UE 2026/1744, chiede a chi usa sistemi di AI di adottare misure per sostenere l’alfabetizzazione del proprio personale sull’AI (art. 4). Chiede inoltre che le persone che parlano con un sistema di AI ne siano informate (art. 50). Per gli obblighi che riguardano il proprio caso serve il parere di un consulente.

Come lo fa NUCLEO

NUCLEO è il sistema che mette al lavoro gli agenti AI in azienda: un agente per ogni reparto, con regole e permessi stabiliti dall’azienda. Di seguito, decisione per decisione, che cosa fa NUCLEO.

Che cosa legge l’agente di reparto

I documenti si caricano in collezioni, e per ogni collezione l’amministratore sceglie quali reparti possono leggerla. Il filtro sta dentro la ricerca: un documento fuori dal perimetro del reparto non viene recuperato, e il database ripete lo stesso controllo una seconda volta. L’agente del reparto lavora solo su ciò che gli arriva. Il dettaglio per Supporto, Vendite, Marketing, Amministrazione e Ufficio tecnico è nella pagina Per reparto.

Che cosa fa

Gli agenti di NUCLEO rispondono indicando la fonte e preparano bozze. Le bozze si copiano a mano: NUCLEO non invia email. Per il marketing c’è una dashboard HubSpot che legge i dati in sola lettura.

Dove decide una persona

Quando una domanda spetta a un altro reparto, NUCLEO propone un ticket già compilato, che si apre solo se una persona lo conferma. Sul sito, il widget avvisa il visitatore che sta parlando con un assistente basato sull’AI e risponde solo con le informazioni rese pubbliche. Quando serve una persona, la richiesta arriva in NUCLEO con il reparto suggerito, e qualcuno la smista. Come funzionano le richieste dal sito è spiegato nella pagina Widget.

Tracciabilità

Le conversazioni restano salvate con le fonti usate. Ogni ticket conserva i suoi passaggi (commenti, cambi di stato, assegnazioni) con autore e data. I caricamenti, le eliminazioni e i download dei documenti di reparto sono registrati. L’amministratore gestisce gli utenti e può disattivarli.

Quando non sa

Se nei documenti l’informazione non c’è, NUCLEO lo dice. Le domande del Supporto a cui i documenti non rispondono finiscono in un elenco di lacune, che l’amministratore chiude quando ha scritto o aggiornato il documento mancante.

Dove gira l’AI

Con il piano Standard NUCLEO lavora in cloud e l’elaborazione passa da un servizio AI esterno. Con il piano Custom NUCLEO gira su un server dedicato, dell’azienda oppure gestito da GlobalKult. Se NUCLEO e i modelli AI sono installati sul server dell’azienda, domande, documenti e risposte restano dentro l’azienda. Le differenze sono nella pagina Sicurezza; il percorso completo, dai documenti alle risposte, è in Come funziona.

Domande frequenti

Chi deve occuparsi della governance degli agenti AI in una PMI?

Serve un responsabile per ogni agente, per esempio chi guida il reparto in cui lavora, più una persona che gestisce i permessi. In una PMI può essere chi amministra i sistemi informativi.

Il controllo umano rallenta il lavoro?

Rallenta solo dove è stato deciso che serve. Le ricerche e le bozze restano immediate; la conferma riguarda le azioni che hanno effetti fuori dall’agente, come aprire un ticket o inviare un messaggio.

Basta scrivere nelle istruzioni dell’agente che cosa non deve fare?

Le istruzioni orientano le risposte; i dati li proteggono i permessi. Un dato che l’agente non riceve non può finire in una risposta; un dato che riceve con l’istruzione di non usarlo sì, per errore o per manipolazione.

Gli assistenti AI generici si possono governare allo stesso modo?

In parte. ChatGPT nei piani Business ed Enterprise, Microsoft Copilot Studio e Gemini Enterprise offrono agli amministratori controlli centralizzati (siti ufficiali, consultati il 19/11/2026). La differenza sta in che cosa vede ciascun utente e da quali fonti arrivano le risposte: il confronto punto per punto è nella pagina Confronti.

Fonti

Vuoi vedere come funziona sui tuoi documenti?