Chi introduce un agente AI in azienda di solito parte dalla domanda “che cosa sa fare?”. La domanda che conta di più arriva dopo: chi decide che cosa può fare, su quali dati, e chi risponde quando sbaglia. È questo che si intende con AI governance.
Una spiegazione di base su che cosa sono gli agenti AI è nell’articolo Agenti AI in azienda: cosa sono, esempi e quando servono sul blog di GlobalKult. Questa guida parte da un punto successivo: l’agente c’è, o ci sarà presto, e va governato.
Che cos’è l’AI governance
IBM descrive la governance dell’AI come l’insieme di processi, standard e controlli che servono a far sì che i sistemi di AI restino sicuri ed etici. Il NIST, l’istituto statunitense per gli standard, nel suo AI Risk Management Framework (pubblicato a gennaio 2023, di uso volontario) mette il “governare” accanto a mappare, misurare e gestire i rischi. Lo descrive come una funzione trasversale, che attraversa tutte le altre.
In una PMI la governance si può ridurre a cinque decisioni, da prendere per ogni agente:
- che cosa può leggere;
- che cosa può fare;
- quando deve decidere una persona;
- come si ricostruisce quello che è successo;
- che cosa fa quando non sa.
Le cinque decisioni
Che cosa può leggere
Conviene prenderla per prima. Un agente che legge l’intero server aziendale prima o poi userà un listino riservato o un dato del personale per rispondere a chi non doveva vederlo.
Il punto delicato è dove si applica il limite. Scrivere nelle istruzioni dell’agente “non mostrare i margini” è fragile: il modello riceve comunque quei dati, e un’istruzione può essere aggirata o fraintesa. È più solido che i documenti esclusi non arrivino proprio all’agente, cioè che il filtro stia nella ricerca. L’OWASP, la comunità di riferimento per la sicurezza delle applicazioni, mette i permessi eccessivi tra le cause principali del rischio che chiama Excessive Agency.
Che cosa può fare
Leggere, proporre e agire sono tre livelli diversi di autonomia. Un agente che cerca nei documenti e prepara una bozza ha un margine d’errore limitato: nel peggiore dei casi la bozza è da riscrivere. Un agente che scrive nel gestionale, invia email o modifica un ordine può fare danni veri.
La regola pratica: dare all’agente solo gli strumenti che servono al suo compito. Se deve consultare il CRM, basta l’accesso in sola lettura. Se deve aiutare a rispondere ai clienti, può preparare il testo senza poterlo spedire.
Quando decide una persona
Il controllo umano, che in inglese si chiama human in the loop, consiste nel far approvare a una persona le azioni che contano prima che vengano eseguite. L’OWASP lo indica tra le contromisure principali: per le email, per esempio, significa che ogni messaggio preparato dall’agente viene riletto e inviato a mano.
Conviene decidere in anticipo quali azioni richiedono una conferma; le altre possono restare all’agente. Per esempio, una PMI potrebbe ragionare così:
| Azione | Chi decide |
|---|---|
| Cercare un’informazione nei documenti del reparto | L’agente |
| Preparare una bozza di risposta o di email | L’agente prepara, una persona rilegge e invia |
| Passare una richiesta a un altro reparto | L’agente propone, una persona conferma |
| Rispondere a un cliente sul sito | L’agente, solo con informazioni pubbliche; il resto passa a una persona |
| Modificare dati in un gestionale | Una persona |
Come si ricostruisce quello che è successo
Quando una risposta è sbagliata bisogna poter capire perché: quale documento ha usato l’agente e chi ha approvato l’azione successiva. Senza questa traccia non si sa quale documento correggere.
Le cose minime da conservare sono le conversazioni con le fonti usate, le azioni proposte e confermate, con autore e data, e le modifiche ai documenti da cui l’agente attinge.
Che cosa fa quando non sa
Un modello linguistico, se non trova una risposta, tende a costruirne una plausibile. Il NIST chiama questo rischio confabulation: contenuti sbagliati espressi con sicurezza. In azienda va deciso esplicitamente che, quando i documenti non bastano, l’agente lo dica. E le domande rimaste senza risposta vanno raccolte, perché indicano quali documenti mancano.
Mettere le regole per iscritto
Le cinque decisioni stanno bene in una pagina, una per ogni agente. Lo schema qui sotto si può copiare e compilare.
C’è anche un motivo normativo. Il Regolamento europeo sull’AI (Reg. UE 2024/1689), nel testo modificato dal Reg. UE 2026/1744, chiede a chi usa sistemi di AI di adottare misure per sostenere l’alfabetizzazione del proprio personale sull’AI (art. 4). Chiede inoltre che le persone che parlano con un sistema di AI ne siano informate (art. 50). Per gli obblighi che riguardano il proprio caso serve il parere di un consulente.
Come lo fa NUCLEO
NUCLEO è il sistema che mette al lavoro gli agenti AI in azienda: un agente per ogni reparto, con regole e permessi stabiliti dall’azienda. Di seguito, decisione per decisione, che cosa fa NUCLEO.
Che cosa legge l’agente di reparto
I documenti si caricano in collezioni, e per ogni collezione l’amministratore sceglie quali reparti possono leggerla. Il filtro sta dentro la ricerca: un documento fuori dal perimetro del reparto non viene recuperato, e il database ripete lo stesso controllo una seconda volta. L’agente del reparto lavora solo su ciò che gli arriva. Il dettaglio per Supporto, Vendite, Marketing, Amministrazione e Ufficio tecnico è nella pagina Per reparto.
Che cosa fa
Gli agenti di NUCLEO rispondono indicando la fonte e preparano bozze. Le bozze si copiano a mano: NUCLEO non invia email. Per il marketing c’è una dashboard HubSpot che legge i dati in sola lettura.
Dove decide una persona
Quando una domanda spetta a un altro reparto, NUCLEO propone un ticket già compilato, che si apre solo se una persona lo conferma. Sul sito, il widget avvisa il visitatore che sta parlando con un assistente basato sull’AI e risponde solo con le informazioni rese pubbliche. Quando serve una persona, la richiesta arriva in NUCLEO con il reparto suggerito, e qualcuno la smista. Come funzionano le richieste dal sito è spiegato nella pagina Widget.
Tracciabilità
Le conversazioni restano salvate con le fonti usate. Ogni ticket conserva i suoi passaggi (commenti, cambi di stato, assegnazioni) con autore e data. I caricamenti, le eliminazioni e i download dei documenti di reparto sono registrati. L’amministratore gestisce gli utenti e può disattivarli.
Quando non sa
Se nei documenti l’informazione non c’è, NUCLEO lo dice. Le domande del Supporto a cui i documenti non rispondono finiscono in un elenco di lacune, che l’amministratore chiude quando ha scritto o aggiornato il documento mancante.
Dove gira l’AI
Con il piano Standard NUCLEO lavora in cloud e l’elaborazione passa da un servizio AI esterno. Con il piano Custom NUCLEO gira su un server dedicato, dell’azienda oppure gestito da GlobalKult. Se NUCLEO e i modelli AI sono installati sul server dell’azienda, domande, documenti e risposte restano dentro l’azienda. Le differenze sono nella pagina Sicurezza; il percorso completo, dai documenti alle risposte, è in Come funziona.
Domande frequenti
Chi deve occuparsi della governance degli agenti AI in una PMI?
Serve un responsabile per ogni agente, per esempio chi guida il reparto in cui lavora, più una persona che gestisce i permessi. In una PMI può essere chi amministra i sistemi informativi.
Il controllo umano rallenta il lavoro?
Rallenta solo dove è stato deciso che serve. Le ricerche e le bozze restano immediate; la conferma riguarda le azioni che hanno effetti fuori dall’agente, come aprire un ticket o inviare un messaggio.
Basta scrivere nelle istruzioni dell’agente che cosa non deve fare?
Le istruzioni orientano le risposte; i dati li proteggono i permessi. Un dato che l’agente non riceve non può finire in una risposta; un dato che riceve con l’istruzione di non usarlo sì, per errore o per manipolazione.
Gli assistenti AI generici si possono governare allo stesso modo?
In parte. ChatGPT nei piani Business ed Enterprise, Microsoft Copilot Studio e Gemini Enterprise offrono agli amministratori controlli centralizzati (siti ufficiali, consultati il 19/11/2026). La differenza sta in che cosa vede ciascun utente e da quali fonti arrivano le risposte: il confronto punto per punto è nella pagina Confronti.
Fonti
- IBM, Cos’è la governance dell’AI?, aggiornato l’8/7/2026: https://www.ibm.com/it-it/think/topics/ai-governance
- NIST, AI Risk Management Framework (AI RMF 1.0, NIST AI 100-1), gennaio 2023: https://www.nist.gov/itl/ai-risk-management-framework
- NIST, AI 600-1, Generative Artificial Intelligence Profile, luglio 2024: https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf
- OWASP, LLM06:2025 Excessive Agency: https://genai.owasp.org/llmrisk/llm062025-excessive-agency/
- Regolamento (UE) 2024/1689 (AI Act): https://eur-lex.europa.eu/eli/reg/2024/1689/oj
- Regolamento (UE) 2026/1744 (Digital Omnibus sull’AI): https://eur-lex.europa.eu/eli/reg/2026/1744/oj
- OpenAI Help Center, Company knowledge in ChatGPT, consultato il 19/11/2026: https://help.openai.com/en/articles/12628342-company-knowledge-in-chatgpt
- Microsoft Learn, Overview – Microsoft Copilot Studio, consultato il 19/11/2026: https://learn.microsoft.com/en-us/microsoft-copilot-studio/fundamentals-what-is-copilot-studio
- Google Cloud, Introducing Gemini Enterprise, 10/10/2025, consultato il 19/11/2026: https://cloud.google.com/blog/products/ai-machine-learning/introducing-gemini-enterprise