Cos'è un'infrastruttura agentica e di cosa ha bisogno un'azienda per farla funzionare
Modelli, connettori, orchestrazione, memoria, controllo umano, registri e test. I pezzi che servono perché gli agenti AI lavorino davvero in azienda.
· 5 min di lettura
Un'infrastruttura agentica è l'insieme dei pezzi che permette agli agenti AI di lavorare dentro un'azienda in modo affidabile e controllabile. Comprende i modelli che ragionano, i connettori che li collegano ai dati e ai gestionali, un'orchestrazione che decide chi fa cosa, una memoria che conserva il contesto, i punti in cui decide una persona, i registri di quello che succede e i test che ne misurano la qualità. Un agente senza questa base è una dimostrazione. Con questa base diventa uno strumento di lavoro.
Perché un agente da solo non basta?
Un agente vale quanto le cose a cui può accedere e quanto i controlli che lo circondano. Un modello brillante che non legge il gestionale non sa a che punto è un ordine. Un modello che legge tutto senza limiti vede anche quello che non dovrebbe. Fra questi due estremi c'è il lavoro vero, che è in buona parte lavoro di infrastruttura.
Quali modelli servono?
Il modello è il motore che ragiona e decide. La guida di OpenAI alla costruzione di agenti ricorda che modelli diversi hanno punti di forza diversi in termini di complessità, velocità e costo, e che non ogni compito richiede il modello più capace. Il metodo suggerito è costruire il prototipo con il modello migliore, fissare una base di prestazioni con dei test, poi provare modelli più piccoli dove i risultati restano accettabili. In pratica un'infrastruttura seria non sposa un solo modello e prevede di poterlo cambiare.
Come si collegano gli agenti ai dati e ai gestionali?
Attraverso gli strumenti, cioè funzioni che l'agente può chiamare. OpenAI li divide in tre famiglie. Gli strumenti di dati servono a recuperare informazioni, come interrogare un CRM o leggere un PDF. Gli strumenti di azione servono a fare cose, come aggiornare un record o mandare un messaggio. Gli strumenti di orchestrazione sono altri agenti usati come strumenti. Per i sistemi più vecchi senza interfacce di programmazione la stessa guida cita modelli capaci di usare il computer attraverso le schermate, come farebbe una persona.
Per non riscrivere ogni collegamento da capo è nato uno standard aperto, il Model Context Protocol, che oggi è supportato dai principali assistenti e piattaforme. Lo spieghiamo in Cos'è il Model Context Protocol (MCP) e perché interessa alle aziende. Qualunque sia la tecnica, la regola resta la stessa. Microsoft, ad esempio, scrive che Copilot mostra solo i dati che il singolo utente ha il permesso di vedere, e invita a usare bene i modelli di permesso dei propri servizi. Se i permessi in azienda sono disordinati, l'AI li rende evidenti in fretta.
Che cosa vuol dire orchestrazione?
Orchestrare significa decidere come si divide il lavoro. Anthropic distingue i flussi, in cui il modello e gli strumenti seguono percorsi definiti nel codice, dagli agenti, in cui è il modello a dirigere i propri passi. OpenAI separa i sistemi con un solo agente, che lavora in ciclo con i suoi strumenti, da quelli con più agenti coordinati. Entrambe consigliano di procedere per gradi, con un solo agente e pochi strumenti, aggiungendo pezzi solo quando servono.
A cosa servono memoria e contesto?
Un modello di per sé non ricorda niente fra una richiesta e l'altra. L'infrastruttura deve dargli tre cose, lo stato del compito in corso, i documenti pertinenti recuperati al momento giusto e le informazioni stabili che descrivono l'azienda, come listini, procedure e regole interne. Anthropic indica il recupero di informazioni e la memoria fra le capacità di base di un sistema agentico. Decidere cosa conservare, per quanto tempo e chi può vederlo è anche una scelta di protezione dei dati.
Dove deve decidere una persona?
Nei punti in cui un errore costa caro. OpenAI indica due casi in cui l'intervento umano è necessario, quando l'agente supera un limite di tentativi falliti e quando sta per compiere un'azione sensibile, irreversibile o ad alto impatto. Anthropic descrive agenti che si fermano per un riscontro umano a punti di controllo prefissati o quando incontrano un ostacolo. La specifica del Model Context Protocol chiede alle applicazioni di ottenere il consenso esplicito dell'utente prima di usare uno strumento.
Come si misura se un agente lavora bene?
Con i registri e con le valutazioni. I registri raccontano cosa ha fatto l'agente, quali strumenti ha chiamato, con quali dati e con quale esito, e servono a ricostruire un errore e a rispondere a un controllo. Le valutazioni sono test ripetibili. Anthropic le definisce come prove che danno un input al sistema e ne giudicano l'output con criteri stabiliti. Senza valutazioni, scrive, i team restano chiusi in un ciclo reattivo e scoprono i problemi solo quando arrivano agli utenti. Per cominciare suggerisce una ventina o una cinquantina di casi semplici presi da errori reali, giudicati in modo automatico, da un altro modello o da una persona.
Quanto costa tenere in piedi un'infrastruttura agentica?
Dipende da alcune leve che conviene conoscere prima di partire, anche senza cifre.
- Il consumo dei modelli. Ogni richiesta ha un costo legato a quanto testo il modello legge e scrive. Più passaggi fa un agente, più consuma. Anthropic ricorda che i sistemi agentici scambiano velocità e costo con prestazioni migliori.
- La scelta del modello. Un modello più piccolo dove basta riduce il consumo, a patto che i test confermino la qualità.
- I connettori. Vanno costruiti, aggiornati quando cambiano i gestionali e controllati nei permessi.
- Le persone. Chi rivede i casi dubbi, chi aggiorna le istruzioni e chi cura i test è parte del costo di esercizio quanto il software.
Il conto giusto mette questi costi accanto al lavoro che l'agente toglie o rende migliore, misurato prima e dopo sullo stesso processo.
Di infrastrutture agentiche si parla il 2 dicembre a Caserta, alla giornata di Days to Connect su come far lavorare l'AI nei processi. La partecipazione è su invito.
Sul nostro palco, su temi vicini
Domande frequenti
- Un'infrastruttura agentica è un software da comprare?
- Di solito no. È un insieme di componenti, alcuni comprati e altri configurati, che va adattato ai dati e ai processi dell'azienda. Si può partire da pochi pezzi e aggiungerne quando servono.
- Posso cambiare fornitore di modelli in futuro?
- Conviene progettarla così. Usare standard aperti per i connettori e tenere le istruzioni e i test separati dal modello rende più semplice provarne un altro e sostituirlo.
- Da quale pezzo conviene partire?
- Dai dati e dai permessi. Prima di collegare un agente bisogna sapere dove stanno le informazioni, chi può vederle e quali azioni sono permesse. Il resto si costruisce sopra.
