02.12.2026 · Caserta
Edizione 2026 · CasertaProgrammaDiventa partnerDomande frequentiCerca nel sitoApprofondimentiSpeakerArea riservataEdizioni passateRichiedi il tuo invito

Far rispondere l'AI sui documenti dell'azienda, cos'è la RAG e come si fa bene

La retrieval augmented generation fa rispondere l'AI a partire dai documenti aziendali. Come funziona, permessi, aggiornamento ed errori tipici.

· 5 min di lettura

Far rispondere l'AI sui documenti dell'azienda significa collegare il modello a un archivio di manuali, listini, procedure e contratti, in modo che prima di rispondere cerchi i passaggi giusti e li usi come base. La tecnica si chiama retrieval augmented generation, in sigla RAG, cioè generazione aumentata dal recupero. Anthropic la descrive come un metodo che recupera le informazioni pertinenti da una base di conoscenza e le aggiunge alla domanda dell'utente, migliorando in modo significativo la risposta. Il modello resta lo stesso. Cambia quello che ha davanti nel momento in cui risponde.

Come funziona la RAG, passo per passo?

Il funzionamento descritto da Anthropic ha due tempi. Prima si prepara l'archivio, poi lo si interroga a ogni domanda.

  1. I documenti vengono divisi in pezzi brevi di testo.
  2. Un modello di embedding trasforma ogni pezzo in una sequenza di numeri che ne rappresenta il significato, e il risultato viene salvato in un database vettoriale.
  3. Quando arriva una domanda il sistema cerca i pezzi più vicini per significato e, nelle versioni più curate, anche quelli che contengono le parole esatte, come un codice prodotto.
  4. I pezzi trovati vengono aggiunti alla richiesta e il modello risponde partendo da quelli.

La ricerca per significato trova un paragrafo anche quando non condivide parole con la domanda. OpenAI lo mostra con un esempio, la frase più pertinente a una domanda sullo sbarco sulla Luna non contiene nessuna delle parole usate per chiedere. La ricerca per parole esatte resta preziosa per codici, sigle e nomi di prodotto. Per questo Anthropic consiglia di combinare le due.

Serve sempre una RAG?

No. Anthropic indica che se la base di conoscenza sta sotto i 200.000 token, circa 500 pagine, si può passare tutto direttamente al modello, senza un sistema di recupero. La RAG diventa necessaria quando l'archivio cresce oltre quello che il modello può leggere in una volta, come succede con anni di documentazione tecnica, contratti o pratiche. Per un uso quotidiano molti assistenti per aziende cercano già nei documenti collegati, come raccontiamo in ChatGPT, Claude, Gemini e Copilot per le aziende, come trattano i dati e come si sceglie. La RAG su misura serve quando le risposte devono entrare in un processo, un sito o un agente.

Quali strumenti esistono già?

I principali produttori offrono la RAG come servizio pronto, da far configurare a uno sviluppatore.

  • OpenAI offre nelle sue API la ricerca nei file, che recupera informazioni da archivi di file caricati in precedenza con ricerca semantica e per parole chiave.
  • Google offre nelle API di Gemini lo strumento File Search, che importa, divide e indicizza i dati e può indicare da quali file arriva la risposta.
  • Microsoft, con Azure AI Search, propone sia il modello classico sia un recupero agentico in cui un modello scompone una domanda complessa in più ricerche mirate.
  • Anthropic permette a Claude di citare i passaggi esatti dei documenti che sostengono ogni affermazione, così le risposte si possono verificare.

Come si rispettano i permessi sui documenti?

È il punto che più spesso si sottovaluta. Un archivio unico interrogabile da tutti rende visibile a chiunque quello che prima stava in cartelle separate. Microsoft lo spiega con un esempio, i dati finanziari devono restare accessibili solo al team della finanza anche quando a fare la domanda al chatbot è un dirigente. La soluzione è che il sistema di ricerca erediti i permessi dei documenti di origine, oppure filtri i risultati in base a chi fa la domanda prima di passarli al modello. Il controllo va messo nella ricerca. Un'istruzione al modello come «non rivelare i dati riservati» non sostituisce un sistema di permessi.

Come si tiene aggiornata una base di conoscenza?

Una RAG risponde con quello che trova. Se nell'archivio convivono il listino di oggi e quello di due anni fa, il modello può citare quello sbagliato con la stessa sicurezza. Servono tre abitudini.

  • Un responsabile per ogni gruppo di documenti, che decide cosa entra nell'archivio e cosa esce.
  • Un indice che si aggiorna quando cambia un file. Microsoft prevede l'indicizzazione incrementale proprio per tenere freschi i contenuti.
  • Una data di validità sui documenti che scadono, come listini, condizioni e procedure, con le versioni superate archiviate fuori dall'indice.

Quali sono gli errori tipici?

  • Pezzi senza contesto. Anthropic porta l'esempio di una frase sulla crescita dei ricavi rispetto al trimestre precedente che, staccata dal documento, non dice di quale azienda né di quale periodo parla. Aggiungere a ogni pezzo una breve descrizione del documento da cui viene migliora il recupero.
  • Codici e sigle persi. La sola ricerca per significato può mancare un codice errore o un articolo preciso, che la ricerca per parole esatte trova.
  • Risposte senza fonte. Se il sistema non mostra da quale documento prende un'informazione, nessuno può controllarla.
  • Nessuna via d'uscita. Anthropic consiglia di permettere in modo esplicito al modello di dire che non sa e di limitarlo alle informazioni dei documenti forniti. Altrimenti, quando non trova niente, riempie il vuoto da solo.
  • Documenti che danno ordini. Un testo dentro un file può contenere istruzioni rivolte al modello. OWASP avverte che la RAG non elimina il rischio di prompt injection.
  • Nessun test. Senza un elenco di domande con la risposta giusta non si sa se una modifica ha migliorato o peggiorato il sistema. Il metodo è in Come si capisce se un progetto AI funziona, casi di prova, valutazioni e quando fermarsi.

Di come portare la conoscenza dell'azienda dentro i processi parliamo il 2 dicembre a Caserta, a Days to Connect. Si entra su invito, dal modulo sul sito.

Domande frequenti

La RAG addestra il modello sui miei documenti?
No. Il modello non cambia. I documenti restano in un archivio separato e a ogni domanda il sistema ne recupera alcuni passaggi e li passa al modello insieme alla richiesta. Per questo si possono aggiornare o togliere documenti senza toccare il modello.
Quanti documenti servono per partire?
Non c'è un minimo. Con un archivio piccolo, sotto le 500 pagine circa secondo Anthropic, si può dare tutto al modello in una volta senza RAG. Conviene partire da un solo ambito ordinato e aggiornato, come le schede tecniche o le procedure di assistenza.
Un dipendente può vedere documenti riservati attraverso l'AI?
Può succedere se la ricerca non rispetta i permessi dei documenti di origine. Il sistema deve filtrare i risultati in base a chi fa la domanda prima di passarli al modello.
Come capisco se le risposte sono giuste?
Chiedendo al sistema di citare la fonte di ogni risposta e preparando un elenco di domande vere con la risposta corretta, da ripetere a ogni modifica. Le risposte su prezzi, contratti e sicurezza vanno controllate da una persona.

Fonti

  1. Anthropic, Contextual Retrieval in AI systems
  2. Claude Platform Docs, Reduce hallucinations
  3. Claude Platform Docs, Citations
  4. OpenAI API Docs, File search
  5. OpenAI API Docs, Retrieval
  6. Google, Gemini API File search
  7. Microsoft Learn, Retrieval-augmented generation in Azure AI Search
  8. Microsoft Learn, Security filters for trimming results in Azure AI Search
  9. OWASP GenAI Security Project, LLM01 Prompt Injection