Un assistente LLM sui dati aziendali non è “attaccare ChatGPT al file server”. I documenti di offerta, i contratti, le distinte e le mail interne sono riservati. Se li mandate in chiaro a un modello hosted da terzi senza contratto, perimetro e cancellazione, state esportando il know-how.

La domanda utile è: dove gira il modello, quali pezzi di testo vede, e chi può chiedere cosa.

Cosa deve fare (e cosa no)

Serve se le persone cercano la stessa informazione in dieci cartelle, se onboarding e assistenza ripetono le stesse risposte, se un commerciale deve ritrovare clausole senza aprire venti PDF. Non serve se il problema è un processo non scritto: il modello non sostituisce un owner.

Non è un agente che “sistema l’ERP”. È un lettore controllato con citazioni, limiti e un log.

Quattro pezzi dell’architettura

  1. Sorgenti. SharePoint, mail, wiki, PDF, ticket. Serve un inventario, non “tutto il disco”. Classificazione e retention prima dell’indice.
  2. Indice / retrieval. Embedding e ricerca ibrida (keyword + vettori) su chunk con metadati: cliente, data, riservatezza. Senza filtri per ruolo l’assistente è un buco.
  3. Modello. Locale (GPU in sede o VPC) se i dati non possono uscire. API contratta solo con DPA, no-training e residenza UE, se il legale lo accetta. Il modello piccolo e controllato batte il frontier model senza recinzione.
  4. Applicazione. Prompt di sistema, tool limitati, citazione del passo, “non lo so” quando il retrieval è vuoto. Audit di query e risposte.

Pattern che funzionano in PMI

RAG con ACL. L’utente vede solo i chunk che vedrebbe in file. Se non può aprire la cartella HR, l’indice non la restituisce.

Staging, non produzione al primo colpo. Un corpus chiuso (es. manuali e procedure) per settimane. Poi si allarga. La qualità si misura con domande reali, non con demo.

Niente fine-tuning all’inizio. Costa e fossilizza. Retrieval + istruzioni + eval set interno.

Uscita strutturata. Riassunto con fonti, non un saggio. Link al documento. Se manca la fonte, non si inventa.

Errori costosi

  • Incollare PDF interi nel contesto: token, rumore, perdite.
  • Un bot pubblico sul sito con lo stesso indice interno.
  • Nessun ambiente di test: una query sbagliata in produzione è già un incidente.
  • “Il modello è GDPR-compliant” come frase magica: lo è il trattamento (base giuridica, DPIA, istruzioni al responsabile), non il peso in miliardi di parametri.

Come partire in quattro settimane

Settimana 1: perimetro (quali cartelle, quali ruoli, cosa è vietato). Settimana 2: pipeline di ingest e indice su un corpus piccolo. Settimana 3: UI interna, citazioni, log. Settimana 4: eval con dieci domande vere e un giro di permessi.

DPH integra AI nei processi, non chatbot da vetrina. Per un perimetro sui vostri dati, prenotate una sessione tecnica di 20 minuti: dove stanno i documenti, chi li usa, se il modello può uscire dalla rete.