come riconoscerle prima degli errori

Uno dei termini che più frequentemente ricorre quando si parla di intelligenza artificiale generativa è quello di allucinazione. Il nome è suggestivo, ma può risultare fuorviante. Non si tratta infatti di un malfunzionamento improvviso del sistema né di un errore casuale. Con questa espressione si indica la capacità dell’intelligenza artificiale di produrre informazioni false, inesatte o del tutto inventate presentandole, tuttavia, con la stessa sicurezza e naturalezza con cui esporrebbe informazioni corrette.
Il problema è particolarmente rilevante per chi esercita una professione intellettuale. Un avvocato che cita una sentenza inesistente, un commercialista che richiama una norma abrogata o un consulente che fonda il proprio ragionamento su un dato inventato non possono giustificarsi affermando che l’errore è stato commesso dall’intelligenza artificiale. La responsabilità, come si è visto nel precedente articolo, continua infatti a gravare sul professionista.
Diventa quindi essenziale imparare a riconoscere quei segnali che possono far sospettare di trovarsi di fronte a un’allucinazione del sistema. In merito, abbiamo pubblicato il volume Intelligenza artificiale generativa per professionisti – Dal legal prompting al workflow: metodo, tecniche e strumenti, disponibile su Shop Maggioli e su Amazon, e il corso Master in Compliance Management – Come realizzare un sistema di governance integrato – II edizione.

1. Che cosa sono, in concreto, le allucinazioni dell’intelligenza artificiale?

Il termine allucinazione (hallucination nella letteratura scientifica) viene utilizzato per descrivere un fenomeno caratteristico dei modelli di intelligenza artificiale generativa: la produzione di informazioni false, inesatte o del tutto inventate presentate, tuttavia, come se fossero corrette.
Per comprendere perché ciò accada è necessario abbandonare un equivoco molto diffuso. L’intelligenza artificiale non “conosce” il diritto, non consulta un codice civile né verifica una banca dati giurisprudenziale ogni volta che risponde a una domanda. Un modello linguistico di grandi dimensioni (Large Language Model o LLM) funziona in modo completamente diverso: analizza la richiesta ricevuta e genera, parola dopo parola, il testo che ritiene statisticamente più probabile sulla base dell’addestramento ricevuto.
In altre parole, non recupera una risposta già esistente, ma la costruisce in tempo reale.
È proprio questa modalità di funzionamento a rendere possibili le allucinazioni. Se il modello non dispone di informazioni sufficienti, se il quesito è ambiguo o se durante l’elaborazione “colma i vuoti” con associazioni statistiche plausibili, può generare riferimenti normativi inesatti, citare sentenze mai pronunciate, attribuire dichiarazioni a soggetti che non le hanno mai rese o descrivere fatti mai accaduti.
Il risultato è spesso particolarmente insidioso perché non presenta le caratteristiche tipiche dell’errore umano. L’allucinazione non si manifesta come un’affermazione palesemente assurda, ma come una risposta formalmente impeccabile, grammaticalmente corretta, ricca di dettagli e perfettamente coerente nella sua struttura argomentativa. È proprio questa apparente autorevolezza a renderla difficile da individuare.
Sapere che cosa sono le allucinazioni, tuttavia, non basta. La vera competenza del professionista consiste nell’imparare a riconoscerle prima che si trasformino in un errore professionale. Alcuni segnali possono rivelarsi particolarmente utili. In merito, abbiamo pubblicato il volume Intelligenza artificiale generativa per professionisti – Dal legal prompting al workflow: metodo, tecniche e strumenti, disponibile su Shop Maggioli e su Amazon.

I. Diffidare delle risposte perfette

Il primo campanello d’allarme è spesso controintuitivo.
Le allucinazioni più pericolose non sono quelle palesemente assurde, ma quelle perfettamente plausibili. Un testo scritto bene, con un lessico tecnico impeccabile, una struttura ordinata e un ragionamento apparentemente coerente tende naturalmente a suscitare fiducia.
È proprio questo l’effetto da cui occorre difendersi.
La qualità della forma non garantisce la correttezza del contenuto.

II. Verificare sempre riferimenti normativi e giurisprudenziali

Se la risposta contiene articoli di legge, sentenze, provvedimenti del Garante, linee guida dell’EDPB o richiami ad altre fonti giuridiche, la verifica deve essere sistematica.
Esistono allucinazioni particolarmente insidiose nelle quali il numero della sentenza è verosimile, la data appare credibile e persino il principio di diritto è formulato in modo convincente, salvo poi scoprire che quella decisione non è mai stata pronunciata o magari sì, ma riguardo tutt’altro argomento.
Per questo motivo le fonti devono essere sempre controllate nelle banche dati ufficiali.

III. Prestare attenzione all’eccessiva sicurezza

Il diritto è fatto di interpretazioni, orientamenti, eccezioni e bilanciamenti.
Quando l’intelligenza artificiale afferma che una determinata soluzione è certamente corretta senza prendere in considerazione eventuali orientamenti differenti, è opportuno aumentare il livello di attenzione.
Molto spesso le questioni realmente complesse meritano risposte prudenti, non categoriche.

IV. Verificare che la risposta risponda davvero alla domanda

Può sembrare banale, ma non lo è.
Talvolta l’intelligenza artificiale costruisce una risposta logicamente impeccabile a una domanda diversa da quella formulata.
Il professionista, soddisfatto dalla qualità del testo, rischia di non accorgersi che il sistema ha progressivamente spostato il focus del problema.

V. Controllare ciò che manca

Le allucinazioni non consistono soltanto nell’inventare informazioni.
A volte consistono nell’omettere elementi essenziali.
Una risposta potrebbe ignorare una recente modifica normativa, trascurare una pronuncia fondamentale o non considerare un’eccezione decisiva ai fini della soluzione del caso.
Anche il silenzio, talvolta, rappresenta un errore.

VI. Chiedere all’AI di criticare sé stessa

Un sistema sorprendentemente efficace consiste nel non fermarsi alla prima risposta.
È possibile chiedere all’intelligenza artificiale di individuare eventuali errori presenti nella propria elaborazione, proporre interpretazioni alternative o indicare i punti sui quali la risposta appare meno affidabile.
Naturalmente anche questa seconda elaborazione dovrà essere verificata, ma il confronto tra più risposte consente spesso di far emergere criticità che altrimenti passerebbero inosservate.

VII. Utilizzare più fonti

L’intelligenza artificiale non dovrebbe mai diventare l’unica fonte di consultazione.
Le banche dati giuridiche, la normativa ufficiale, la giurisprudenza, la dottrina e i documenti delle autorità continuano a rappresentare il punto di riferimento principale dell’attività professionale.
L’AI può aiutare a orientarsi, ma non può sostituire le fonti.

VIII. Fidarsi del proprio dubbio

Esiste infine uno strumento che nessun sistema di intelligenza artificiale possiede.
L’esperienza professionale.
Quando una risposta “suona strana”, quando una conclusione appare troppo semplice o quando un principio sembra entrare in contrasto con ciò che il professionista conosce, vale sempre la pena fermarsi e verificare.
Molte allucinazioni vengono scoperte proprio così: non grazie alla tecnologia, ma grazie allo spirito critico di chi la utilizza.

2. Conclusioni

Le allucinazioni dell’intelligenza artificiale non rappresentano un difetto occasionale destinato a scomparire con l’evoluzione della tecnologia. Costituiscono, almeno allo stato attuale, una caratteristica intrinseca dei modelli generativi e, proprio per questo, devono essere conosciute e gestite.
Per il professionista il problema non consiste tanto nell’evitare che l’intelligenza artificiale sbagli, quanto nell’evitare di trasformare un errore dell’algoritmo in un errore professionale.
La buona notizia è che gli strumenti per riuscirci esistono già e coincidono, in larga parte, con le qualità che ogni buon professionista dovrebbe possedere: metodo, verifica delle fonti, spirito critico e capacità di mettere in discussione anche le risposte più convincenti.
Resta però una domanda ancora più interessante. Se imparare a riconoscere gli errori dell’intelligenza artificiale è importante, forse lo è ancora di più sapere quando sia opportuno utilizzarla e quando, invece, sia preferibile non farlo affatto. È proprio questo il tema del prossimo articolo, dedicato ai casi nei quali il ricorso all’AI rappresenta un valore aggiunto e a quelli nei quali, almeno per ora, è meglio continuare ad affidarsi esclusivamente al giudizio umano.

Formazione per professionisti

Master in Compliance Management
Il Master in Compliance Management è un percorso di formazione specialistica della durata di 27 ore, pensato per offrire una visione chiara, aggiornata e completa delle principali aree della compliance aziendale. Il focus è sugli strumenti, gli obblighi e le responsabilità che imprese e professionisti devono conoscere e applicare per garantire la conformità e l’efficacia dei modelli organizzativi.
Grazie all’esperienza dei docenti e all’analisi di casi concreti, il Master si distingue per un taglio pratico e operativo che consentirà ai partecipanti di acquisire competenze e strumenti utili per gestire la compliance integrata in diversi contesti aziendali.
Il programma copre i principali ambiti della compliance: dalla governance aziendale alla responsabilità amministrativa degli enti (D.Lgs. 231/2001), dalla protezione dei dati personali e privacy alla gestione delle segnalazioni whistleblowing, dalla sostenibilità ESG e i nuovi obblighi europei e italiani alla regolamentazione sull’intelligenza artificiale (AI Act, Legge 132/2025 e successive attuazioni), fino alla cybersecurity (NIS 2) e alla gestione integrata del rischio.
Obiettivi formativi
Al termine del Master, i partecipanti saranno in grado di:
•  Analizzare e impostare un sistema di compliance integrata efficace
•  Conoscere i ruoli e le responsabilità previsti in materia di privacy e protezione dati
•  Redigere o aggiornare un Modello Organizzativo 231/2001
•  Identificare gli impatti etici, legali e organizzativi dell’AI Act e Legge 132/2025 per un uso conforme dell’AI
•  Applicare e integrare i nuovi obblighi ESG (CSRD, CSDDD, ESRS) nei processi aziendali
•  Gestire segnalazioni whistleblowing nel rispetto di tutele e privacy
•  Valutare le implicazioni operative di regolamenti e direttive UE in materia di cybersicurezza (NIS 2)
•  Applicare metodi di valutazione del rischio in chiave integrata e risk-based
>>>Per info ed iscrizioni<<<

Vuoi ricevere aggiornamenti costanti?

Salva questa pagina nella tua Area riservata di Diritto.it e riceverai le notifiche per tutte le pubblicazioni in materia. Inoltre, con le nostre Newsletter riceverai settimanalmente tutte le novità normative e giurisprudenziali!
Iscriviti!