Le allucinazioni degli algoritmi hanno già prodotto oltre 1.598 episodi documentati a livello globale
Quando ChatGPT inventa la giurisprudenza
La vicenda prende corpo già lo scorso marzo, quando la Sezione Settima della Cassazione penale, con ordinanza n. 11431 emessa il 26 marzo, dichiara inammissibile un ricorso fondato su richiami giurisprudenziali generati da un’intelligenza artificiale generativa. Il collegio, presieduto da L. Ramacci e con relatore A. Scarcella, non ha dubbi: quelle sentenze non esistono, sono il prodotto di un’allucinazione dell’algoritmo. Ma non è l’uso dello strumento a essere censurato in sé. È il comportamento del professionista che, abdicando al controllo, ha riversato in un atto giudiziario contenuti mai verificati.
Nella sentenza depositata a giugno, la Corte sceglie parole nette: «la citazione nel ricorso per cassazione di precedenti inesistenti o alterati, frutto di “allucinazione informatica”, è indice particolarmente significativo di colpa qualificata nella determinazione della causa di inammissibilità, che giustifica l’aumento dell’importo della sanzione pecuniaria». Il ragionamento è lineare: allegare precedenti inventati altera il corretto contraddittorio, ostacola il vaglio di legittimità della Corte stessa e lede «l’affidabilità minima che deve assistere gli atti difensivi». Non si tratta di un vizio formale, ma di un attacco alla funzione stessa del processo. E la risposta è un aggravio economico per chi ha firmato il ricorso, perché chi sceglie di avvalersi di un’IA senza verificare si assume per intero le conseguenze del suo malfunzionamento.
Un’allucinazione da 1.598 casi (e in crescita)
L’errore commesso dal difensore italiano non è un caso isolato, ma la manifestazione locale di un fenomeno che gli osservatori internazionali misurano ormai in migliaia di episodi. Lo scorso 9 giugno, il database pubblico delle allucinazioni IA in ambito giudiziario ha censito 1.598 casi in cui atti processuali contenevano citazioni o contenuti giuridici del tutto fabbricati da modelli linguistici. Appena un anno fa, a metà del 2025, il contatore segnava circa 200 episodi. Il salto è verticale: da 200 a quasi 1.600 in dodici mesi. Significa che la pressione degli strumenti di IA generativa sul processo sta aumentando più in fretta della capacità dei professionisti — e degli ordinamenti — di governarla.
Il precedente più noto resta Mata v. Avianca, il caso statunitense del 2023 in cui due legali newyorkesi presentarono un memorandum zeppo di sentenze inesistenti suggerite da ChatGPT, finendo sanzionati dal giudice federale. All’epoca sembrava un incidente quasi folkloristico, il classico aneddoto da raccontare ai convegni sulla deontologia digitale. Oggi, con oltre millecinquecento episodi tracciati, è chiaro che il problema è strutturale. E la Cassazione italiana lo ha capito prima che diventasse un’emergenza sistemica.
Verificare, sempre: il dovere che l’IA non cancella
Se l’allucinazione è un difetto ricorrente di tutti i modelli linguistici di grandi dimensioni, la risposta non può essere una demonizzazione aprioristica dello strumento, ma un rafforzamento consapevole del metodo di lavoro. L’ordinanza n. 11431 e la successiva sentenza 23006 non proibiscono l’uso dell’intelligenza artificiale nella redazione degli atti difensivi. Dicono qualcosa di più stringente: «l’impiego di strumenti di intelligenza artificiale non esonera il difensore dal dovere professionale di verificare la veridicità e la pertinenza delle fonti richiamate». In altre parole, l’esonero da verifica non esiste, e chi pensa il contrario si espone a conseguenze disciplinari ed economiche.
Cosa significa, in concreto, per chi progetta il proprio flusso di lavoro professionale? Che ogni output generato da un’IA — sia esso una massima giurisprudenziale, un riferimento normativo o un passaggio argomentativo — deve passare attraverso un filtro umano di controllo. La Cassazione lo esplicita: non basta copiare e incollare, occorre accertare che la sentenza esista davvero, che dica effettivamente ciò che il modello riporta, e che sia pertinente al caso concreto. È la stessa logica che da decenni governa la redazione di una perizia tecnica o di una relazione di conformità: lo strumento accelera, ma la firma è di chi garantisce. E a quel punto la responsabilità è piena.
Il principio affermato dalla Terza Sezione penale ha una portata che va ben oltre il singolo ricorso. Stabilisce un canone di diligenza professionale che si applica a qualunque operatore del diritto — avvocati, procuratori, praticanti — e, per analogia, a ogni contesto in cui un atto a firma umana incorpori contenuti generati automaticamente. La colpa non sta nell’allucinazione dell’algoritmo, che per sua natura può produrre output inaffidabili. Sta nella scelta consapevole di non controllare. Ed è questa scelta che la Cassazione considera «indice particolarmente significativo di colpa qualificata», trasformando un difetto tecnologico in una mancanza professionale.
La tecnologia è un acceleratore, ma la responsabilità resta umana. Chi firma un atto giudiziario risponde personalmente della sua veridicità: nessuna intelligenza artificiale potrà mai sostituire quel controllo, né potrà sedere al banco degli imputati al posto di chi ha deciso di fidarsi ciecamente di uno schermo.
