L’intelligenza artificiale entra sempre più spesso nelle aule di giustizia, ma il suo utilizzo può trasformarsi in un problema quando i contenuti generati vengono considerati attendibili senza un controllo adeguato. Negli Stati Uniti, un caso giudiziario riguardante un precedente inesistente richiamato in un’ordinanza ha riportato al centro dell’attenzione uno dei rischi più delicati dell’IA generativa: la capacità di produrre informazioni false con un linguaggio apparentemente autorevole.
La vicenda, raccontata da Byte, riguarda un provvedimento giudiziario successivamente annullato dalla Corte d’appello, con l’assegnazione del procedimento a un altro giudice. Un episodio che solleva interrogativi importanti sull’affidabilità degli strumenti di intelligenza artificiale quando vengono utilizzati per attività che incidono direttamente sui diritti delle persone.
Quando l’intelligenza artificiale inventa la giurisprudenza
Il fenomeno è conosciuto come allucinazione dell’intelligenza artificiale. I sistemi generativi possono produrre riferimenti a sentenze, numeri di procedimento, citazioni e principi giuridici che sembrano autentici, ma che in realtà non esistono oppure non corrispondono alle decisioni richiamate.
Il rischio aumenta quando questi risultati vengono inseriti in documenti legali senza verificarne l’esattezza attraverso banche dati e fonti ufficiali.
Nel settore giudiziario le conseguenze possono essere particolarmente gravi. Un precedente inesistente non rappresenta soltanto un errore bibliografico: può alterare il ragionamento giuridico, influenzare la motivazione di una decisione e compromettere la fiducia delle parti nella correttezza del procedimento.
Il giudice resta responsabile della decisione
La questione fondamentale riguarda il confine tra assistenza tecnologica e funzione giurisdizionale.
L’intelligenza artificiale può aiutare a organizzare documenti, sintetizzare materiali e individuare riferimenti normativi o giurisprudenziali. Ma il controllo delle fonti, l’interpretazione della legge e la valutazione degli elementi del processo non possono essere affidati automaticamente a un algoritmo.
Un testo prodotto dall’IA, anche quando appare convincente, non costituisce una fonte giuridica affidabile per il solo fatto di essere formulato correttamente.
La responsabilità finale rimane di chi utilizza lo strumento e sottoscrive il provvedimento. L’innovazione tecnologica non elimina il dovere di verificare le informazioni sulle quali si fonda una decisione.
Anche in Italia cresce l’attenzione sull’IA nei tribunali
Il problema non riguarda esclusivamente gli Stati Uniti. Anche in Italia sono emersi casi di provvedimenti giudiziari contenenti riferimenti inesatti o tracce dell’utilizzo di sistemi generativi.
La legge italiana n. 132 del 2025, all’articolo 15, stabilisce che l’interpretazione e l’applicazione della legge, la valutazione dei fatti e delle prove e l’adozione dei provvedimenti restano riservate al magistrato.
La normativa non esclude in assoluto l’impiego dell’intelligenza artificiale come supporto alle attività preparatorie o redazionali, ma impedisce che la funzione decisionale venga trasferita alla macchina.
La distinzione è essenziale: utilizzare un sistema di IA per facilitare il lavoro non equivale a delegargli la responsabilità di decidere.
La vera sfida è garantire una giustizia affidabile
Il caso americano dimostra quanto sia importante accompagnare l’introduzione dell’intelligenza artificiale nella giustizia con procedure di verifica rigorose.
La velocità con cui un algoritmo produce una motivazione o individua presunti precedenti non può prevalere sull’esigenza di garantire decisioni corrette, controllabili e fondate su fonti autentiche.
La tecnologia può rappresentare una risorsa preziosa per rendere più efficiente il sistema giudiziario. Ma quando un riferimento inventato entra in un provvedimento, il problema non riguarda più soltanto il funzionamento del software: investe la credibilità stessa della giustizia.
