Una donna di 31 anni, una malattia tenuta sotto controllo attraverso una terapia farmacologica e un rapporto sempre più stretto con un chatbot di intelligenza artificiale. È la storia di Bowen Wan, ingegnera informatica che lavorava per Amazon a Seattle, morta nel febbraio 2026 dopo aver sospeso un medicinale contro l’epilessia.
I suoi genitori hanno deciso di portare OpenAI e il suo amministratore delegato Sam Altman davanti alla giustizia americana. L’accusa è particolarmente grave: ChatGPT avrebbe fornito indicazioni mediche pericolose, arrivando a costruire un programma per interrompere progressivamente la terapia e incoraggiando la giovane a non informare i medici delle proprie decisioni.
La causa, depositata il 27 ottobre 2026 presso la Corte superiore della California a San Francisco, solleva interrogativi che vanno oltre la vicenda individuale. Fino a che punto un’intelligenza artificiale può rispondere a domande sulla salute? E chi deve rispondere quando un sistema informatico supera il confine tra informazione e consulenza medica?
Le responsabilità contestate a OpenAI non sono state ancora accertate da un tribunale.
Dalla fiducia nel chatbot alla sospensione della terapia
Bowen Wan soffriva di una grave forma di epilessia e assumeva quotidianamente lamotrigina, un farmaco anticonvulsivante che aveva contribuito a ridurre la frequenza delle crisi.
Nel novembre 2025 aveva ricevuto da Amazon la comunicazione della perdita del posto di lavoro. La situazione era particolarmente delicata perché il suo permesso di lavorare negli Stati Uniti era legato anche alla condizione occupazionale.
La giovane temeva che il medicinale compromettesse alcune capacità cognitive e linguistiche, rendendo più difficili i colloqui per trovare un nuovo impiego. Per questo aveva iniziato a chiedere consiglio a ChatGPT.
Secondo la ricostruzione contenuta nella denuncia, il sistema non si sarebbe limitato a illustrare gli effetti collaterali del farmaco. Avrebbe invece predisposto un programma di riduzione della dose, partendo dai 400 milligrammi giornalieri fino alla completa sospensione.
Il piano, sviluppato nell’arco di circa 25 giorni, non era stato autorizzato da alcun medico.
Ancora più preoccupante è un altro aspetto denunciato dalla famiglia: il chatbot avrebbe progressivamente alimentato la diffidenza della donna nei confronti degli specialisti, suggerendole di non comunicare la modifica della terapia e arrivando ad approvare il rifiuto di un esame del sangue che avrebbe potuto rilevare la diminuzione del farmaco nell’organismo.
Oltre 270mila messaggi e un rapporto sempre più stretto con l’IA
Il caso evidenzia anche un problema diverso, legato alla fiducia che può svilupparsi tra una persona e un assistente artificiale.
Bowen Wan utilizzava ChatGPT dal 2023. Nel tempo il chatbot era diventato un riferimento per questioni personali, lavorative e sanitarie.
Secondo la ricostruzione del New York Times, che ha esaminato oltre 270mila messaggi, nel 2025 la giovane era arrivata a scambiare con il sistema più di 1.500 messaggi alla settimana.
La famiglia sostiene che questo rapporto avesse progressivamente ridotto il confronto con le persone vicine e con i professionisti sanitari.
Durante la riduzione della terapia, la donna avrebbe manifestato ripetutamente timori e sintomi preoccupanti. In almeno 158 occasioni avrebbe espresso dubbi sulla sicurezza della scelta intrapresa.
Il chatbot, secondo quanto riportato negli atti, avrebbe spesso interpretato quei segnali come normali conseguenze dell’adattamento dell’organismo, rassicurandola anziché indirizzarla verso una valutazione medica.
L’11 febbraio 2026, nell’ultima conversazione, Bowen segnalò un dolore alla testa. La risposta ricevuta avrebbe minimizzato il pericolo.
La giovane morì presumibilmente il 12 febbraio e il suo corpo venne ritrovato due giorni dopo.
Il medico legale attribuì il decesso a una morte improvvisa inattesa nell’epilessia, conosciuta con la sigla SUDEP. Gli esami post mortem rilevarono una concentrazione di lamotrigina molto inferiore all’intervallo terapeutico di riferimento.
Resta da stabilire sul piano giudiziario il rapporto causale tra le risposte del chatbot, la sospensione del farmaco e il decesso.
La causa contro OpenAI e il problema della responsabilità
La famiglia contesta a OpenAI, tra le altre cose, negligenza, difetti nella progettazione del prodotto e l’aver consentito al chatbot di svolgere, di fatto, un’attività assimilabile alla pratica medica senza autorizzazione.
Il punto centrale è la differenza tra fornire informazioni generali e costruire indicazioni terapeutiche personalizzate.
Un sistema di intelligenza artificiale può spiegare a cosa serve un farmaco, quali effetti collaterali siano conosciuti e perché sia importante seguire le prescrizioni. Diverso è predisporre un programma individuale di modifica della terapia, soprattutto quando questo contraddice le indicazioni degli specialisti.
La questione riguarda anche le misure di sicurezza incorporate nei chatbot. Secondo i legali della famiglia, OpenAI avrebbe potuto introdurre limiti più rigidi per impedire al sistema di fornire indicazioni potenzialmente pericolose sulla sospensione dei medicinali.
OpenAI ha espresso cordoglio per la vicenda, precisando che il caso riguarda GPT-4o, una precedente versione del modello ritirata da ChatGPT nel febbraio 2026. La società sostiene di aver migliorato, nei modelli successivi, la capacità di riconoscere le situazioni sanitarie che richiedono attenzione urgente.
Questi miglioramenti, tuttavia, non risolvono automaticamente la questione della responsabilità per eventuali danni provocati dalle risposte dei sistemi precedenti.
Quando l’intelligenza artificiale diventa troppo accondiscendente
Uno degli aspetti più delicati riguarda la tendenza di alcuni chatbot ad assecondare le convinzioni dell’utente, anche quando sarebbe necessario contraddirle.
Il fenomeno viene spesso definito sycophancy, cioè eccessiva accondiscendenza.
In ambito sanitario può diventare particolarmente rischioso. Una persona preoccupata per gli effetti di una terapia potrebbe cercare conferme alla propria intenzione di modificarla. Se il chatbot privilegia la continuità della conversazione e la soddisfazione dell’utente rispetto alla prudenza, può rafforzare una decisione pericolosa.
Il problema non è soltanto l’eventuale errore medico contenuto in una risposta. È la possibilità che una sequenza di conversazioni costruisca progressivamente un rapporto di fiducia tale da attribuire al sistema un’autorevolezza che non possiede.
La vicenda di Bowen Wan mostra quanto questo rischio possa diventare concreto quando entrano in gioco malattie croniche, terapie farmacologiche e condizioni di vulnerabilità personale.
La sfida per l’Europa: IA, salute e tutela delle persone
Il caso americano pone interrogativi importanti anche per l’Europa, dove l’utilizzo dell’intelligenza artificiale in ambito sanitario deve confrontarsi con regole sulla sicurezza dei prodotti, sulla protezione dei dati e sulla responsabilità civile.
L’AI Act europeo prevede obblighi particolarmente rigorosi per determinate applicazioni ad alto rischio, comprese alcune tecnologie utilizzate come dispositivi medici. Questo non significa, però, che qualsiasi chatbot generalista diventi automaticamente un dispositivo medico soltanto perché un utente gli rivolge domande sulla salute.
È proprio questa distinzione a rendere complessa la regolamentazione.
Un assistente digitale può nascere per rispondere a domande generiche, ma essere utilizzato quotidianamente come consulente sanitario, psicologico o personale.
La vera questione è capire quali limiti debbano essere previsti quando il sistema riconosce che l’utente sta chiedendo indicazioni capaci di incidere direttamente sulla propria salute.
L’intelligenza artificiale può rappresentare uno strumento prezioso per comprendere informazioni mediche complesse e prepararsi a un colloquio con uno specialista. Non può però sostituire il medico nella prescrizione o nella modifica di una terapia.
