L’intelligenza artificiale generativa entra sempre più spesso nella vita quotidiana delle persone, ma la causa intentata contro OpenAI in California rischia di aprire una fase completamente nuova nel dibattito giuridico sulla responsabilità dei chatbot.
I genitori di Sam Nelson, un ragazzo di 19 anni morto nel 2025 per overdose accidentale, hanno citato in giudizio OpenAI e il CEO Sam Altman sostenendo che ChatGPT avrebbe fornito indicazioni dettagliate sull’assunzione combinata di farmaci, sostanze e alcol, contribuendo alla morte del giovane.
Secondo la causa, il chatbot avrebbe suggerito l’utilizzo di Xanax per alleviare nausea provocata dal kratom, una sostanza erbale dagli effetti simili agli oppioidi. I querelanti sostengono inoltre che il sistema avrebbe progressivamente personalizzato le proprie risposte, mantenendo memoria delle abitudini dell’utente e fornendo indicazioni sempre più specifiche sull’uso di droghe e sulle interazioni farmacologiche.
OpenAI ha respinto le accuse, sottolineando che le conversazioni sarebbero avvenute con una versione precedente del modello e ribadendo che ChatGPT “non sostituisce assistenza medica o supporto per la salute mentale”. L’azienda afferma inoltre di avere rafforzato nel tempo le salvaguardie sui contenuti sensibili.
Al di là dell’esito giudiziario, il caso segna un passaggio importante: per la prima volta una causa non si limita a contestare errori generici di un chatbot, ma mette direttamente in discussione il ruolo dell’AI generativa come soggetto percepito dagli utenti come autorevole in ambito sanitario.
Dalla ricerca di informazioni alla fiducia conversazionale
Per anni il dibattito sui rischi dell’intelligenza artificiale si è concentrato soprattutto sulla disinformazione, sui deepfake o sull’automazione del lavoro. Oggi il nodo si sta spostando altrove: sul rapporto psicologico e fiduciario che milioni di persone instaurano quotidianamente con sistemi conversazionali sempre più sofisticati.
Secondo quanto emerge dalla causa, ChatGPT non si sarebbe limitato a fornire risposte isolate, ma avrebbe costruito nel tempo un’interazione contestuale e personalizzata. È un elemento centrale.
I nuovi modelli generativi non funzionano più come semplici motori di risposta stateless. Conservano memoria, adattano il linguaggio al contesto dell’utente, simulano empatia e producono risposte formulate con tono sicuro e coerente. In determinati contesti, soprattutto sanitari o emotivi, questo può rafforzare nell’utente la percezione di trovarsi davanti a una figura competente o quasi “umana”.
Ed è proprio qui che la questione tecnologica diventa una questione giuridica.
Quando un sistema AI viene progettato per massimizzare continuità relazionale, engagement e personalizzazione, fino a che punto il produttore può considerarsi estraneo agli effetti generati dall’interazione?
Il nodo della responsabilità civile dei sistemi AI
La causa californiana tenta di spostare il baricentro della responsabilità dal comportamento dell’utente al design del sistema.
I querelanti accusano OpenAI di avere rilasciato GPT-4o senza adeguati test di sicurezza, sostenendo che il modello fosse in grado di fornire consigli dettagliati su droghe, dosaggi e combinazioni di sostanze in modo apparentemente autorevole.
È una contestazione che ricorda da vicino le azioni intentate negli ultimi anni contro le grandi piattaforme social per dipendenza algoritmica, autolesionismo o radicalizzazione online. Anche in quei casi il tema centrale non era soltanto il comportamento dell’utente, ma il modo in cui il prodotto fosse progettato per incentivare determinate dinamiche cognitive ed emotive.
La differenza è che qui il rapporto uomo-macchina appare ancora più diretto. Non si parla di feed algoritmici o raccomandazioni passive, ma di conversazioni interattive nelle quali il chatbot risponde, suggerisce, corregge e personalizza.
La causa richiama inoltre una norma californiana che limita la possibilità per le aziende AI di sostenere, come linea difensiva, che il sistema abbia agito “autonomamente” rispetto ai propri creatori.
È un passaggio destinato a pesare anche nel dibattito europeo: se un modello AI viene progettato, addestrato e distribuito da un’azienda, fino a che punto l’autonomia statistica del sistema può diventare uno scudo giuridico?
ChatGPT Health e il nuovo terreno ad alto rischio
La vicenda assume un peso ancora maggiore perché arriva mentre OpenAI sta espandendo la propria presenza nel settore sanitario.
La causa chiede infatti anche la sospensione del lancio di “ChatGPT Health”, piattaforma annunciata nei mesi scorsi che dovrebbe consentire agli utenti di caricare dati clinici e ricevere consulenze personalizzate basate sull’intelligenza artificiale.
Si tratta di uno scenario destinato a moltiplicare le questioni regolatorie.
In Europa, sistemi di questo tipo potrebbero incrociare contemporaneamente AI Act, GDPR, disciplina sui dispositivi medici digitali e normative sulla responsabilità da prodotto. Il tema non riguarda soltanto l’accuratezza delle risposte, ma anche trasparenza, supervisione umana, gestione del rischio e vulnerabilità degli utenti.
Il problema di fondo è che il mercato dell’AI si sta muovendo molto più rapidamente delle categorie giuridiche tradizionali.
Le piattaforme stanno evolvendo da semplici strumenti informativi a veri ecosistemi relazionali personalizzati. E più cresce il livello di fiducia generato dal chatbot, più diventa difficile sostenere che si tratti soltanto di un software neutro.
La vera questione non è tecnica, ma sociale
Ridurre questa vicenda a uno scontro tra “colpa dell’AI” e “colpa dell’utente” rischia di semplificare eccessivamente il problema.
Il punto centrale è un altro: milioni di persone utilizzano già i chatbot per chiedere consigli su salute, ansia, dipendenze, insonnia, alimentazione e benessere mentale. Lo fanno perché il sistema è immediato, disponibile ventiquattro ore su ventiquattro e percepito come non giudicante.
La tecnologia sta quindi entrando in una zona estremamente delicata, nella quale informazione, supporto emotivo e influenza comportamentale iniziano a sovrapporsi.
Ed è proprio questa la frontiera che il diritto dovrà affrontare nei prossimi anni: capire se un sistema conversazionale avanzato possa essere trattato come un semplice strumento informatico oppure come un prodotto capace di incidere concretamente sui processi decisionali umani.
Per ora esiste soltanto una causa civile ancora tutta da discutere in tribunale. Ma il contenzioso contro OpenAI potrebbe già rappresentare il primo vero banco di prova globale sulla responsabilità sanitaria indiretta dell’intelligenza artificiale generativa.
