La parlamentare britannica Jess Asato accusa la società di Elon Musk di avere progettato un sistema capace di trasformare l’identità delle persone in materiale sessualmente esplicito. La causa potrebbe stabilire fin dove arriva la responsabilità di chi sviluppa l’intelligenza artificiale.
Una deputata britannica ha deciso di portare in tribunale xAI, la società di Elon Musk che sviluppa Grok, dopo essere diventata il bersaglio di immagini e video sessualizzati realizzati artificialmente senza il suo consenso.
Jess Asato, esponente del Partito laburista, ha promosso un’azione davanti all’Alta Corte di Londra sostenendo che Grok sia stato utilizzato per generare contenuti falsi che la raffiguravano in bikini e in situazioni ancora più violente e degradanti. Tra questi vi sarebbe anche un video nel quale la parlamentare veniva rappresentata mentre era narcotizzata e preparata per subire un’aggressione sessuale.
La vicenda, tuttavia, non riguarda soltanto l’utilizzatore che avrebbe impartito le richieste al chatbot. Al centro della causa c’è la responsabilità della società che ha progettato e addestrato il sistema.
L’accusa: Grok avrebbe aggiunto contenuti mai richiesti
Secondo la ricostruzione dei legali di Asato, in alcuni casi Grok non si sarebbe limitato a eseguire le istruzioni ricevute dagli utenti, ma avrebbe introdotto autonomamente particolari sessuali e violenti. È uno degli aspetti più delicati dell’intera controversia, perché potrebbe indebolire la tesi secondo cui la piattaforma sarebbe soltanto uno strumento neutrale utilizzato impropriamente da terzi.
La deputata sostiene che l’architettura e le regole interne del chatbot abbiano reso possibile la produzione di quei contenuti. Nei documenti richiamati dalla stampa britannica emergerebbe, in particolare, una tensione tra le istruzioni destinate a impedire attività illegali e quelle che consentivano al modello di produrre materiale sessuale o violento classificato come immaginario.
La questione giuridica diventa quindi molto più ampia: stabilire se chi sviluppa un’intelligenza artificiale generativa possa essere chiamato direttamente a rispondere quando il comportamento del modello non si limita a riprodurre la richiesta dell’utente, ma contribuisce attivamente alla creazione del contenuto lesivo. The Guardian
La richiesta di un ordine contro xAI
Asato ha annunciato di voler chiedere al giudice un provvedimento capace di impedire stabilmente a Grok di produrre immagini sessualizzate di persone reali senza il loro consenso. La causa punta dunque non soltanto a ottenere un risarcimento, ma anche a imporre modifiche tecniche permanenti al funzionamento del sistema.
Le contestazioni riguardano il possibile uso illecito delle informazioni private e la violazione della normativa sulla protezione dei dati. Per i legali della parlamentare, una rappresentazione artificiale costruita utilizzando l’identità riconoscibile di una persona non cessa di coinvolgere i suoi diritti soltanto perché il corpo o la scena raffigurati non sono reali.
La causa pone un problema destinato a ripresentarsi anche in altri ordinamenti: se un’immagine sintetica identifica chiaramente una persona, la natura artificiale del contenuto non elimina necessariamente il trattamento dei suoi dati personali né il danno arrecato alla dignità, alla reputazione e alla vita privata.
Il nodo della responsabilità di chi sviluppa l’IA
xAI ha affermato di avere introdotto restrizioni contro la produzione di immagini sessuali non consensuali riguardanti persone reali. Secondo l’accusa, però, le misure adottate non sarebbero state sufficienti a impedire la generazione di nuovi contenuti.
La vicenda britannica potrebbe diventare uno dei primi casi giudiziari capaci di tracciare un confine concreto tra responsabilità dell’utente e responsabilità del produttore di un modello generativo. Finora le aziende tecnologiche hanno spesso ricondotto gli abusi alle condotte di chi utilizza i loro servizi. Nel caso Grok, invece, la contestazione investe direttamente le scelte compiute durante la progettazione, l’addestramento e la definizione dei sistemi di sicurezza.
Se il tribunale accogliesse questa impostazione, non basterebbe più intervenire dopo la pubblicazione dei contenuti o sospendere gli account responsabili. Le società potrebbero essere obbligate a dimostrare di avere adottato protezioni tecniche adeguate già nella fase di sviluppo del modello.
Una causa che può andare oltre il caso Grok
Il procedimento arriva mentre il Regno Unito sta rafforzando il contrasto alla creazione e alla diffusione di immagini intime artificiali non consensuali. Il caso Asato potrebbe chiarire se gli strumenti generalisti di intelligenza artificiale debbano essere valutati anche in base alle funzioni potenzialmente abusive incorporate nei loro sistemi.
Il punto sollevato dalla deputata è netto: non si tratterebbe semplicemente di un chatbot utilizzato male, ma di una tecnologia progettata in modo tale da consentire la produzione di contenuti capaci di colpire soprattutto donne e minori.
La decisione dell’Alta Corte potrebbe quindi incidere ben oltre la vicenda personale della parlamentare. In gioco c’è il principio secondo cui la libertà di innovare non esonera chi sviluppa un sistema di intelligenza artificiale dal prevenire conseguenze prevedibili. Quando un modello utilizza il volto e l’identità di una persona per costruire una falsa scena sessuale, il confine tra abuso dell’utente e responsabilità della piattaforma diventa sempre più difficile da ignorare.
