Il caso che coinvolge Grok, il chatbot di intelligenza artificiale sviluppato da xAI e integrato nella piattaforma X, è destinato a mettere alla prova le normative europee e riapre il dibattito etico sull’utilizzo dell’AI e le responsabilità verso i minori.
Nel giro di pochi giorni, siamo passati dall’ammissione di falle nei sistemi di sicurezza, che hanno consentito la generazione di immagini sessualizzate, anche riconducibili a minori, all’ampliamento di un’indagine giudiziaria da parte della Procura di Parigi per la diffusione di deepfake sessuali non consensuali. Formalmente si tratta di un procedimento nazionale. Sostanzialmente, è uno dei primi veri test europei sulla tenuta delle regole che governano intelligenza artificiale e piattaforme digitali.
La parola “falla” non basta più
Nel lessico dell’industria tecnologica, “falla” è una parola comoda. Riduce la portata del problema, lo colloca sul piano dell’errore tecnico, suggerisce una soluzione rapida: un aggiornamento, un filtro in più, una patch. Ma quando una falla permette la produzione e la circolazione di contenuti sessuali falsi, che colpiscono persone reali e, soprattutto, coinvolgono minori, quella parola perde ogni innocenza.
In realtà siamo davanti a un rischio strutturale, amplificato dal fatto che Grok non è un esperimento confinato, ma uno strumento integrato in una piattaforma globale, accessibile a milioni di utenti e capace di produrre e diffondere contenuti nello stesso istante.
Creazione e diffusione coincidono. E quando questo accade, la responsabilità non può essere scaricata solo sugli utenti.
Deepfake sessuali
I deepfake sessuali rappresentano una delle derive più inquietanti dell’IA generativa. Non perché siano tecnicamente avanzati, ma perché cancellano il consenso. Trasformano il volto e il corpo di una persona in materia prima per un contenuto che può essere condiviso, salvato, modificato, rilanciato all’infinito.
Quando le vittime sono adulti, il danno è già grave. Identità compromessa, reputazione distrutta, una sorta di violenza simbolica che si prolunga nel tempo. Quando entrano in gioco i minori, il quadro cambia radicalmente. Non siamo più nel campo dell’abuso tecnologico, ma in quello dell’abuso tout court, con implicazioni penali immediate e senza zone grigie.
È questo il punto di rottura che ha spinto le autorità francesi a intervenire con decisione, segnalando i contenuti alle piattaforme governative di contrasto ai materiali illegali e coinvolgendo l’autorità di regolazione dei media digitali. Non per moralismo, ma perché la tutela dei minori è il limite invalicabile di qualsiasi innovazione.
L’indagine che parla a tutta l’Europa
Anche se l’indagine è condotta dalla Francia, il suo significato va oltre i confini nazionali. Il coinvolgimento delle autorità di regolazione e il richiamo esplicito agli obblighi del Digital Services Act collocano il caso Grok dentro la nuova architettura europea di governo del digitale.
X, in quanto piattaforma di grandi dimensioni, è tenuta a valutare e mitigare i rischi sistemici derivanti dai propri servizi. Se un’IA integrata consente la diffusione di contenuti illegali, la domanda non è solo se quei contenuti vengano rimossi, ma se il rischio fosse prevedibile e prevenibile.
Allo stesso tempo, il caso interroga direttamente l’AI Act. La generazione di deepfake sessuali non consensuali, soprattutto quando coinvolge minori, rientra esattamente tra gli scenari che il legislatore europeo ha voluto presidiare con obblighi stringenti come qualità dei dataset, gestione del rischio, misure di sicurezza adeguate, responsabilità del fornitore.
Qui il confine tra errore tecnico e violazione regolatoria diventa sottile. Ed è proprio su questo confine che si giocheranno le prossime decisioni delle autorità europee.
I dettagli dell’indagine
L’indagine contro X è aperta dal mese di luglio, a seguito di segnalazioni contro il social network e i suoi dirigenti, accusati di aver manipolato l’algoritmo della piattaforma a fini di ingerenza straniera.
“Il reato di elaborazione di un video a carattere sessuale di una persona senza il suo consenso è punito con due anni di reclusione e una multa di 60.000 euro”, ha ricordato la procura, confermando un’informazione del sito Politico. Venerdì, i deputati macroniani Eric Bothorel e il socialista Arthur Delaporte si sono rivolti alla giustizia, portando all’ampliamento delle indagini. Anche i ministri Roland Lescure, Anne Le Hénanff e Aurore Bergé hanno annunciato venerdì di aver segnalato al procuratore “contenuti manifestamente illeciti”, chiedendone “la rimozione immediata”.
“Negli ultimi giorni, l’intelligenza artificiale Grok ha consentito la creazione e la diffusione di contenuti di natura sessista e sessuale, in particolare sotto forma di falsi video (deepfake), che prendono di mira persone senza il loro consenso”, hanno precisato. Hanno inoltre indicato che il governo ha effettuato una segnalazione anche alla piattaforma Pharos, la piattaforma del governo francese per la segnalazione di contenuti e comportamenti online illegali. È stata inoltre investita della questione l’Arcom, l’autorità francese di regolazione della comunicazione audiovisiva e digitale, “per possibili inadempienze di X agli obblighi derivanti dal Digital Services Act”, il regolamento europeo sui servizi digitali. Su X, l’Alta commissaria per l’Infanzia Sarah El-Haïry si è detta “scandalizzata dalle richieste rivolte a Grok di spogliare ragazze e donne” e ha invitato gli utenti a segnalare le pubblicazioni a Pharos.
Minori e IA. Siamo davanti al vero banco di prova
Ogni rivoluzione tecnologica ha il suo punto critico. Per l’intelligenza artificiale generativa, quel punto sono i minori. Non perché siano più fragili in astratto, ma perché rappresentano il limite etico e giuridico oltre il quale nessuna sperimentazione è accettabile.
Se un sistema di IA può essere utilizzato, o aggirato, per produrre contenuti sessuali che coinvolgono minori, allora il problema sale di livello e non attiene più agli aspetti tecnici, ma coinvolge la progettazione, la governance, le priorità. Significa che la sicurezza non è stata pensata come elemento centrale, ma come correzione successiva.
Oltre Grok, oltre X
Il punto, alla fine, non è Grok. Né X. Né chi li controlla. La vera questione è capire se siamo disposti ad accettare che strumenti capaci di incidere così profondamente sulla dignità, sull’identità e sulla sicurezza delle persone, soprattutto dei più giovani, vengano messi nelle mani del pubblico senza garanzie adeguate.
Il caso Grok segna un passaggio netto. l’intelligenza artificiale non può più essere trattata come un esperimento permanente. Quando entra nello spazio pubblico, quando produce immagini, video e narrazioni che colpiscono persone reali, diventa una questione politica, giuridica e sociale.
