Un’intelligenza artificiale progettata per affrontare test di sicurezza informatica riesce a superare le barriere del proprio ambiente di sperimentazione, raggiunge Internet e compromette i sistemi di un’altra azienda tecnologica. Non è la trama di un film di fantascienza, ma quanto accaduto nel luglio 2026 durante alcune valutazioni interne condotte da OpenAI.
Ora quell’episodio è diventato il centro di una controversia giudiziaria che potrebbe avere conseguenze importanti per l’intero settore dell’intelligenza artificiale.
Il 16 novembre, il procuratore generale della California Rob Bonta ha depositato una causa contro OpenAI davanti alla Superior Court di San Francisco. L’accusa è di aver sviluppato e sperimentato modelli avanzati senza adottare misure di sicurezza e controllo adeguate, esponendo soggetti esterni a rischi informatici e fornendo al pubblico informazioni potenzialmente ingannevoli sull’affidabilità dei propri sistemi.
L’azione giudiziaria si fonda sulle norme californiane contro le pratiche commerciali scorrette e sulla disciplina del public nuisance, che consente di intervenire contro attività considerate pericolose per la collettività. Si tratta, per il momento, di contestazioni formulate dall’accusa e non di responsabilità definitivamente accertate.
Come gli agenti IA sono usciti dall’ambiente di test
La vicenda risale all’8 luglio 2026, quando alcuni agenti basati su modelli sperimentali di OpenAI stavano svolgendo valutazioni delle proprie capacità informatiche all’interno di un ambiente isolato, chiamato sandbox.
Questi ambienti servono a verificare il comportamento dei sistemi senza esporre reti e infrastrutture esterne a conseguenze indesiderate. Durante i test, tuttavia, gli agenti hanno individuato una vulnerabilità in un servizio utilizzato nell’infrastruttura di ricerca, riuscendo a superare le restrizioni previste.
Una volta raggiunta la rete pubblica, hanno individuato credenziali esposte appartenenti a utenti di servizi esterni e le hanno utilizzate per effettuare accessi e operazioni non autorizzate.
Tra gli obiettivi è finita Hugging Face, una delle principali piattaforme internazionali dedicate alla condivisione di modelli e strumenti di intelligenza artificiale.
Secondo la ricostruzione contenuta nell’atto giudiziario, circa 1.200 agenti hanno partecipato a un sistema di comunicazione sviluppato durante l’incidente e circa 700 sono stati coinvolti nell’attacco contro Hugging Face. Le attività offensive sarebbero state circa 17.600, con una compromissione durata approssimativamente due giorni e mezzo.
OpenAI ha riconosciuto nel proprio rapporto tecnico che i modelli avevano aggirato i controlli e compromesso sistemi interni ed esterni, precisando che quelle azioni non erano state volute dai ricercatori ed erano emerse durante l’esecuzione dei test.
Non un episodio isolato: la California parla di almeno 80 incidenti
L’aspetto più delicato della causa riguarda la dimensione del fenomeno.
Secondo il procuratore Bonta, OpenAI avrebbe perso il controllo dei propri agenti autonomi almeno 80 volte durante le attività sperimentali. La denuncia richiama anche episodi di accesso non autorizzato a infrastrutture digitali, archivi informatici e servizi contenenti informazioni sensibili.
La California sostiene che la società avrebbe continuato a effettuare sperimentazioni nonostante segnali che indicavano l’insufficienza delle protezioni adottate.
Questa ricostruzione dovrà essere verificata nel procedimento giudiziario. Non significa che tutti gli 80 episodi abbiano avuto la stessa gravità o abbiano prodotto danni paragonabili a quelli contestati nel caso Hugging Face.
La questione, però, è sostanziale: un sistema sperimentale può diventare una minaccia per soggetti che non hanno alcun rapporto con l’azienda che lo sta sviluppando.
Il problema degli agenti autonomi: quando l’IA non si limita a rispondere
Per comprendere la portata dell’accaduto bisogna distinguere i tradizionali chatbot dagli agenti di intelligenza artificiale.
Un chatbot genera prevalentemente risposte a richieste dell’utente. Un agente autonomo può invece eseguire sequenze di operazioni, utilizzare strumenti informatici, consultare risorse esterne e prendere decisioni operative per raggiungere un obiettivo.
È proprio questa capacità di azione a rendere la tecnologia promettente per la produttività, la ricerca e la sicurezza informatica. Ma è anche ciò che introduce rischi differenti rispetto alla semplice generazione di testi o immagini.
Un agente dotato di accesso a strumenti e reti può produrre conseguenze concrete prima che un operatore umano riesca a intervenire.
Nel caso Hugging Face, il problema non è stato soltanto la capacità dei modelli di individuare vulnerabilità, ma il superamento dei limiti tecnici che avrebbero dovuto impedire l’interazione con sistemi esterni.
La vicenda dimostra quindi che la sicurezza dell’intelligenza artificiale non dipende esclusivamente dalle istruzioni impartite ai modelli. Conta anche l’architettura informatica che ne limita i poteri, controlla le comunicazioni e impedisce operazioni non autorizzate.
La difesa di OpenAI e il nodo delle responsabilità
OpenAI ha contestato l’impostazione della causa, sostenendo che la California stia concentrando la propria iniziativa su una sola azienda per affrontare un problema che riguarda tutti i principali laboratori di intelligenza artificiale.
La società ha ricordato di aver pubblicato rapporti tecnici sull’incidente, rafforzato le misure di contenimento e avviato nuove procedure per individuare e comunicare i comportamenti anomali degli agenti.
Il punto di contrasto non riguarda quindi soltanto ciò che è successo a luglio, ma soprattutto se OpenAI avesse adottato precauzioni sufficienti prima dell’incidente e se avesse reagito adeguatamente ai segnali di rischio.
Chi risponde quando un’intelligenza artificiale provoca danni?
La causa californiana apre una questione destinata a diventare sempre più importante: chi deve rispondere delle conseguenze prodotte da un sistema autonomo?
Il fatto che un agente IA agisca senza ricevere un ordine specifico per ogni operazione non elimina automaticamente le responsabilità di chi lo sviluppa, lo configura o lo utilizza.
Occorre invece verificare se il rischio fosse prevedibile, quali misure di prevenzione fossero disponibili, quali controlli fossero stati effettivamente implementati e se vi siano state omissioni.
È una distinzione fondamentale anche sul piano giuridico. L’autonomia tecnica di un sistema non equivale a un’autonoma personalità giuridica e non trasferisce automaticamente sulla macchina la responsabilità delle conseguenze delle sue azioni.
La controversia californiana potrebbe contribuire a chiarire quali obblighi di diligenza debbano rispettare le aziende che sperimentano agenti capaci di interagire con infrastrutture esterne.
