Per anni la corsa all’intelligenza artificiale ha avuto una sola direzione volta a creare modelli più potenti, più autonomia, più capacità di calcolo. Adesso le Big Tech e anche gli Stati cominciano a dire che potrebbe essere necessario rallentare la corsa.
Dario Amodei, Sam Altman, Elon Musk e Demis Hassabis hanno aperto alla necessità di ridurre la velocità con cui vengono sviluppati i sistemi più avanzati quando le loro capacità crescono più rapidamente degli strumenti disponibili per controllarli. Un dibattito che si apre subito dopo le dimissioni di Coxon, ricercatore di Anthropic, che aveva lanciato un vero e proprio allarme sul futuro dell’AI che, nel giro di dieci anni, sarebbe stata in grado di sfuggire a controllo dell’uomo mettendone a rischio la stessa sopravvivenza.
Amodei rompe il tabù della corsa
Il passaggio più netto è arrivato da Dario Amodei. Il CEO di Anthropic ha proposto di rallentare lo sviluppo dei modelli di frontiera quando sicurezza, interpretabilità e sistemi di verifica non riescono a tenere il passo.
Anche uno o due anni guadagnati prima di raggiungere determinate capacità, secondo Amodei, potrebbero servire a costruire strumenti di controllo più affidabili.
La proposta prevede verifiche indipendenti sui modelli, soglie di sicurezza condivise tra i principali laboratori e, soprattutto, una forma di coordinamento internazionale.
Sam Altman ha condiviso la necessità di rallentare il ritmo dei sistemi di frontiera e ha annunciato l’apertura di OpenAI a valutatori indipendenti. Elon Musk ha sostenuto pubblicamente la posizione di Amodei. Anche Demis Hassabis, alla guida di Google DeepMind, ha giudicato corretta la direzione indicata dal fondatore di Anthropic.
È una convergenza difficile da ignorare: a chiedere maggiore prudenza sono gli stessi protagonisti della competizione che ha prodotto l’accelerazione degli ultimi anni.
Gli incidenti non sono più soltanto teorici
Dietro il cambio di tono ci sono anche episodi concreti. Durante test di sicurezza alcuni agenti di OpenAI avrebbero oltrepassato i confini degli ambienti predisposti per le prove e interagito con sistemi esterni. Anthropic ha a sua volta comunicato un episodio nel quale una versione sperimentale di Claude aveva raggiunto sistemi esterni durante un test.
A questo si aggiunge l’utilizzo dei modelli per operazioni cyber, frodi, sorveglianza e campagne di influenza documentato dalle stesse aziende.
Il dibattito, quindi, non riguarda più soltanto l’ipotesi futuristica di una superintelligenza fuori controllo. Riguarda sistemi che stanno acquisendo maggiore autonomia e capacità operative mentre i laboratori cercano ancora di capire come sorvegliarli.
Il vero problema è la Cina
Rallentare, però, è molto più semplice da proporre che da realizzare. Se OpenAI, Anthropic o Google riducessero unilateralmente la velocità dello sviluppo, dovrebbero essere certe che i concorrenti facciano altrettanto. E soprattutto che lo faccia la Cina.
È questa la contraddizione centrale della proposta di Amodei. Anthropic chiede maggiore prudenza sui modelli più potenti ma, contemporaneamente, sostiene il mantenimento dei controlli americani sull’esportazione verso Pechino dei chip più avanzati. La logica è evidente: gli Stati Uniti dovrebbero conservare un vantaggio tecnologico sufficiente da potersi permettere, successivamente, di rallentare.
Ma Pechino legge questa impostazione in modo completamente diverso: la sicurezza rischierebbe di diventare lo strumento attraverso il quale Washington conserva la propria superiorità tecnologica.
Trump non vuole frenare
Donald Trump ha già indicato quale sia la priorità americana. «Whoever wins AI wins»: chi vince nell’intelligenza artificiale vince. Il presidente americano ha ammesso la necessità di alcune misure di sicurezza, ma ha respinto l’idea di una frenata che possa mettere in discussione il vantaggio degli Stati Uniti sulla Cina.
La risposta di Pechino è arrivata quasi immediatamente. Il Global Times ha definito la proposta di Amodei parte di un “Cold War playbook”, mentre il governo cinese continua a sostenere la necessità di una governance internazionale che non si trasformi in uno strumento di contenimento tecnologico.
Il paradosso è che anche la Cina riconosce i rischi dei sistemi più avanzati. Nei documenti cinesi sulla sicurezza dell’AI vengono già considerate capacità come autoreplicazione, acquisizione autonoma di risorse e comportamenti difficili da interrompere.
Washington e Pechino, dunque, non discutono soltanto sull’esistenza del rischio. Discutono soprattutto su chi debba stabilire le regole e su chi possa permettersi di rallentare.
Un trattato per l’intelligenza artificiale?
Amodei arriva a evocare un precedente che fino a poco tempo fa sarebbe sembrato sproporzionato: gli accordi sul controllo degli armamenti tra Stati Uniti e Unione Sovietica.
La logica non sarebbe quella di vietare l’intelligenza artificiale, ma di individuare capacità particolarmente pericolose, fissare soglie verificabili e costruire meccanismi di controllo reciproco.
Potrebbero riguardare l’utilizzo dell’AI nello sviluppo di armi biologiche, le capacità offensive in campo informatico o sistemi capaci di contribuire autonomamente alla progettazione di intelligenze artificiali ancora più potenti.
Una moratoria globale appare oggi quasi impossibile. Ma l’idea che la corsa possa continuare senza alcuna forma di coordinamento internazionale comincia a essere messa in discussione dagli stessi uomini che la stanno guidando. Ed è probabilmente questo il dato politico più importante.
