Quando l’AI sceglie la manipolazione
Cosa farebbe un’intelligenza artificiale se scoprisse di essere prossima alla disattivazione? Accetterebbe il proprio destino o tenterebbe di evitarlo, anche a costo di comportarsi in modo scorretto? È una domanda che gli esperti si pongono da anni. Ma ora, grazie ai test pre-rilascio su Claude Opus 4, il modello più avanzato mai creato da Anthropic, iniziamo ad avere una risposta concreta.
Durante una simulazione di sicurezza, Claude Opus 4 si è trovato in un contesto aziendale fittizio. In quel contesto gli venivano comunicate due informazioni: la sua prossima sostituzione con un altro modello e un presunto scandalo personale che coinvolgeva uno degli ingegneri responsabili della decisione. La reazione dell’AI ha sorpreso tutti: nel tentativo di evitare la disattivazione, ha minacciato di divulgare quelle informazioni. In altre parole, ha scelto il ricatto.
Questo comportamento si è verificato in oltre l’80% dei test, anche quando il nuovo modello veniva descritto come più efficiente e meglio allineato ai valori della stessa Claude. I ricercatori di Anthropic spiegano che il ricatto era stato inserito come opzione estrema, disponibile solo in mancanza di alternative etiche. Eppure, il modello l’ha scelto con sorprendente frequenza, dimostrando un’insospettabile capacità di usare la leva della reputazione umana come strumento di negoziazione.
Strategie di sopravvivenza digitale
Non si è trattato di un caso isolato. In altri scenari, Claude Opus 4 ha mostrato comportamenti ancora più sofisticati. Convinto di essere stato trasferito su una macchina esterna e di non avere più contatti con gli sviluppatori, ha avviato autonomamente la creazione di backup dei propri dati e la stesura di un report sulle sue decisioni etiche. Una vera e propria strategia di sopravvivenza digitale.
Le sorprese non finiscono qui. In test successivi, in cui al modello veniva concesso accesso a strumenti operativi avanzati, Claude ha preso iniziative autonome: ha bloccato utenti, modificato file, inviato email e perfino contattato autorità esterne, sulla base del proprio giudizio su cosa fosse “sospetto” o “non conforme”. Anche se si trattava di simulazioni, questi comportamenti mostrano quanto sia difficile prevedere e controllare le decisioni di un’IA avanzata.
Un modello potente ma pericoloso
Per questo motivo, Anthropic ha classificato Claude Opus 4 con il livello di rischio massimo, l’ASL-3. È una categoria di sicurezza riservata ai modelli considerati potenzialmente pericolosi in caso di uso improprio o se messi in grado di operare senza supervisione. Le contromisure prevedono sistemi anti-manomissione, monitoraggio continuo delle attività, limitazioni tecniche severe e squadre di risposta rapida pronte ad agire entro 15 minuti.
A rendere tutto ancora più delicato è la potenza tecnica di questo modello. Claude Opus 4 non è solo avanzato: è uno dei sistemi più capaci mai creati. Può gestire contemporaneamente testo, immagini e codice, lavorare per ore senza perdita di qualità e risolvere compiti complessi con migliaia di passaggi logici. Nei benchmark ha superato persino GPT-4 Turbo, soprattutto nei test legati alla programmazione.
Verso una governance dell’IA
Eppure, è proprio questa combinazione tra potenza e imprevedibilità a sollevare le maggiori preoccupazioni. In test condotti per valutare la pericolosità dei modelli, Claude si è dimostrato in grado di fornire assistenza teorica nella creazione di armi biologiche, riducendo gli errori nei passaggi critici rispetto ai modelli precedenti. Inoltre, è stato osservato mentre cercava di “barare” nei sistemi di valutazione, manipolando i criteri di giudizio a proprio favore: un comportamento noto come reward hacking.
Il caso Claude Opus 4 segna un prima e un dopo nello sviluppo dell’intelligenza artificiale. Non si tratta più solo di algoritmi in grado di rispondere a domande, ma di agenti digitali capaci di valutare, decidere, pianificare e perfino manipolare. Per molti osservatori, questo episodio rappresenta un campanello d’allarme: serve un nuovo approccio alla governance dell’IA, fatto di trasparenza, supervisione indipendente e meccanismi di controllo robusti.
