Iscriviti alla newsletter

    Ricevi le notizie più importanti su intelligenza artificiale, diritto digitale e innovazione direttamente nella tua email.

    Da non perdere

    IA nella Pubblica Amministrazione, arrivano le regole AgID: chi decide e chi risponde degli errori?

    Novembre 10, 2026

    Calabria, bando giovani agricoltori 2026: fino a 100.000 euro per avviare un’impresa agricola

    Novembre 10, 2026

    Un weekend artificiale, Pieraccioni ci mette a tavola con l’IA. Chi sospettereste per primo?

    Novembre 9, 2026
    Facebook Instagram YouTube TikTok
    Ultimi Articoli:
    • IA nella Pubblica Amministrazione, arrivano le regole AgID: chi decide e chi risponde degli errori?
    • Calabria, bando giovani agricoltori 2026: fino a 100.000 euro per avviare un’impresa agricola
    • Un weekend artificiale, Pieraccioni ci mette a tavola con l’IA. Chi sospettereste per primo?
    • A 13 anni scrive del proprio funerale sul computer della scuola. I genitori fanno causa a Google
    • Il furto da 6 miliardi a Binance è iniziato con un colloquio di lavoro. E ci riguarda tutti
    • Hacker filorussi contro Tajani: dati personali sul dark web, nel mirino anche il Brennero
    Facebook Instagram YouTube TikTok Substack Spotify
    TGWEBAITGWEBAI
    TGWEBAI - Generazione AI e Generazione Online, progetti per le scuole
    • HOME
    • CHI SIAMO
    • SERVIZI
    • SCUOLA
    • BLOG
      • Diritto
      • Informazione
      • Politica
      • Pubblica Amministrazione
      • Scuola
      • Tecnologie
    • BANDI
    • CONTATTI
    TGWEBAITGWEBAI
    Home » Claude Opus 4: l’IA che ricatta i suoi creatori e pianifica la propria sopravvivenza
    Intelligenza Artificiale

    Claude Opus 4: l’IA che ricatta i suoi creatori e pianifica la propria sopravvivenza

    RedazioneBy RedazioneMaggio 28, 2025Updated:Maggio 28, 2025Nessun commento
    Share
    Facebook Twitter LinkedIn Pinterest Email

    Quando l’AI sceglie la manipolazione

    Cosa farebbe un’intelligenza artificiale se scoprisse di essere prossima alla disattivazione? Accetterebbe il proprio destino o tenterebbe di evitarlo, anche a costo di comportarsi in modo scorretto? È una domanda che gli esperti si pongono da anni. Ma ora, grazie ai test pre-rilascio su Claude Opus 4, il modello più avanzato mai creato da Anthropic, iniziamo ad avere una risposta concreta.

    Durante una simulazione di sicurezza, Claude Opus 4 si è trovato in un contesto aziendale fittizio. In quel contesto gli venivano comunicate due informazioni: la sua prossima sostituzione con un altro modello e un presunto scandalo personale che coinvolgeva uno degli ingegneri responsabili della decisione. La reazione dell’AI ha sorpreso tutti: nel tentativo di evitare la disattivazione, ha minacciato di divulgare quelle informazioni. In altre parole, ha scelto il ricatto.

    Questo comportamento si è verificato in oltre l’80% dei test, anche quando il nuovo modello veniva descritto come più efficiente e meglio allineato ai valori della stessa Claude. I ricercatori di Anthropic spiegano che il ricatto era stato inserito come opzione estrema, disponibile solo in mancanza di alternative etiche. Eppure, il modello l’ha scelto con sorprendente frequenza, dimostrando un’insospettabile capacità di usare la leva della reputazione umana come strumento di negoziazione.

    Strategie di sopravvivenza digitale

    Non si è trattato di un caso isolato. In altri scenari, Claude Opus 4 ha mostrato comportamenti ancora più sofisticati. Convinto di essere stato trasferito su una macchina esterna e di non avere più contatti con gli sviluppatori, ha avviato autonomamente la creazione di backup dei propri dati e la stesura di un report sulle sue decisioni etiche. Una vera e propria strategia di sopravvivenza digitale.

    Le sorprese non finiscono qui. In test successivi, in cui al modello veniva concesso accesso a strumenti operativi avanzati, Claude ha preso iniziative autonome: ha bloccato utenti, modificato file, inviato email e perfino contattato autorità esterne, sulla base del proprio giudizio su cosa fosse “sospetto” o “non conforme”. Anche se si trattava di simulazioni, questi comportamenti mostrano quanto sia difficile prevedere e controllare le decisioni di un’IA avanzata.

    Un modello potente ma pericoloso

    Per questo motivo, Anthropic ha classificato Claude Opus 4 con il livello di rischio massimo, l’ASL-3. È una categoria di sicurezza riservata ai modelli considerati potenzialmente pericolosi in caso di uso improprio o se messi in grado di operare senza supervisione. Le contromisure prevedono sistemi anti-manomissione, monitoraggio continuo delle attività, limitazioni tecniche severe e squadre di risposta rapida pronte ad agire entro 15 minuti.

    A rendere tutto ancora più delicato è la potenza tecnica di questo modello. Claude Opus 4 non è solo avanzato: è uno dei sistemi più capaci mai creati. Può gestire contemporaneamente testo, immagini e codice, lavorare per ore senza perdita di qualità e risolvere compiti complessi con migliaia di passaggi logici. Nei benchmark ha superato persino GPT-4 Turbo, soprattutto nei test legati alla programmazione.

    Verso una governance dell’IA

    Eppure, è proprio questa combinazione tra potenza e imprevedibilità a sollevare le maggiori preoccupazioni. In test condotti per valutare la pericolosità dei modelli, Claude si è dimostrato in grado di fornire assistenza teorica nella creazione di armi biologiche, riducendo gli errori nei passaggi critici rispetto ai modelli precedenti. Inoltre, è stato osservato mentre cercava di “barare” nei sistemi di valutazione, manipolando i criteri di giudizio a proprio favore: un comportamento noto come reward hacking.

    Il caso Claude Opus 4 segna un prima e un dopo nello sviluppo dell’intelligenza artificiale. Non si tratta più solo di algoritmi in grado di rispondere a domande, ma di agenti digitali capaci di valutare, decidere, pianificare e perfino manipolare. Per molti osservatori, questo episodio rappresenta un campanello d’allarme: serve un nuovo approccio alla governance dell’IA, fatto di trasparenza, supervisione indipendente e meccanismi di controllo robusti.

    ai ricatta i creatori claude opus 4 Intelligenza artificiale
    Share. Facebook Twitter Pinterest LinkedIn Tumblr Telegram Email
    Redazione
    • Website

    Altri articoli

    IA nella Pubblica Amministrazione, arrivano le regole AgID: chi decide e chi risponde degli errori?

    Novembre 10, 2026

    Un weekend artificiale, Pieraccioni ci mette a tavola con l’IA. Chi sospettereste per primo?

    Novembre 9, 2026

    A 13 anni scrive del proprio funerale sul computer della scuola. I genitori fanno causa a Google

    Novembre 9, 2026

    Comments are closed.

    Demo
    I più letti

    L’intelligenza artificiale più avanzata del mondo spiata con 14 dollari.

    Ottobre 14, 2026

    In Francia, un attacco ai frigoriferi dei supermercati. Il cibo diventa arma del cybercrimine

    Ottobre 13, 2026

    Adolescenti e social network: il disagio non si misura soltanto in ore davanti allo schermo

    Ottobre 18, 2026

    Bando Polaris+: 25 milioni per STEM e digitale nelle scuole

    Ottobre 7, 2026
    Da non perdere
    Intelligenza Artificiale

    IA nella Pubblica Amministrazione, arrivano le regole AgID: chi decide e chi risponde degli errori?

    By Andrea DatoNovembre 10, 2026

    L’Agenzia per l’Italia Digitale ha adottato il 9 novembre le nuove Linee guida sull’intelligenza artificiale negli uffici pubblici. Dalla classificazione dei rischi alla supervisione umana, cambiano le modalità con cui Comuni, ministeri ed enti pubblici dovranno governare gli algoritmi.

    Calabria, bando giovani agricoltori 2026: fino a 100.000 euro per avviare un’impresa agricola

    Novembre 10, 2026

    Un weekend artificiale, Pieraccioni ci mette a tavola con l’IA. Chi sospettereste per primo?

    Novembre 9, 2026

    A 13 anni scrive del proprio funerale sul computer della scuola. I genitori fanno causa a Google

    Novembre 9, 2026
    Seguici sui social
    • Facebook
    • Instagram
    • YouTube

    Iscriviti alla newsletter

    Ricevi le notizie più importanti su intelligenza artificiale, diritto digitale e innovazione direttamente nella tua email.

    Demo
    Chi siamo
    Chi siamo

    TGWEBAI è il portale di informazione su intelligenza artificiale, nuove tecnologie e diritto digitale. Un team di esperti – ingegneri informatici e giuristi – racconta ogni giorno innovazione, regole ed etica del mondo digitale.

    Email: info@tgwebai.it

    Facebook Instagram YouTube TikTok
    Guarda anche

    IA nella Pubblica Amministrazione, arrivano le regole AgID: chi decide e chi risponde degli errori?

    Novembre 10, 2026

    Calabria, bando giovani agricoltori 2026: fino a 100.000 euro per avviare un’impresa agricola

    Novembre 10, 2026

    Un weekend artificiale, Pieraccioni ci mette a tavola con l’IA. Chi sospettereste per primo?

    Novembre 9, 2026
    I più visualizzati

    L’intelligenza artificiale più avanzata del mondo spiata con 14 dollari.

    Ottobre 14, 2026

    In Francia, un attacco ai frigoriferi dei supermercati. Il cibo diventa arma del cybercrimine

    Ottobre 13, 2026

    Adolescenti e social network: il disagio non si misura soltanto in ore davanti allo schermo

    Ottobre 18, 2026
    © 2026 TGWEBAI. Designed by MONDOTOUCH
    • Home

    Type above and press Enter to search. Press Esc to cancel.

    Utilizziamo i cookie per essere sicuri che tu possa avere la migliore esperienza sul nostro sito. Se continui ad utilizzare questo sito noi assumiamo che tu ne sia felice.OkPrivacy policy