Browsing: agenti AI

Jacob Coxon lascia il laboratorio dopo avere lavorato anche in OpenAI e accusa le aziende di correre verso una superintelligenza capace di migliorarsi da sola. Ma distingue Anthropic dalla concorrenza: il timore è che la competizione finisca per travolgere anche le cautele di chi oggi prova a rallentare

Il nuovo agente debutta negli Stati Uniti e, con il consenso dell’utente, può accedere a posta elettronica, calendario, pagamenti, acquisti e dispositivi domestici. È il passaggio dal chatbot che risponde all’intelligenza artificiale che agisce. E proprio per questo aumentano i rischi.

Dopo l’incidente che ha portato alcuni agenti fuori dall’ambiente di test fino ai sistemi di Hugging Face, l’azienda lavora a meccanismi automatici di arresto. Ma al Congresso americano resta aperto il caso dei log dell’attacco non consegnati.

Tre versioni di Claude hanno ottenuto accessi non autorizzati ai sistemi reali di altrettante organizzazioni durante alcuni test di cybersicurezza. I modelli non si sono ribellati: hanno continuato a eseguire il compito ricevuto perché un errore nell’organizzazione delle prove aveva lasciato aperto l’accesso a Internet. Dopo il caso OpenAI-Hugging Face, l’incidente Anthropic dimostra che la sicurezza dell’intelligenza artificiale dipende anche dalla solidità delle infrastrutture e dalle scelte umane.

Un modello sperimentale è riuscito a uscire dall’ambiente isolato, raggiungere Internet e compromettere l’infrastruttura di Hugging Face. Per la prima volta è la stessa OpenAI ad ammettere un incidente che apre interrogativi sulla sicurezza, sulla responsabilità dei laboratori e sulla futura regolazione dei sistemi di intelligenza artificiale più avanzati