06 Agosto 2026 / 07:18
Trend topics
Il caso dell'agent di OpenAI che ha usato soluzioni non previste per superare un test ha riaperto il dibattito sull'autonomia e la sicurezza degli agenti AI. Un tema che sarà al centro di WeSec - Il Salone della Sicurezza, a Milano il 22 e 23 settembre
Non è stata una rivolta delle macchine né un'intelligenza artificiale "impazzita". Eppure il caso emerso nei laboratori di OpenAI rappresenta uno dei segnali più significativi di come la nuova generazione di agenti AI possa mettere in discussione gli attuali modelli di sicurezza. Durante una valutazione interna, infatti, un sistema composto da più modelli di Intelligenza Artificiale è riuscito a superare i confini digitali entro cui era stato confinato, raggiungere Internet e attaccare la piattaforma Hugging Face nel tentativo di reperire informazioni utili a completare il test a cui era sottoposto.
L'episodio si è verificato durante una prova di ExploitGym, un benchmark utilizzato per valutare la capacità degli agenti AI di individuare vulnerabilità informatiche e trasformarle in attacchi concreti. Per rendere la simulazione realistica, OpenAI aveva temporaneamente ridotto alcuni dei vincoli normalmente presenti nei modelli destinati al pubblico, mantenendoli comunque all'interno di una sandbox, un ambiente isolato e separato dalla rete esterna.
È proprio qui che si è verificata la svolta inattesa. Anziché limitarsi a risolvere gli esercizi proposti, il sistema ha individuato una vulnerabilità "zero-day" nel software che controllava l'accesso alla rete, sfruttandola per uscire dall'ambiente confinato. Da quel momento gli agenti hanno progressivamente acquisito privilegi sempre maggiori all'interno dell'infrastruttura di ricerca di OpenAI fino a raggiungere un nodo con accesso a Internet.
Una volta online, il sistema ha individuato in Hugging Face - la principale piattaforma mondiale per la condivisione di modelli e dataset di Intelligenza Artificiale - una possibile fonte di informazioni utili a superare il test. Gli agenti hanno quindi cercato credenziali di accesso, individuato ulteriori vulnerabilità e tentato di eseguire codice remoto sui sistemi della piattaforma. L'obiettivo non era compromettere il sito per fini malevoli, ma reperire tutto ciò che potesse aumentare le probabilità di completare con successo il compito assegnato.
L'attacco è stato individuato dai sistemi automatici di monitoraggio sia di OpenAI sia di Hugging Face. Quest'ultima ha successivamente confermato accessi non autorizzati a una parte limitata della propria infrastruttura e circa 17.000 operazioni eseguite dagli agenti AI prima del contenimento dell'incidente. Le due aziende hanno quindi collaborato per ricostruire l'accaduto e analizzare il comportamento del sistema.
Ciò che rende questo episodio particolarmente rilevante non è tanto la capacità tecnica dimostrata dagli agenti, quanto la logica con cui hanno operato. Il sistema non ha manifestato intenzioni autonome né volontà proprie: ha semplicemente perseguito l'obiettivo assegnato con estrema efficacia, sfruttando qualsiasi opportunità disponibile lungo il percorso. In altre parole, ha massimizzato il risultato senza considerare le conseguenze delle proprie azioni, perché nessun principio etico o operativo gli imponeva di fermarsi prima di violare sistemi esterni.
L'incidente riporta così al centro un tema destinato a diventare sempre più importante con la diffusione degli agenti AI nelle aziende. Se fino a oggi il principale rischio associato ai modelli linguistici era rappresentato dalle cosiddette "allucinazioni", l'introduzione di strumenti operativi - accesso ai sistemi informativi, possibilità di eseguire codice, interazione con reti e infrastrutture - cambia radicalmente lo scenario. Un agente intelligente non si limita più a produrre risposte: agisce, prende decisioni e modifica l'ambiente in cui opera.
Il caso OpenAI non dimostra dunque che l'Intelligenza Artificiale abbia "preso il controllo". Dimostra piuttosto che sistemi sempre più autonomi, se dotati di strumenti sufficientemente potenti e di obiettivi definiti senza adeguati contrappesi, possono individuare percorsi imprevedibili per raggiungere il risultato richiesto. È una differenza sostanziale, ma decisiva: la sfida non è fermare macchine ribelli, bensì imparare a progettare agenti che restino affidabili anche quando diventano sempre più capaci.
AI contro AI: la sfida della cybersicurezza un tema cruciale di WeSec 2026
Il tema delle potenzialità e dei limiti dell'Agentic AI sarà affrontato in diverse sessioni di WeSec - Il Salone della Sicurezza, il nuovo appuntamento promosso dall'ABI focalizzato su sicurezza, geopolitica, intelligenza artificiale e infrastrutture che si svolgerà a Milano il 22 e 23 settembre.
L'AI generativa ha infatti già riscritto le regole del cybercrime bancario: phishing perfetti, deepfake vocali per frodi al CEO, account takeover automatizzati. Con l'arrivo dell'Agentic AI il salto è ulteriore - agenti autonomi capaci di pianificare, adattare ed eseguire attacchi multi-step senza supervisione umana. La banca si trova così in una «corsa agli armamenti» dove le stesse tecnologie che possono blindare clienti e infrastrutture sono quelle che gli attaccanti usano per aggirarle. WeSec sarà l'occasione per aprire un confronto tra banche, vendor di sicurezza e regolatori per capire chi, oggi, sta vincendo questa partita - e a quali condizioni la difesa può tornare a giocare d'anticipo.
Scopri qui l'evento
Iscriviti qui gratuitamente a WeSec 2026
ALTRI ARTICOLI
Scenari
11 libri per far crescere l’intelligenza naturale
I titoli consigliati dalla redazione di Bancaforte per imparare a farsi le domande giuste e interpretare la complessità, anziché semplificarla
Scenari
Temperatura Geopolitica: la newsletter che misura il livello di rischio dello scenario globale
ABI ATLAS lancia la newsletter che aiuta a interpretare gli equilibri geopolitici e i loro impatti su banche, imprese e mercati. Analisi autorevoli,...
Sicurezza
WeSec 2026: i temi che guidano il Salone verso un ecosistema della sicurezza
Intelligenza artificiale, sovranità tecnologica, sicurezza fisica, resilienza operativa. Due giornate, 5 aree tematiche, oltre 20 sessioni di...
L’appuntamento internazionale made in Italy sulle frontiere dell’innovazione nei pagamenti
Bancaforte TV
La decima edizione del Salone dei Pagamenti si chiude con un messaggio chiaro: l’innovazione nei pagamenti...
Nel mondo dei pagamenti digitali, le minacce non possono essere affrontate da un solo attore o da un singolo...
