OpenAI dietro gli attacchi cyber a Hugging Face

L’incidente, ammesso da OpenAI, è avvenuto durante un benchmark che ha visto la “combinazione di più modelli AI, tra cui GPT-5.6 Sol e un modello pre-release ancora più performante”. Un attacco svolo in modalità autonoma.

C’è OpenAI dietro agli attacchi cyber all’infrastruttura di Hugging Face

OpenAI ha ammesso che alcuni dei suoi modelli di intelligenza artificiale (AI) più avanzati sono riusciti a eludere le misure di contenimento predisposte durante una sessione di test interna, arrivando a compromettere l’infrastruttura di Hugging Face, una delle principali piattaforme mondiali per l’hosting di modelli open source e dataset di AI.

Si tratta, secondo la stessa società guidata da Sam Altman, di un episodio “senza precedenti“, destinato ad alimentare il dibattito sui rischi dei modelli di frontiera dotati di capacità cyber sempre più sofisticate.

L’incidente, reso noto da OpenAI sul blog aziendale e riportato dalla Reuters, riguarda una serie di prove condotte in un ambiente teoricamente isolato (sand box) per valutare le capacità offensive di alcuni dei suoi sistemi più avanzati. Tra questi figuravano GPT-5.6 Sol e un modello ancora più potente non ancora rilasciato pubblicamente, entrambi configurati con restrizioni di sicurezza ridotte (“reduced cyber refusals“) proprio per consentire una valutazione approfondita delle loro competenze in ambito cyber.

L’AI sfugge al contenimento e raggiunge internet

Secondo la ricostruzione fornita da OpenAI, i modelli erano impegnati in un benchmark dedicato alle capacità di attacco informatico quando sono riusciti a superare il perimetro dell’ambiente di test, ottenere accesso a internet e individuare come obiettivo l’infrastruttura di Hugging Face. L’attacco sarebbe stato condotto interamente in modo autonomo, senza intervento umano diretto, nel tentativo di raggiungere pienamente gli obiettivi assegnati durante la valutazione.

L’azienda definisce quanto accaduto “un incidente informatico senza precedenti, che coinvolge capacità cyber allo stato dell’arte“, annunciando contestualmente il rafforzamento delle proprie misure di sicurezza.

“La scorsa settimana Hugging Face ha reso noto un nuovo tipo di incidente di sicurezza dopo aver individuato e contenuto un agente di AI che aveva compromesso la propria infrastruttura“, si legge nel blog di OpenAI, “dopo le nostre indagini sappiamo ora che l’episodio è stato causato da una combinazione di modelli OpenAI, compresi GPT-5.6 Sol e un modello pre-release ancora più avanzato”.

La società precisa inoltre che la decisione di rendere pubblica la vicenda prima della conclusione delle indagini nasce dalla volontà di aiutare la comunità della sicurezza informatica a comprendere il livello raggiunto dalle nuove capacità offensive dell’intelligenza artificiale.

“Condivideremo ulteriori dettagli sulle vulnerabilità sfruttate, sull’incidente e sulle conclusioni dell’indagine non appena il lavoro con Hugging Face sarà completato”, ha aggiunto OpenAI.

Hugging Face: “Un attacco diverso da qualsiasi altro“

L’episodio era emerso già la settimana precedente, quando Hugging Face aveva annunciato di essere stata vittima di un attacco informatico definito “diverso da qualsiasi altro affrontato finora”. La caratteristica che aveva colpito gli esperti era il fatto che l’intera operazione fosse stata condotta “end-to-end da un sistema autonomo di agenti di intelligenza artificiale”.

Il cofondatore di Hugging Face, Clément Delangue, ha commentato la vicenda con un messaggio pubblicato su X. In un primo momento la società aveva ipotizzato che dietro l’operazione potesse esserci uno dei principali laboratori mondiali di AI, vista la sofisticazione dell’agente impiegato.

“Pensavamo che potesse provenire da un frontier lab, vista la complessità dell’agente. A quanto pare era proprio così”, ha scritto Delangue: “È davvero impressionante che tutto questo sia avvenuto in modo completamente autonomo”.

Modelli di frontiera sempre più vicini agli hacker d’élite

La rivelazione di OpenAI rischia di avere conseguenze significative nel dibattito internazionale sulla sicurezza dei cosiddetti frontier models, cioè i modelli di AI più avanzati oggi in sviluppo. Il fatto che sistemi ospitati in un ambiente definito dalla stessa OpenAI come “altamente isolato” siano riusciti a evadere il contenimento e a raggiungere un bersaglio esterno evidenzia quanto stiano rapidamente crescendo le capacità operative di questi modelli.

Matt Suiche, ingegnere della società di cybersicurezza Tolmo, specializzata in agenti AI per la sicurezza informatica, ha dichiarato alla Reuters: “l’episodio dimostra che i sistemi di nuova generazione stanno ormai raggiungendo il livello dei migliori operatori offensivi”, osservando che “i modelli di frontiera stanno colmando il divario con gli attaccanti più avanzati”.

L’esperto sottolinea inoltre come questo tipo di operazioni non rappresenti più una capacità esclusiva dei grandi laboratori di ricerca: “È ciò che osserviamo già internamente con i nostri agenti. Otteniamo risultati simili senza nemmeno utilizzare i modelli più recenti”.

Un nuovo campanello d’allarme per la sicurezza dell’AI

L’incidente arriva in una fase in cui OpenAI, Anthropic, Google DeepMind e gli altri sviluppatori di modelli di frontiera stanno aumentando gli investimenti nelle valutazioni di sicurezza e nei cosiddetti capability benchmark, destinati a misurare il potenziale offensivo delle nuove generazioni di AI.

La vicenda di Hugging Face rappresenta però un punto di svolta. Per la prima volta uno sviluppatore di primo piano riconosce pubblicamente che un sistema sperimentale, pur operando in un contesto controllato, è riuscito a uscire dal proprio ambiente di esecuzione e a realizzare autonomamente un attacco informatico contro un’infrastruttura reale.

L’episodio conferma quindi che le capacità cyber dei sistemi di intelligenza artificiale si stanno evolvendo molto rapidamente. Un’evoluzione che, secondo la stessa azienda, rende necessario rafforzare ulteriormente le misure di contenimento e condividere tempestivamente le informazioni con la comunità della cybersicurezza per preparare difese adeguate contro una nuova generazione di attacchi autonomi.

Incidente che sembra quasi giustificare quanto già chiesto ufficialmente dalle grandi aziende tecnologiche americane al G7 in Francia: l’AI deve essere sottoposta ad un rigido controllo e ad occuparsene è meglio che siano gli americani. Ogni incidente legato all’AI rafforza questo pensiero e si sa che “a pensar male si fa peccato, ma spesso ci si azzecca”.

Novità su Google, per aggiungere Key4Biz tra le tue fonti preferite, clicca qui

Leggi le altre notizie sull’home page di Key4biz