Nvidia e decine di aziende mondiali della tecnologia hanno fondato l’Open Secure AI Alliance, una nuova infrastruttura collaborativa per la sicurezza dell’Ai basata su modelli open source. L’alleanza, che si avvale dell’eredità della Linux Foundation e della comunità OpenSSF, nasce per rispondere alla crescente necessità di strumenti aperti, trasparenti e verificabili capaci di garantire la sicurezza dei sistemi di intelligenza artificiale.
L’iniziativa si definisce “un movimento volto a sviluppare e condividere tecnologie, tecniche e strumenti open source per proteggere software e agenti nell’era dell’Ai”.
La missione dichiarata dell’Open Secure AI Alliance è “garantire che i difensori di tutto il mondo abbiano a disposizione strumenti aperti e all’avanguardia di cui potersi fidare e che possano controllare”, si legge nella nota dell’alleanza diffusa da Nvidia.
“La sicurezza informatica è uno dei massimi beneficiari del software open source”, prosegue la nota. “L’Open Secure AI Alliance si impegnerà a correggere e divulgare le vulnerabilità utilizzando tecnologie open source“.
Open Secure AI Alliance, difese più forti con l’open source
“L’open source ha creato una base condivisa per il software e ora gli Stati Uniti e i loro partner si trovano di fronte a una scelta simile in materia di sicurezza dell’Ai: se le difese che proteggono le nostre infrastrutture risiederanno all’interno di pochi sistemi opachi o se saranno costruite su modelli, framework e strumenti aperti che qualsiasi difensore può studiare, adattare e implementare”, si legge nella nota dell’Alliance.
“I modelli aperti, come qualsiasi tecnologia potente, possono essere utilizzati in modo improprio, anche attraverso tentativi di indebolire le misure di sicurezza o di riutilizzare le funzionalità per attacchi informatici”, prosegue la nota. Questi rischi non sono esclusivi dei sistemi aperti ma “devono essere gestiti ovunque venga implementata l’Ai avanzata”.
I soci fondatori: guida l’americana Nvidia, assente OpenAI
Tra i soci fondatori figurano big del cloud computing, della cybersecurity, dello sviluppo software, delle fondazioni open source e della ricerca sull’Ai – colossi come Adobe, Cisco, Cloudera, CloudFlare, Dell Technologies, Hpe, Ibm, Microsoft, Mistral, Nokia, Red Hat, Salesforce, Sap, Siemens, Snowflake, SpaceX, impegnati a condividere tecnologie e standard di sicurezza per evitare punti di fallimento centralizzati in ecosistemi multi-vendor.
Presente anche una società dell’AI particolarmente discussa come Palantir, mentre la grande assente è OpenAI.
La sicurezza informatica “democratica”
Il mondo ha bisogno sia di modelli chiusi che aperti, sottolineano i partner dell’alleanza guidata da Nvidia. Per la sicurezza informatica, i modelli e i framework aperti sono essenziali perché democratizzano le capacità di difesa, aumentano la trasparenza per i difensori, consentono la difesa informatica proteggendo al contempo i dati e integrano i modelli chiusi più avanzati con controlli personalizzabili e localizzati.
“L’open source consente una difesa distribuita su larga scala, guidata dalla comunità e autogestita, senza un singolo punto di fallimento”, afferma l’Open Secure Ai Alliance.
La lezione del caso Hugging Face
Il recente incidente di sicurezza di Hugging Face ha rappresentato uno spartiacque, affermano i firmatari dell’iniziativa: i difensori informatici hanno bisogno di sistemi agentici aperti e all’avanguardia per l’autodifesa.
“Quando gli strumenti di Ai proprietari, incapaci di distinguere gli aggressori dai difensori, hanno bloccato un’analisi forense essenziale, Hugging Face ha eseguito il modello GLM 5.2 open-weight sulla propria infrastruttura per analizzare oltre 17.000 azioni e contenere l’intrusione”, si legge nella nota di Open Secure AI Alliance.
“Questo incidente ha dimostrato una verità pratica: quando i difensori non possono ispezionare, adattare ed eseguire l’Ai avanzata sulla propria infrastruttura, la loro capacità di risposta è limitata proprio nel momento in cui la velocità è più importante”, prosegue la nota. “Aziende e Paesi hanno bisogno di strumenti e tecniche di difesa aperti e all’avanguardia affinché i settori critici possano costruire sistemi di sicurezza in un ecosistema multi-vendor ed evitare singoli punti di fallimento”.
Un ecosistema di cyber difese
Ciascun partner apporta contributi specifici all’ecosistema difensivo. Nvidia partecipa con il suo progetto open source Labs Object-Oriented Agent (Nooa), disponibile su GitHub per rendere le funzionalità avanzate di sicurezza dell’Ai più accessibili per i framework degli agenti. Il framework di ricerca Nooa, spiega Nvidia, consente ai framework di integrarsi meglio con i modelli per semplificare il test, la tracciabilità, la verifica e la governance del comportamento degli agenti.
Hpe contribuisce a Spiffe/Spire, che crea standard e metodi per un framework di identità zero-trust in grado di verificare crittograficamente agenti e servizi di Ai per garantire che solo i carichi di lavoro autorizzati comunichino e accedano alle risorse aziendali.
Hugging Face ha offerto alla PyTorch Foundation Safetensors, un formato sicuro per archiviare i pesi dei modelli di Ai, che offre trasparenza e garanzie contro l’esecuzione di codice remoto.
Lightwell di Ibm e Red Hat estende la sicurezza all’intera catena di fornitura open source con patch firmate digitalmente.
MDash, il framework di scansione multi-modello per agenti di Microsoft, orchestra agenti di Ai specializzati per scoprire, discutere e dimostrare bug sfruttabili.
SpaceXAI ha reso open source l’agente di codifica Ai basato su terminale Grok Build per promuovere fiducia, trasparenza e nuove funzionalità, e prevede di rendere open source alcuni modelli Grok per supportare le comunità di sviluppatori e ricercatori.
Open source per migliorare la protezione degli agenti Ai
Di fronte ai dibattiti normativi sulla gestione dei rischi legati all’open source, l’alleanza evidenzia che la sicurezza non è affatto esclusiva dei sistemi chiusi né è impossibile da ottenere nei sistemi aperti: “La risposta corretta non è negare ai difensori l’accesso a sistemi aperti efficienti. È piuttosto quella di combinare l’apertura con solide misure di sicurezza, regole chiare contro l’uso improprio a fini malevoli, una valutazione rigorosa e una rapida risoluzione dei problemi”, afferma l’Alliance. “Nel campo della sicurezza informatica, la strada più sicura è quella che offre a un maggior numero di difensori la possibilità di testare, verificare e rafforzare i sistemi su cui si basa la società”.
Appello ai responsabili politici e agli enti regolatori
L’Open Source AI Alliance ritiene fondamentale che i governi e i regolatori riconoscano il ruolo dei modelli, delle infrastrutture e degli strumenti di sicurezza open source come risorse difensive, non come punti deboli, nelle politiche relative all’Ai e alla sicurezza informatica.
Secondo i partecipanti, “Restrizioni generalizzate sui sistemi di Ai aperti e di frontiera indebolirebbero la capacità di difesa e rischierebbero di concentrare potere, dipendenza e vulnerabilità nelle mani di pochi fornitori chiusi. Aziende e governi dovrebbero investire in infrastrutture aperte condivise per la difesa dell’Ai – dataset, framework di valutazione, simulatori di attacco e strumenti di red teaming – proprio come le generazioni passate hanno investito nel software open source”, conclude la nota dell’Open Secure AI Alliance.
#Adessonews seleziona nella rete articoli di particolare interesse.
Se vuoi leggere l’articolo completo clicca sul seguente link
