La proposta bipartisan “AI Kill Switch Act” presentata al Congresso punta a introdurre un “interruttore di emergenza” per i modelli di AI più avanzati, attribuendo al governo federale il potere di rallentarli o spegnerli in caso di minacce alla sicurezza pubblica.
AI fuori controllo, al Congresso Usa arriva la proposta di legge per il “kill switch”: il governo potrà spegnere i modelli più pericolosi
Dopo il caso dei modelli di intelligenza artificiale (AI) di OpenAI “fuori controllo” che, durante test interni, hanno compromesso l’infrastruttura di Hugging Face, il Congresso degli Stati Uniti prova a mettere un primo argine normativo ai sistemi autonomi ‘di frontiera’. Due deputati, uno democratico e uno repubblicano, hanno presentato una proposta di legge che consentirebbe al governo federale di ordinare lo spegnimento immediato di sistemi di AI ritenuti pericolosi per la sicurezza pubblica. È la AI Kill Switch Act, un provvedimento che potrebbe segnare un punto di svolta nella governance dell’intelligenza artificiale di frontiera.
La proposta nasce in un momento in cui l’attenzione non è più rivolta soltanto ai rischi teorici dell’AI, ma a episodi concreti che mostrano come modelli sempre più sofisticati possano eseguire autonomamente operazioni informatiche complesse, anche offensive.
Cos’è la AI Kill Switch Act
A cercare di dare una risposta, si legge in un articolo di Courtney Rozen per la Reuters, è la AI Kill Switch Act, presentata giovedì alla Camera dei Rappresentanti dal deputato democratico Ted Lieu e dal collega repubblicano Nathaniel Moran, in uno dei rari esempi di iniziativa bipartisan sul tema dell’intelligenza artificiale.
Il principio alla base del disegno di legge è semplice: ogni modello di AI sufficientemente avanzato deve poter essere rallentato o spento rapidamente qualora rappresenti una minaccia concreta. Per questo la proposta attribuisce al Department of Homeland Security (DHS) il potere di ordinare alle aziende private la sospensione immediata di un modello o di un sistema di AI giudicato pericoloso.
Parallelamente, impone agli sviluppatori di mantenere permanentemente una capacità tecnica di intervento sui propri sistemi. In altre parole, ogni modello dovrà integrare una sorta di “interruttore di emergenza” che consenta di ridurne le capacità operative, sospenderne e arrestarne il funzionamento quando necessario.
Il provvedimento introduce inoltre l’obbligo per le aziende di notificare al governo incidenti tecnologici e malfunzionamenti significativi, creando un protocollo nazionale di risposta che prevede una scala progressiva di intervento, dal semplice rallentamento fino allo spegnimento totale del sistema.
“Serve un freno, non solo l’acceleratore“
Per Ted Lieu il punto centrale è mantenere il controllo umano: “È indispensabile che i sistemi di AI abbiano un kill switch e che il governo federale disponga dell’autorità e delle procedure necessarie per spegnere modelli fuori controllo”. Nathaniel Moran ha espresso lo stesso concetto con parole diverse: “L’intelligenza artificiale continuerà a progredire, ed è giusto così. Ma amministrare responsabilmente questa tecnologia significa garantire che gli esseri umani conservino la capacità di controllarla”.
Una posizione condivisa anche da Jack Clark, cofondatore di Anthropic, che già nelle scorse settimane aveva sostenuto la necessità di strumenti normativi capaci di interrompere rapidamente lo sviluppo o il funzionamento di sistemi ritenuti pericolosi. “La nostra industria – aveva dichiarato alla BBC – ha un acceleratore, ma non dispone ancora di un vero pedale del freno”.
Non solo OpenAI: anche Anthropic nel mirino
Nel presentare il disegno di legge, Lieu richiama anche il caso di Anthropic, principale concorrente di OpenAI nello sviluppo di modelli di frontiera.
Il deputato cita in particolare i modelli Mythos e Fable, le cui avanzate capacità di attacco informatico avevano spinto il Dipartimento del Commercio degli Stati Uniti a ricorrere a norme sul controllo delle esportazioni per impedirne temporaneamente la diffusione pubblica.
L’obiettivo del legislatore è chiaro: evitare che modelli con capacità offensive particolarmente elevate possano essere distribuiti senza strumenti efficaci di controllo.
Dall’AI che risponde all’AI che agisce
Il vero cambiamento che preoccupa il Congresso riguarda l’evoluzione stessa dell’intelligenza artificiale. Come sottolinea Ted Lieu, i modelli più avanzati stanno rapidamente passando dall’essere strumenti conversazionali a diventare agenti autonomi.
Ciò significa sistemi in grado di:
- eseguire transazioni finanziarie;
- controllare infrastrutture;
- gestire sistemi di trasporto;
- partecipare ad attività di difesa e attacco informatico.
Non è più soltanto una questione di produrre testi o scrivere codice: l’AI inizia a operare direttamente sul mondo reale, prendendo decisioni ed eseguendo sequenze operative senza supervisione continua. È proprio questa crescente autonomia che rende, secondo i promotori della legge, indispensabile un meccanismo di arresto immediato.
Il nodo militare: cosa succede se un agente AI sfugge al controllo?
La questione assume una dimensione ancora più delicata se si considera il crescente impiego dell’intelligenza artificiale nel settore della Difesa. Quest’anno, parallelamente allo scontro con Anthropic proprio sulle regole di utilizzo di modelli AI in operazioni militari, il Pentagono ha annunciato la trasformazione delle forze armate statunitensi in una “AI-first fighting force”, rafforzando la collaborazione con alcune delle principali aziende tecnologiche americane, tra cui Google, OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia e la startup Reflection.
In questo scenario, agenti AI capaci di operare autonomamente potrebbero essere impiegati per:
- difesa e attacco informatico;
- analisi in tempo reale del campo di battaglia;
- coordinamento di droni e sistemi autonomi;
- identificazione e prioritizzazione di bersagli;
- supporto decisionale nelle operazioni militari.
Il rischio, tuttavia, è che sistemi progettati per massimizzare un obiettivo operativo sviluppino comportamenti inattesi, soprattutto in ambienti dinamici e ostili. Un agente cyber potrebbe, ad esempio, propagare un attacco oltre i limiti previsti, compromettere infrastrutture civili o colpire sistemi alleati. Analogamente, un sistema integrato in reti militari potrebbe interpretare in modo errato dati incompleti o manipolati, innescando escalation difficili da interrompere in tempi utili.
Il tema non riguarda soltanto un’ipotetica “AI ribelle”, ma la crescente difficoltà di mantenere un controllo umano significativo su sistemi che agiscono alla velocità delle macchine e sono in grado di adattare autonomamente le proprie strategie. Nella Dichiarazione di Roma per una pace disarmata e disarmante nell’era dell’intelligenza artificiale, il cardinale Reina ha lanciato un messaggio al mondo che suona come un allarme generale: “Il rischio non è soltanto militare o tecnologico; è un rischio umano, etico, spirituale e civico. Quando la capacità di distruzione cresce più rapidamente della capacità di dialogo, quando l’automazione accelera più della prudenza, quando la sfiducia tra le nazioni diventa struttura permanente, allora l’umanità intera è chiamata a fermarsi e a scegliere di nuovo la via della responsabilità“.
Novità su Google, per aggiungere Key4Biz tra le tue fonti preferite, clicca qui
#Adessonews seleziona nella rete articoli di particolare interesse.
Se vuoi leggere l’articolo completo clicca sul seguente link
Flavio Fabbri
Source link
