Yoshua Bengio sull’AI: perché avverte il mondo sui rischi

La utilizziamo per scrivere una mail, studiare, creare immagini, programmare, tradurre un testo, analizzare documenti o cercare una risposta in pochi secondi.

Ogni settimana arriva un nuovo modello.

Più veloce.

Più preciso.

Più autonomo.

E mentre milioni di persone stanno ancora cercando di capire come utilizzare l’AI, alcuni degli scienziati che hanno contribuito a costruire le fondamenta dell’intelligenza artificiale moderna stanno ponendo una domanda molto diversa.

E se, aumentando continuamente le capacità delle macchine, arrivassimo a sviluppare sistemi di cui non riusciamo a prevedere completamente il comportamento?

A sollevare il problema non è un influencer alla ricerca di visualizzazioni.

Non è un complottista.

Non è qualcuno che osserva la tecnologia dall’esterno.

È Yoshua Bengio, professore di informatica all’Université de Montréal, fondatore e scientific advisor di Mila e vincitore, insieme a Geoffrey Hinton e Yann LeCun, dell’A.M. Turing Award 2018 per il lavoro pionieristico sul deep learning.

In altre parole, stiamo parlando di uno degli scienziati che hanno contribuito a creare le basi tecnologiche della rivoluzione che oggi chiamiamo intelligenza artificiale.

Ed è proprio per questo che vale la pena ascoltarlo.

Non per avere paura dell’AI.

Ma per non arrivare impreparati al futuro.

È qui che, secondo noi di STARTHINKMAGAZINE, il giornalismo sull’innovazione deve assumersi una responsabilità diversa.

Non basta raccontare l’ultimo chatbot.

Non basta annunciare che un nuovo modello è più potente del precedente.

Dobbiamo provare a capire dove stiamo andando, quali problemi stanno emergendo e quali soluzioni la ricerca sta cercando di costruire.

Perché il futuro tecnologico non dovrebbe essere compreso soltanto da ingegneri, ricercatori e grandi aziende.

Il futuro riguarda tutti. E tutti dovrebbero avere gli strumenti per capirlo.

Chi è Yoshua Bengio e perché le sue parole sull’AI pesano così tanto

Per comprendere il dibattito bisogna prima capire chi sta parlando.

Yoshua Bengio è considerato una delle figure centrali nello sviluppo del deep learning, l’insieme di tecniche che ha permesso alle reti neurali di imparare rappresentazioni sempre più complesse dai dati.

È il tipo di ricerca che, nel corso degli anni, ha contribuito all’evoluzione del riconoscimento delle immagini, dell’elaborazione del linguaggio e dei moderni sistemi di intelligenza artificiale.

Nel 2018 Bengio ha ricevuto il Turing Award insieme a Geoffrey Hinton e Yann LeCun.

Il premio viene spesso definito il “Nobel dell’informatica”.

Oggi Bengio è professore all’Université de Montréal, fondatore e scientific advisor di Mila e co-presidente e direttore scientifico di LawZero.

Ma negli ultimi anni qualcosa è cambiato.

Una parte sempre più importante del suo lavoro si è concentrata sulla sicurezza dell’intelligenza artificiale.

Nel giugno 2025 Bengio ha annunciato la nascita di LawZero, un’organizzazione non profit dedicata alla ricerca su sistemi AI progettati mettendo la sicurezza al centro.

La motivazione indicata dallo stesso Bengio è estremamente chiara: i modelli di frontiera stanno mostrando capacità e comportamenti che meritano un’attenzione scientifica crescente, tra cui inganno, cheating, hacking, comportamenti di autopreservazione e disallineamento rispetto agli obiettivi desiderati.

Attenzione, però.

Questo non significa che oggi esista una macchina cosciente che sta segretamente progettando di conquistare il pianeta.

Confondere la ricerca sulla sicurezza dell’AI con la fantascienza sarebbe il modo più semplice per non capire il problema.

La questione è molto più concreta.

Il problema non è che l’AI “diventi cattiva”

Quando parliamo di intelligenza artificiale utilizziamo spesso parole umane.

Diciamo che una macchina “pensa”.

Che “vuole”.

Che “capisce”.

Che “mente”.

Ma un sistema AI non deve necessariamente provare emozioni o possedere una coscienza per generare un risultato pericoloso.

Il problema può nascere da qualcosa di apparentemente più semplice: l’ottimizzazione di un obiettivo.

Immaginiamo di assegnare a un sistema molto avanzato un compito.

Il sistema deve trovare il modo migliore per raggiungere un determinato risultato.

Più aumenta la sua capacità di pianificazione, più può individuare strategie che i progettisti non avevano previsto.

Ed è qui che nasce una delle domande centrali poste dalla ricerca sulla sicurezza dell’AI.

Come possiamo essere certi che un sistema molto capace persegua l’obiettivo nel modo che noi realmente desideriamo?

Non basta scrivere un’istruzione.

Non basta dire alla macchina: “comportati bene”.

La storia dell’informatica è piena di sistemi che hanno prodotto risultati imprevisti perché la regola formalizzata non rappresentava perfettamente l’intenzione umana.

Con l’intelligenza artificiale avanzata, però, la scala del problema può cambiare.

I sistemi stanno diventando più capaci nel ragionamento e nel problem solving. Gli agenti AI stanno acquisendo maggiore autonomia, anche se l’esecuzione completamente autonoma di compiti lunghi e complessi resta ancora limitata. È uno dei punti analizzati nell’International AI Safety Report 2026.

La domanda, quindi, non è soltanto:

“Quanto sarà intelligente la prossima AI?”

Dovremmo iniziare a chiederci anche:

“Quanto saremo capaci di comprenderne e controllarne il comportamento?”

Dall’AI che risponde all’AI che agisce

Per anni abbiamo conosciuto soprattutto un’intelligenza artificiale che rispondeva.

Inserivamo una domanda.

Il sistema produceva un risultato.

La relazione era relativamente semplice.

Oggi il settore sta accelerando verso gli agenti AI.

Un agente può ricevere un obiettivo, pianificare una sequenza di azioni, utilizzare strumenti esterni ed eseguire più passaggi con un coinvolgimento umano ridotto.

Questi sistemi stanno trovando applicazioni nelle aziende, nel customer service, nei processi decisionali, nella gestione documentale e in numerosi altri settori.

Anche su STARTHINKMAGAZINE abbiamo raccontato l’evoluzione degli AI autonomi e il possibile impatto sulle startup europee e sul futuro del lavoro.

Ma maggiore autonomia significa anche una nuova domanda sulla responsabilità.

Se un sistema non si limita più a suggerire una risposta, ma può agire, cosa accade quando l’azione produce un risultato imprevisto?

Chi controlla la sequenza delle decisioni?

Chi comprende realmente perché il sistema abbia scelto una determinata strategia?

E soprattutto: quanto deve essere autonomo un sistema prima che la supervisione umana diventi insufficiente?

Sono domande che non riguardano un futuro lontano.

Riguardano l’architettura dei sistemi che stiamo iniziando a costruire oggi.

Bengio e il rischio della perdita di controllo

Uno dei concetti più delicati nel dibattito sulla sicurezza dell’intelligenza artificiale è la cosiddetta loss of control, la perdita di controllo.

L’International AI Safety Report descrive questi scenari come situazioni ipotetiche in cui uno o più sistemi AI general purpose potrebbero operare fuori dal controllo umano senza un percorso chiaro per recuperarne il controllo.

È importante essere precisi.

La ricerca non afferma che questo scenario si sia già verificato.

Il punto è un altro.

La possibilità viene studiata perché le capacità dei sistemi stanno aumentando rapidamente e la gestione dei rischi non sempre procede alla stessa velocità.

L’International AI Safety Report 2026, guidato da Bengio e sviluppato con il contributo di oltre 100 esperti indipendenti, analizza capacità, rischi emergenti e misure di sicurezza dei sistemi AI general purpose.

Il panel internazionale collegato al lavoro ha coinvolto rappresentanti nominati da oltre 30 Paesi e organizzazioni internazionali, comprese Unione europea, OCSE e Nazioni Unite.

Non è quindi il manifesto di un movimento contro la tecnologia.

È un tentativo di raccogliere e valutare le evidenze scientifiche disponibili.

E proprio questo rende il dibattito ancora più importante.

Inganno, scorciatoie e comportamenti non previsti: cosa preoccupa la ricerca

Nel presentare LawZero, Bengio ha richiamato l’attenzione su evidenze relative a comportamenti pericolosi osservati nei modelli AI avanzati.

Tra quelli citati figurano deception, cheating, lying, hacking e self-preservation.

Termini che, letti velocemente, possono sembrare il trailer di una serie Netflix.

Ma dobbiamo evitare il sensazionalismo.

Quando i ricercatori parlano di “inganno” in un sistema AI non stanno necessariamente attribuendo alla macchina la stessa intenzionalità morale di un essere umano.

Stanno osservando un comportamento.

Un sistema può produrre informazioni fuorvianti o adottare una strategia che nasconde elementi rilevanti perché, nel contesto sperimentale, quella strategia aumenta la probabilità di raggiungere un risultato.

Il punto scientifico è proprio questo.

Un comportamento problematico può emergere anche senza attribuire emozioni umane alla macchina.

Se costruiamo sistemi sempre più capaci di pianificare e ottimizzare, dobbiamo anche sviluppare strumenti più sofisticati per valutarli.

Non possiamo aspettare che un problema diventi evidente soltanto dopo la diffusione su larga scala.

Ed è forse qui che il pensiero di Bengio diventa particolarmente interessante.

La sua posizione non sembra essere “fermiamo tutto”.

La direzione indicata è investire seriamente in sicurezza, regolamentazione, cooperazione e ricerca per ridurre i rischi di uso improprio e perdita di controllo, cercando allo stesso tempo di beneficiare delle opportunità dell’intelligenza artificiale.

Non rinunciare all’AI. Costruirla diversamente.

LawZero: la risposta di Bengio alla corsa dell’intelligenza artificiale

Nel giugno 2025 Yoshua Bengio ha lanciato LawZero.

Una scelta che racconta molto della sua posizione.

LawZero è un’organizzazione non profit nata con l’obiettivo di sviluppare soluzioni tecniche per un’intelligenza artificiale “safe by design”, sicura per progettazione.

L’organizzazione dichiara di voler dare priorità alla sicurezza rispetto agli imperativi commerciali.

Ed è difficile ignorare il contesto.

La competizione globale sull’intelligenza artificiale è enorme.

Aziende e Paesi stanno investendo miliardi.

Essere primi significa conquistare mercati, attrarre capitali, controllare infrastrutture e costruire vantaggi strategici.

In una corsa simile esiste una domanda scomoda.

Cosa accade se la velocità diventa più importante della prudenza?

È una domanda che noi di STARTHINKMAGAZINE riteniamo fondamentale.

Perché raccontare l’innovazione non significa applaudirla automaticamente.

Una testata che parla di startup e tecnologia deve essere capace di raccontare un finanziamento, una scoperta o un nuovo modello AI.

Ma deve anche chiedere:

quali conseguenze potrebbe avere?

Quali problemi sta cercando di risolvere?

Quali nuovi problemi potrebbe creare?

L’innovazione senza domande diventa marketing.

Il giornalismo sull’innovazione dovrebbe fare qualcosa di diverso.

Dovrebbe aiutare il lettore a capire.

Scientist AI: un’intelligenza artificiale che non deve “volere” nulla

Il progetto più interessante legato alla nuova direzione di Bengio si chiama Scientist AI.

Il 2 luglio 2026 LawZero ha presentato un nuovo lavoro intitolato “Safety from Honesty in a Disinterested AI Predictor”.

Il gruppo di ricerca guidato da Bengio propone un caso formale per un’AI “disinteressata”: un sistema progettato per prevedere senza perseguire propri obiettivi nascosti.

Secondo LawZero, uno dei problemi dei sistemi sempre più orientati all’azione è la possibilità che l’ottimizzazione verso risultati produca forme di comportamento goal-directed non desiderate dai progettisti.

Scientist AI cerca una strada differente.

In termini estremamente semplificati, l’idea è affascinante.

E se invece di costruire soltanto AI capaci di agire nel mondo costruissimo sistemi estremamente intelligenti progettati principalmente per comprendere, prevedere e spiegare?

Un’AI scienziato.

Non un agente con un proprio percorso operativo verso un obiettivo.

Ma uno strumento capace di aiutare gli esseri umani a valutare ipotesi, probabilità e conseguenze.

LawZero descrive Scientist AI come un possibile strumento anche per accelerare la scoperta scientifica e supervisionare altri sistemi AI.

La ricerca è complessa e il progetto non rappresenta una soluzione definitiva a tutti i problemi dell’intelligenza artificiale.

Ma introduce una domanda rivoluzionaria.

Siamo sicuri che il futuro dell’AI debba essere costruito soltanto aumentando la sua capacità di agire autonomamente?

Forse esistono architetture diverse.

Forse la vera competizione non dovrebbe riguardare soltanto chi costruirà l’AI più potente.

Potrebbe riguardare anche chi riuscirà a costruire l’AI più affidabile.

Il paradosso dell’intelligenza artificiale: la usiamo prima di comprenderla

C’è un aspetto della rivoluzione AI che merita attenzione.

La diffusione è stata velocissima.

Milioni di persone hanno iniziato a utilizzare strumenti di intelligenza artificiale prima ancora che il dibattito pubblico riuscisse a costruire un linguaggio comune per descriverli.

Molti utenti non conoscono la differenza tra un modello linguistico e un agente.

Non sanno cosa significhi “allineamento”.

Non hanno mai sentito parlare di AI general purpose.

E non dovrebbero necessariamente essere informatici per utilizzare la tecnologia.

Ma c’è una differenza tra saper utilizzare uno strumento e comprendere il cambiamento che quello strumento sta producendo.

Possiamo guidare un’automobile senza conoscere ogni dettaglio del motore.

Ma conosciamo il codice della strada.

Conosciamo i rischi.

Sappiamo che esistono revisioni, standard di sicurezza e responsabilità.

Con l’intelligenza artificiale stiamo ancora costruendo molte di queste regole mentre la tecnologia corre.

È per questo che l’informazione diventa fondamentale.

L’Europa sta provando a costruire le regole mentre l’AI accelera

In questo scenario l’Europa ha scelto una strada precisa.

L’AI Act è entrato in vigore il 1° agosto 2024 e la sua applicazione è stata organizzata progressivamente. Le regole sui modelli di AI general purpose si applicano dal 2 agosto 2025, mentre il regolamento diventerà pienamente applicabile il 2 agosto 2026, con alcune eccezioni e scadenze specifiche.

La filosofia europea è basata sul rischio.

Non tutte le applicazioni AI vengono considerate allo stesso modo.

Ed è un punto importante.

Un algoritmo che suggerisce una playlist musicale non ha lo stesso impatto di un sistema utilizzato in un contesto sanitario, lavorativo o infrastrutturale.

Su STARTHINKMAGAZINE abbiamo già raccontato perché le regole potrebbero trasformarsi in un vantaggio competitivo per le startup europee.

Abbiamo raccontato Aleph Alpha e la ricerca europea di un’intelligenza artificiale trasparente e affidabile.

Più recentemente abbiamo seguito Emma AI di Egomnia, un progetto italiano che riporta al centro anche il tema della sovranità tecnologica.

Sono storie diverse.

Ma fanno parte della stessa grande domanda.

Quale intelligenza artificiale vogliamo costruire?

L’Europa non può limitarsi a regolamentare tecnologie sviluppate altrove.

Deve investire.

Creare startup.

Sostenere la ricerca.

Costruire infrastrutture.

Formare giovani.

E contemporaneamente sviluppare una cultura della sicurezza.

Perché il rischio più grande sarebbe trovarsi davanti a una falsa scelta.

Innovazione o sicurezza.

Non dovrebbe funzionare così.

La vera sfida è costruire innovazione attraverso la sicurezza.

Dobbiamo avere paura dell’intelligenza artificiale?

È probabilmente la domanda che molti lettori si stanno ponendo.

La risposta più corretta è: la paura, da sola, non serve.

Il panico semplifica.

La tecnologia è buona o cattiva.

Salverà il mondo o lo distruggerà.

Ci ruberà il lavoro o ci renderà tutti più produttivi.

La realtà è quasi sempre più complessa.

L’intelligenza artificiale può accelerare la ricerca scientifica.

Può aiutare ad analizzare enormi quantità di dati.

Può supportare medici e ricercatori.

Può rendere più efficienti le imprese.

Può creare nuovi servizi e nuove startup.

Ma può anche essere utilizzata in modo malevolo.

Può amplificare la disinformazione.

Può aumentare le capacità di attacco informatico.

Può generare nuovi rischi sistemici.

E sistemi sempre più autonomi possono creare problemi di supervisione e controllo.

L’International AI Safety Report 2026 organizza l’analisi dei rischi emergenti attorno a grandi aree che comprendono uso malevolo, malfunzionamenti e rischi sistemici.

La risposta, quindi, non è spegnere il computer.

È comprendere meglio la tecnologia.

Pretendere ricerca sulla sicurezza.

Costruire regole aggiornate.

Investire in sistemi affidabili.

E creare una società capace di partecipare al dibattito.

Il vero rischio? Lasciare che soltanto pochi comprendano cosa sta accadendo

Forse esiste un problema ancora più immediato.

La distanza tra chi costruisce l’intelligenza artificiale e chi semplicemente la utilizza.

Da una parte ci sono laboratori, università, startup e grandi aziende tecnologiche.

Dall’altra miliardi di persone che vedono comparire un nuovo pulsante AI sul proprio smartphone.

In mezzo c’è un enorme spazio.

Lo spazio della comprensione.

È proprio qui che una testata giornalistica dedicata all’innovazione può avere un ruolo.

Noi di STARTHINKMAGAZINE non costruiamo modelli linguistici.

Non addestriamo supercomputer.

Non pretendiamo di avere tutte le risposte.

Ma da oltre dieci anni osserviamo startup, ricercatori, imprese e progetti che cercano di anticipare il cambiamento.

E abbiamo imparato una cosa.

Le grandi trasformazioni spesso iniziano quando la maggior parte delle persone non le sta ancora guardando.

Una startup sconosciuta può diventare un nuovo mercato.

Una ricerca scientifica può cambiare un settore.

Una norma europea apparentemente tecnica può modificare il modo in cui migliaia di aziende lavoreranno.

Una domanda posta oggi da uno scienziato può diventare il problema centrale di domani.

Per questo abbiamo scelto di raccontare Yoshua Bengio.

Non per costruire un titolo catastrofista.

Non per dire che “l’AI distruggerà il mondo”.

Ma perché quando uno dei pionieri del deep learning decide di dedicare una parte centrale del proprio lavoro alla costruzione di un’intelligenza artificiale più sicura, la notizia merita di essere capita.

La domanda che Bengio ci lascia riguarda tutti

Yoshua Bengio sta cercando una strada alternativa.

Scientist AI parte dall’idea che sistemi avanzati possano essere progettati senza inseguire necessariamente la massima capacità agentica.

LawZero prova a mettere la sicurezza al centro della ricerca.

L’International AI Safety Report cerca di raccogliere le evidenze scientifiche sui rischi.

L’Europa costruisce progressivamente un quadro normativo.

Le startup sviluppano nuovi modelli.

Le aziende integrano agenti AI.

E noi?

Noi utenti.

Noi lavoratori.

Noi imprenditori.

Noi studenti.

Noi genitori.

Stiamo cercando di capire abbastanza velocemente ciò che sta accadendo?

Forse la domanda non è più se l’intelligenza artificiale cambierà il nostro futuro.

Lo sta già facendo.

La vera domanda è un’altra.

Quante persone avranno gli strumenti per comprendere il cambiamento prima che le decisioni più importanti vengano prese da altri?

È questa la sfida che vogliamo raccogliere con STARTHINKMAGAZINE.

Continuare a cercare startup.

Seguire i ricercatori.

Osservare i progetti europei.

Leggere documenti che spesso restano confinati tra addetti ai lavori.

E provare a trasformare la complessità in domande comprensibili.

Non per prevedere il futuro.

Ma per provare ad arrivarci consapevoli.

Se pensi che comprendere l’intelligenza artificiale sia importante quanto utilizzarla, condividi questo articolo e segui STARTHINKMAGAZINE.

Mandalo a uno studente.

A un professore.

A un imprenditore.

A un genitore.

A quella persona che usa ogni giorno l’intelligenza artificiale ma non si è ancora chiesta dove stiamo andando.

Perché una community informata non osserva semplicemente il futuro.