Gli LLM restano in larga parte statici dopo il rilascio: eseguono i compiti appresi in pre-addestramento e post-addestramento, ma non acquisiscono nuove capacità oltre il proprio contesto immediato. Da qui una vulnerabilità strutturale: conoscenza e competenze invecchiano, perché il modello opera con una data fissa di «knowledge cutoff» oltre la quale fatti nuovi ed eventi in evoluzione gli restano ignoti (Cheng et al. 2024).
Nel più celebre dei suoi monologhi Amleto non ha paura di morire. Ha paura di sognare. «To die, to sleep — to sleep, perchance to dream: ay, there’s the rub.» Morire, dormire, e in quel sonno forse sognare: è qui l’intoppo. Non è il dormire a trattenere la mano, ma l’ignoto di ciò che il sonno si porta dietro.
Tre secoli e mezzo dopo, Philip K. Dick consegna la stessa immagine a un titolo: Do Androids Dream of Electric Sheep?. Nel romanzo, che diede lo spunto per il famoso film Blade Runner, la domanda del titolo chiede non se gli androidi provino qualcosa, ma se sognino. Se esista, da qualche parte, un luogo interno in cui il vissuto viene rielaborato mentre nessuno guarda.
Gli LLM e il limite della memoria statica
Prima di quella domanda ce n’è un’altra, e riguarda una condizione necessaria: per sognare la propria giornata bisogna averla trattenuta, e le macchine di oggi non lo fanno. Della massima latina verba volant, scripta manent per loro vale solo la prima metà e nulla resta. È il limite che una parte consistente della ricerca sta provando a superare, con un vocabolario preso in prestito dalla fisiologia: consolidamento, replay, fasi di sonno. Per chi porta questi sistemi dentro processi decisionali non è una curiosità terminologica. È il preavviso che la proprietà su cui poggiano oggi validazione e controllo sta per essere messa in discussione.
La macchina senza ieri
Un Large Language Model, tra una richiesta e l’altra, non riposa: è inerte. I suoi pesi – i parametri in cui è depositato ciò che ha appreso – sono congelati al termine dell’addestramento e non cambiano durante l’uso. Ogni conversazione riparte da zero; ciò che sembra memoria è quasi sempre un testo che l’infrastruttura reinietta nel contesto, non una traccia che resta nel modello.
La letteratura tecnica usa per questa condizione un termine clinico: amnesia anterograda. È la diagnosi – descritta a partire dal paziente H.M. da Scoville e Milner nel 1957 – di chi, dopo una lesione, non forma più ricordi duraturi: conserva il passato remoto, vive il presente immediato, ma quel presente non sedimenta in nulla. Un modello linguistico occupa la stessa posizione: l’immenso passato del pre-addestramento, il presente fugace della finestra di contesto, e in mezzo niente che trasferisca l’uno nell’altro.
La RAG come protesi della memoria
Contro questa amnesia l’industria ha già una risposta, ed è oggi la più diffusa in azienda. La retrieval-augmented generation – la RAG – recupera i documenti pertinenti e li inietta nella finestra di contesto al momento della domanda: il modello risponde su dati aggiornati senza che nessuno tocchi i suoi pesi. È la protesi che si dà al paziente amnesico, il taccuino che supplisce a ciò che la memoria non fissa più.
Per una classe estesa di problemi – un assistente che deve rispondere sulla normativa vigente, sul catalogo prodotti, sulle procedure interne – è la soluzione corretta, ed è anche una buona scelta di governo: la conoscenza resta fuori dal modello, in un archivio che si versiona, si aggiorna e si revoca.
Resta però una protesi e il limite è strutturale. La conoscenza è disponibile se il recupero la trova, assente se la query non la intercetta, e va ripagata a ogni richiesta in token, latenza e costo. Soprattutto, la RAG trasferisce fatti, non competenza: può dire al sistema quale circolare è in vigore, non può insegnargli il modo in cui in quella banca si istruisce una pratica, né fargli ricavare da cinquecento conversazioni la regolarità che un collega umano coglie dopo venti. Ogni recupero è un episodio isolato: nessuna astrazione si deposita, nessun errore corretto ieri diventa un criterio applicato domani. Il modello legge di più; non impara di più.
Questa amnesia, oggi, è una virtù di governo prima che un difetto. Un modello a pesi congelati è, entro limiti noti, riproducibile: a parità di input e configurazione tende a produrre, statisticamente, lo stesso comportamento. Quel “stesso modello, stesso output” è la base su cui poggiano validazione, audit e conformità. Nei settori regolati – le banche per prime – poter dire quale è il modello, quale la versione, quale il perimetro è la precondizione di ogni controllo. La macchina che non ricorda è una macchina che si può certificare.
Il prezzo è che il sistema non accumula. L’esperienza fatta con un utente non migliora la successiva; la competenza guadagnata in un dominio evapora alla chiusura della finestra; l’errore corretto oggi si ripresenta identico domani. Per un’organizzazione che vorrebbe un assistente capace di imparare il mestiere (terminologia, procedure, eccezioni ricorrenti) è uno spreco misurabile. Da qui la direzione di queste nuove ricerche: se il problema è che la macchina non consolida, la si faccia dormire.
Il sonno come problema di ingegneria
Nel vivente, dormire non è spegnersi. Durante il sonno profondo l’ippocampo riproduce a velocità accelerata le tracce della giornata e le trasferisce alla corteccia, dove diventano memoria stabile. È la teoria dei complementary learning systems di McClelland, McNaughton e O’Reilly (1995): due sistemi, uno che apprende in fretta e uno che consolida lentamente, perché tenere insieme il nuovo e il vecchio senza distruggere quest’ultimo è un problema difficile.
Difficile anche per le macchine, dove ha un nome preciso: catastrophic forgetting. Una rete addestrata su un compito nuovo tende a sovrascrivere ciò che sapeva del precedente. Le contromisure somigliano al sonno. L’Elastic Weight Consolidation di Kirkpatrick e colleghi (PNAS, 2017) irrigidisce selettivamente i pesi più importanti per i compiti già appresi, proteggendo i ricordi che contano. Il gruppo di Bazhenov ha mostrato che un replay simile al sonno (Nature Communications, 2022) — riattivare offline i vecchi schemi mentre se ne imparano di nuovi — riduce l’oblio.
Due tratti della fisiologia sono fondamentali. Il primo: il trasferimento notturno non ricopia i dati, li riorganizza, estraendo astrazioni e integrandole in una rete semantica coerente. Il secondo: le fasi del sonno svolgono funzioni diverse. Il sonno profondo, non-REM, stabilizza e riordina; la fase REM, quella dei sogni, rinforza selettivamente e simula scenari. Riordinare e immaginare sono operazioni distinte, e le architetture più recenti hanno cominciato a distinguerle.
Dalla metafora all’architettura
Ispirandosi al processo di apprendimento umano, una parte della ricerca sta introducendo un paradigma che porta il nome esplicito di “Sleep”: modelli capaci di apprendere con continuità, di distillare le memorie fragili di breve termine in conoscenza stabile di lungo termine mediante replay, e di migliorarsi attraverso un processo di “Dreaming”.
Il passaggio dalla metafora all’architettura è avvenuto in due anni, e in larga parte in un solo laboratorio. Google Research ha pubblicato una sequenza di lavori che si legge come tre tempi della stessa idea.
- Titans (2025) introduce una memoria neurale a lungo termine che impara a memorizzare — e a dimenticare — durante l’inferenza, in base alla «sorpresa» del dato. Il consolidamento smette di essere una fase separata e avviene mentre il modello lavora.
- Il Nested Learning, con il modello «Hope» (2025), descrive il modello come un continuum di memorie che si aggiornano a frequenze diverse, dai blocchi veloci a quelli lenti, con un travaso continuo dai primi ai secondi. Nel linguaggio delle neuroscienze è un consolidamento online: avviene nella veglia, mentre il sistema è attivo.
- Language Models Need Sleep (2026), degli stessi autori, sostiene che il consolidamento online non basta: è selettivo, dipende dal contesto e non produce astrazioni di livello superiore. Serve una fase offline — un sonno in senso proprio, in cui il modello smette di ricevere input esterni e lavora sul proprio interno. Quella fase ha due stadi. Nel primo, memory consolidation, la conoscenza di una versione più piccola e veloce del modello viene distillata «verso l’alto», in una più grande e lenta che nel frattempo cresce di capacità: l’oblio catastrofico viene riformulato non come interferenza, ma come difetto di spazio. Nel secondo, dreaming, il modello genera dati sintetici – gli autori li chiamano sogni – per rifinire ciò che ha appena appreso. È l’equivalente funzionale della fase REM.
Lo stato del lavoro è quello di un preprint: non è ancora passato per la revisione tra pari e poggia sulle due architetture precedenti dello stesso gruppo. La crescita dei parametri, per ammissione degli autori, è in parte simulata attivando pesi già allocati anziché aggiungendone di nuovi. È la formulazione più completa disponibile oggi, non un risultato acquisito e convalidato.
Il sonno offline resta, per ora, il programma di un gruppo ristretto. Altri laboratori lavorano su un asse diverso: Anthropic, per esempio, sull’interiorità online del modello (l’ipotesi di uno “spazio di lavoro globale” che renda ispezionabile ciò che il sistema fa mentre lavora). Sono due scommesse distinte su dove passi il confine fra elaborazione e memoria.
I banchi di prova dimostrano quanto la questione sia già in fase di applicazione. Per misurare se un modello continui ad apprendere senza dimenticare, il lavoro sul sonno mette i modelli alla prova su diversi benchmark, fra cui Banking77: settantasette intenti di customer service bancario, cioè le richieste tipiche che un cliente rivolge a un help desk: problemi con la carta di credito o di debito, reimpostazione del PIN, disguidi su un pagamento. La domanda astratta viene valutata sul tipo esatto di traffico che vedrebbe l’assistente di un customer desk di una banca.
Consolidare non è sognare
Il sonno profondo riordina; il sogno ricombina. La fase onirica non si limita a fissare il vissuto: lo smonta e lo rimonta, produce accostamenti che nella veglia non c’erano. È la differenza fra un archivio che si mette in ordine e una mente che al risveglio torna con una posizione che la sera prima non aveva.
Trasferita alla macchina, la distinzione ha un peso operativo. Un sistema che consolida stabilizza ciò che ha appreso e resta, in linea di principio, ispezionabile: si può dire che cosa ha imparato e da dove. Un sistema che rielabora fra una sessione e l’altra non riparte da zero: torna portandosi dietro ciò che ha ripassato, e quel bagaglio orienta la risposta successiva senza dichiararlo. Comincia, in senso stretto, ad avere una storia, una biografia.
È il punto in cui la questione diventa un problema di governance. Finché il modello dimentica, la fotografia che lo rende certificabile (“questo è il modello, questa la versione”) resta valida per tutta la sua vita in esercizio. Un modello invece che consolida ogni notte è più capace e non è più lo stesso: il collaudo di gennaio non descrive il sistema di marzo. Chi deve risponderne davanti a un consiglio di amministrazione o a un’autorità di vigilanza si trova a certificare un bersaglio in movimento.
Verba volant, nihil manet. Finché resta vero, l’impianto di controllo costruito attorno a questi sistemi regge. Che cosa succede quando smette di esserlo – e che cosa andrebbe deciso prima di lasciar dormire una macchina – è il tema della seconda parte che pubblicheremo nei prossimi giorni.
#Adessonews seleziona nella rete articoli di particolare interesse.
Se vuoi leggere l’articolo completo clicca sul seguente link
Marco Beozzi
Source link
