«[N]on è plausibile che il presunto autore (…) avesse il dono della profezia» (Umberto Eco, I limiti dell’interpretazione, Bompiani 1990, § 3.4.6.4).
Eco scrive questa frase discutendo, nella sezione 3.4 de I limiti dell’interpretazione (“Falsi e contraffazioni”), il quarto criterio con cui il filologo smaschera un falso, quello dei fatti esterni. Un documento che riferisce cose ignote all’epoca della sua presunta stesura è sospetto, perché chi lo avrebbe scritto non poteva conoscerle. Subito dopo il passo riportato sopra arriva l’esempio che costituisce forse la chiave della vicenda di cui discuteremo qui. Ficino e Pico della Mirandola, ricorda Eco, lessero prima di Casaubon il Corpus Hermeticum violando proprio quel principio, cioè lo ritennero di ispirazione divina perché vi trovavano anticipate alcune verità cristiane. L’anticipazione, che avrebbe dovuto metterli in allarme, diventò la prova della sua sacralità.
Il primo ottobre è comparsa su Facebook, nella bacheca di Ciro Ascione, la fotografia di una pagina dell’Espresso con una Bustina di Minerva datata 11 aprile 2010, intitolata «La macchina che avrà letto tutto». Il testo, sulla base di ricerche allora in corso, descrive con esattezza imbarazzante i LLM che conosciamo a partire dalla fine del 2022, ovvero una macchina collegata a immense biblioteche elettroniche che costruisce risposte invece di indicare dove cercarle, che a forza di incontrare le parole Tommaso, Aristotele, essenza e Dio produce frasi plausibili su Tommaso, e che, interrogata su un inesistente Teofrasto di Melitene, inventa date, un manoscritto alla Marciana e perfino la segnatura. E poi studenti che si fanno scrivere il tema su Pascoli chiedendo alla macchina di inserire quattro errori, e macchine che imparano da testi prodotti da altre macchine fino a scambiare per un fatto una sciocchezza ripetuta cento volte. La pagina è stata rilanciata da docenti universitari, giornalisti, intellettuali, spesso con una didascalia ammirata del tipo “Eco aveva capito tutto”.
In poche ore, però, siti di debunking e altri utenti hanno chiuso la partita. L’immagine e il testo risultano generati con l’IA, come per esempio si nota dal fatto che sotto la capolettera c’è un grumo di caratteri privi di senso e che l’11 aprile 2010 era una domenica; sicché quel numero dell’Espresso non esiste. Si scopre peraltro che Ascione (che vanta persino una voce su Wikipedia) è un troll di lungo corso, noto fin dai newsgroup degli anni Novanta per le sue brillanti invenzioni volte a smascherare le fragilità della rete.
Proviamo allora a leggere il caso con le categorie fornite dallo stesso Eco nell’opera citata. Siamo nel caso della contraffazione ex nihilo (3.4.4.3), in cui l’originale non esiste e un oggetto nuovo viene presentato come opera di un autore celebre. Eco osserva che per rendere credibile un falso del genere occorre conoscere l’insieme delle opere autentiche di quell’autore e ricavarne una regola generativa, un tipo astratto che descrive il modo in cui egli produceva ciascuna di esse. La falsa Bustina è costruita esattamente così: l’attacco svagato («Mi è capitato di leggere»), la riserva scettica sulla notizia, la battuta sulla riunione di facoltà e l’erudizione medievale usata come contrappeso comico. C’è perfino un filosofo inventato, Teofrasto di Melitene (le cui iniziali sono speculari a quelle di Milo Temesvar, famoso studioso inventato negli anni Sessanta da Eco e da molti a suo tempo scambiato per vero), autore di un trattato sugli specchi (proprio come Temesvar), che a chi conosce Apocalittici e integrati (1964) e Sugli specchi e altri saggi (1985) suona come un sottile ammiccamento.
Chi è qui il Pretendente? La distinzione di Eco tra chi fabbrica il falso e chi lo dichiara originale torna utile. Ascione, utilizzando l’IA, produce un pastiche à la manière de, ma il passaggio alla contraffazione deliberata avviene con la didascalia che lo presenta come trascrizione di un testo dell’autore famoso. Per chi ha condiviso, la categoria pertinente è la falsa attribuzione involontaria, in piena buona fede. E qui Eco offre un esempio che dovrebbe togliere ogni tentazione di sarcasmo verso coloro che sono caduti nella trappola: Heidegger commentò una grammatica speculativa che attribuiva a Duns Scoto, opera in realtà di Tommaso di Erfurt (3.4.4.3.3).
Veniamo allora alla domanda vera: perché persone istruite, alcune delle quali Eco lo leggono da decenni, ci sono cascate? La risposta più immediata chiama in causa il prestigio, quello che gli psicologi sociali chiamano bias di autorità o effetto alone. La firma di Eco abbassa le difese e il testo viene accolto come si accoglie la parola di un maestro. Ho l’impressione però che questa spiegazione colga una parte del fenomeno e resti insufficiente da sola. Circolano ogni giorno frasi apocrife attribuite a Einstein o a Bukowski che i lettori colti riconoscono al volo come patacche, nonostante il nome illustre. Qui qualcosa di più sottile ha lavorato a favore del falso, e il capitolo 3.4 de I limiti dell’interpretazione aiuta a vederlo.
Eco nota che la contraffazione radicale richiede destinatari che condividano con il Pretendente una conoscenza dell’originale più o meno equivalente (3.4.4.1). Detto altrimenti, la conoscenza del tipo è una condizione del successo del falso. Chi ignora lo stile di Eco legge la pagina come una qualunque riflessione sull’intelligenza artificiale, mentre chi lo conosce bene vi riconosce la voce, l’ironia, le idiosincrasie e quel riconoscimento produce un piacere che somiglia molto a una conferma. Paradossalmente il lettore competente era il bersaglio ideale, perché il falso parlava la sua lingua.
Il secondo fattore riguarda il contenuto, e qui il bisogno di credere sembra un’ipotesi da prendere sul serio. Eco dedica pagine notevoli al senso medievale di authenticus (3.4.6.3): per Tommaso la parola indicava l’autorità, la verità e la credibilità dottrinale di un testo, e della sua origine si curava poco. Molti di quelli che hanno condiviso la falsa Bustina, davanti alla smentita hanno reagito dicendo magari che, falsa o no, essa dice cose vere. È lo spirito del falso diplomatico (3.4.4.3.1), quello dei monaci che fabbricavano documenti per attestare privilegi che credevano genuini: una carta falsa a protezione di una tradizione «vera». Il bisogno di credere, nel caso specifico, avrebbe preso la forma del bisogno di un profeta. Mentre l’intelligenza artificiale ci spaesa tutti, scoprire che un pensatore amato aveva già visto, quindici anni fa, le allucinazioni, i compiti scritti dalle macchine e il degrado dei modelli addestrati su testi sintetici offre una consolazione doppia, ovvero la conferma delle nostre inquietudini e la certezza che qualcuno di cui ci fidiamo le aveva già ordinate in un discorso sensato.
Torniamo alla nostra epigrafe. Il segnale più forte del falso stava proprio nella sua lungimiranza. Una Bustina del 2010 che descrive con questa precisione il mondo degli ultimi quattro anni circa avrebbe dovuto far scattare il criterio dei fatti esterni. Tuttavia occorre essere cauti con tale argomento, perché Eco aveva davvero intuito molte cose e una profezia riuscita non è di per sé indizio di falsità. Semmai al lettore sospettoso bastava una semplicissima considerazione. In questi ultimi anni sono riemerse vecchie profezie sull’IA e la scrittura automatica, da Asimov a Kubrick, da Primo Levi a Gianni Rodari, per non parlare di Swift, di cui lo stesso Eco celebrava in apertura del capitolo 65 del Pendolo di Foucault (1988) la visione della macchina per generare enunciati. E allora come mai un testo così clamorosamente preveggente di un autore famosissimo rientra in circolazione così tardivamente?
Il terzo fattore è economico ed Eco lo mette nelle conclusioni del capitolo (3.4.7). Nessun criterio di autenticità è inattaccabile e infatti ci affidiamo a congetture ragionevoli, perché accettare le prove costa meno che passare il tempo a dubitarne. Mettiamo in discussione l’autenticità di un oggetto solo quando qualcosa turba le nostre credenze stabilite. Nella falsa Bustina tutto confermava senza turbare alcunché. A ciò si aggiunge la catena delle condivisioni, che replica il meccanismo dei testimoni concordi evocato da Eco. Un testimone può apparire inattendibile, mentre tre testimoni che concordano vengono presi sul serio. Quando dieci colleghi stimati rilanciano la stessa pagina, ciascuno diventa la garanzia dell’altro e nessuno ha verificato. È la scena descritta dal falso stesso, con una sciocchezza e cento siti più o meno autorevoli che la rilanciavano.
Un’ultima considerazione, forse la più scomoda. Eco chiude il capitolo dicendo che i nostri criteri di identità sono più azzardati di quanto crediamo e che Autentico e Falso, Verità e Falsità si definiscono circolarmente a vicenda. La falsa Bustina mette alla prova proprio questo. Se un testo quasi echiano per stile, temi e ironia può essere prodotto da un troll, magari con l’aiuto della macchina che descrive, la prova attraverso la manifestazione lineare del testo (3.4.6.2) perde gran parte della sua forza. Restano il supporto materiale, cioè il watermark e i glifi impazziti sotto la M, e i fatti esterni, cioè una domenica di aprile. Prove umilissime, da archivista, che pochi dei lettori illustri hanno pensato di cercare. Ascione, consapevolmente o no, ha messo in scena il capitolo 3.4 meglio di tante lezioni universitarie, e sospetto che Eco avrebbe riso di gusto, magari dopo aver controllato il calendario.
#Adessonews seleziona nella rete articoli di particolare interesse.
Se vuoi leggere l’articolo completo clicca sul seguente link
