L’intelligenza artificiale e l’ultima frontiera della libertà

Nella Calabria medievale, Gioacchino da Fiore elaborò una delle riflessioni più audaci dell’Occidente sul corso della storia, sulle forme del potere e sul destino dell’uomo. A più di otto secoli, il suo pensiero mantiene una sorprendente vitalità. Gioacchino comprese che il potere tende a consolidarsi in apparato e che questo può nel tempo occupare spazi della coscienza, dell’autonomia personale e della libertà interiore. La questione si ripresenta oggigiorno in forme nuove e pervasive. L’intelligenza artificiale assicura velocità, efficienza, capacità previsionali, supporto cognitivo e l’alleggerimento di attività molto complesse. Nel discorso pubblico si insiste spesso sui vantaggi economici, produttivi e organizzativi di questa rivoluzione. Ma che cosa accade all’essere umano quando delega ai sistemi automatici buona parte della propria capacità di giudizio? La recente enciclica Magnifica humanitas di Leone XIV pone la questione sul piano antropologico. Oggi è in dubbio la concezione stessa dell’umano. Il trasferimento di funzioni cognitive alle macchine altera il rapporto dell’uomo con sé stesso. Il problema riguarda, quindi, la libertà personale, l’arbitrio, la coscienza individuale, la qualità della democrazia e l’autonomia del giudizio. Yuval Noah Harari ha evidenziato un pericolo della trasformazione in corso. I controllori di dati, piattaforme e infrastrutture digitali possono esercitare forme di dominio mai viste nella storia. Il problema, però, va oltre la proprietà dei dati o la concentrazione del potere economico. Il pericolo è anche nella delega di parte del giudizio umano a sistemi automatici. Così il pensiero finisce per essere considerato un processo meccanico, di previsioni su basi statistiche.

L’apparato e lo spirito

Secondo l’abate Gioacchino, la storia comporta anche la trasformazione interiore dell’uomo, non solo il succedersi delle epoche. Nella sua lettura della storia vi è una tensione fissa fra strutture di potere e maturazione interiore dell’uomo. Le istituzioni sono necessarie. Possono ordinare la convivenza oppure irrigidirsi, trasformarsi in meccanismi autoreferenziali e occupare spazi che pertengono alla responsabilità personale. L’intelligenza artificiale ripropone quella tensione in forme nuove. Da una parte ci sono sistemi tecnici sempre più invasivi; dall’altra sono situati il giudizio, la responsabilità e l’autonomia personale. Il rischio è che individui e istituzioni lascino a sistemi automatici decisioni che dipendevano dall’esperienza individuale, dalla capacità di dubitare, dalla ponderazione e dalla responsabilità personale. Gran parte delle discussioni sull’intelligenza artificiale riguarda scenari futuristici: superintelligenze, robot autonomi, coscienze artificiali. Il rischio più serio, però, non ha nulla di fantascientifico. L’essere umano può abituarsi a delegare il proprio giudizio. E forse questo sta già succedendo, nel grande silenzio dell’Occidente.

La grande delega

L’intelligenza artificiale supera l’automazione tradizionale. Per decenni le macchine hanno sostituito o alleggerito attività fisiche, ripetitive oppure meccaniche. Oggi le macchine – si veda il paradigma della Commissione Ue di “Industria 5.0” – entrano anche nel campo delle attività cognitive: scrivono testi, classificano contenuti, riassumono e traducono documenti, selezionano informazioni, formulano ipotesi e propongono soluzioni. Il punto critico sta nell’ingresso di questi sistemi nel campo delle valutazioni e delle scelte. Una macchina può aiutare nello svolgimento di compiti complessi, suggerire delle priorità, ordinare delle alternative e orientare delle preferenze. Il pericolo sta nell’abitudine a lasciarle valutazioni che dovrebbero rimanere nella sfera del giudizio umano. L’umanità ha sempre costruito strumenti per ampliare le capacità e ridurre la fatica. Il problema sorge con gli strumenti che, oltre ad assistere l’essere umano, ne orientano il giudizio. Kant oggi salterebbe dalla sedia della sua cattedra, se potesse insegnare nell’Università Federale Baltica che porta il suo nome, e probabilmente non sarebbe più tanto tranquillo come nei suoi anni felici a Königsberg.

Il pensiero sotto l’algoritmo

Secondo Noam Chomsky, generare linguaggio e comprenderne il significato non sono la stessa cosa. Una macchina può produrre testi coerenti, formulare risposte plausibili, elaborare enormi quantità di dati e individuare diverse correlazioni tra di loro, ma senza capire ciò che produce. Il pensiero umano va oltre la previsione statistica della parola successiva e attribuisce senso, formula ipotesi, ricostruisce rapporti causali e distingue fra vero e falso, giusto e ingiusto. Con l’intelligenza artificiale si diffonde l’idea che conoscere significhi correlare dati, che deliberare voglia dire ottimizzare alcune variabili e che, nell’atto di scegliere, conti soltanto l’opzione statisticamente più vantaggiosa. Così l’uomo non è più soggetto autonomo, capace di giudizio e responsabilità. Il pensiero umano contiene elementi che sfuggono a una traduzione puramente computazionale, come direbbe anche Yaroslav Sergeyev, padre dell’Infinity Computer. Il dubbio autentico non segue sempre la via più efficiente. La coscienza morale può opporsi all’utile, avrebbe ricordato Nuccio Ordine. La libertà può scegliere contro la convenienza. E ancora: il dissenso nasce spesso dalla rottura con la logica dominante. Gianluigi Greco, rettore dell’Università della Calabria e studioso di primo piano dell’intelligenza artificiale, conosce limiti e potenzialità di questi sistemi dall’interno della disciplina. Anche la sua riflessione sull’«artigianalità» nello sviluppo dei sistemi di IA ci porta a considerare un tratto della modernità tecnologica. Come noto, sistemi automatizzati vieppiù pervasivi influenzano decisioni umane in campi delicatissimi: l’accesso al credito, le assunzioni, le diagnosi mediche, le priorità informative e la visibilità dei contenuti. Che cosa avviene se la logica interna di tali sistemi sfugge alla comprensione dei soggetti coinvolti e complica l’attribuzione di responsabilità? Una democrazia presuppone cittadini capaci di giudizio autonomo e istituzioni sottoposte a controllo pubblico. Se pezzi della deliberazione collettiva dipendono da sistemi opachi gestiti da grandi concentrazioni economiche, la libertà politica può essere compromessa. Dalle macchine, il problema si estende alla forma mentale e politica della società che stiamo costruendo.

Le religioni e il limite invalicabile

Su questi interrogativi, le tradizioni religiose danno prospettive di straordinario interesse anche per i non credenti. Da secoli esse riflettono su libertà, responsabilità, potere, coscienza e limite umano. La recente enciclica Magnifica humanitas di Leone XIV trasferisce sul piano antropologico la questione del rapporto fra le nuove tecnologie e l’uomo. Alcune decisioni toccano dimensioni dell’esistenza che non possono essere consegnate di peso a sistemi automatici. Il giudizio morale, la cura della persona, l’educazione, la giustizia, la guerra e la pace chiamano in causa responsabilità che nessun algoritmo può assumere. La costituzione pastorale Gaudium et spes aveva già avvertito che la crescita della potenza tecnica non garantisce una pari maturazione morale. L’enciclica Laudato si’ ha criticato il paradigma tecnocratico fondato sul primato del calcolo tecnico. L’enciclica Dilexit nos ha richiamato l’interiorità come luogo di unificazione della persona, in una realtà caratterizzata dall’accelerazione dei ritmi della vita, dalla dispersione e dalla frammentazione della conoscenza. L’enciclica Magnifica humanitas porta questa riflessione nel territorio dell’intelligenza artificiale e chiede che cosa dell’umano resti fuori dall’algoritmo. La stessa domanda si ripropone, con linguaggi diversi, in altri orizzonti religiosi. Nell’ebraismo, il giudizio morale non coincide con la mera applicazione di regole astratte. La decisione proviene dall’interpretazione, dal contesto, dal discernimento e dall’assunzione personale di responsabilità. La macchina ultramoderna può ordinare precedenti, organizzare dati, offrire soluzioni plausibili, ma è tutt’altro la responsabilità morale di una scelta. Nell’islam, il concetto di ʿaql rinvia alla ragione riflessiva, alla facoltà di deliberare, ponderare e comprendere. L’atrofia di questa facoltà impoverisce l’autonomia del soggetto e favorisce dipendenze cognitive anche gravi. Nel buddhismo il problema ha una forma diversa, ma altrettanto rilevante. Il pericolo maggiore riguarda l’automatismo mentale. Una mente poco vigile, priva di attenzione profonda, è più esposta a condizionamenti esterni. Sistemi costruiti per orientare preferenze e comportamenti possono dunque accentuare questa vulnerabilità. Anche il confucianesimo fornisce una lezione preziosa. Nessun buon governo può fondarsi soltanto sull’efficienza organizzativa. La legittimità dell’autorità richiede la formazione morale, il senso del limite, la capacità di giudizio e la responsabilità pubblica. Tradizioni molto diverse convergono allora su una intuizione comune. La delega totale alle macchine mette a rischio l’esercizio delle facoltà che rendono umano l’uomo.

Il capitale, la tecnica, il potere

Per capire la posta in gioco, bisogna guardare ai rapporti di forza economici, politici e sociali entro cui l’intelligenza artificiale si sviluppa.

Karl Marx aveva colto con anticipo impressionante un tratto costitutivo della modernità industriale: il sapere incorporato nelle macchine tendeva a separarsi dal lavoro vivo e a concentrarsi nelle strutture che possedevano il capitale e i mezzi di produzione e organizzazione. L’intuizione conserva oggi tutta la propria forza. Quantità immense di dati vengono prodotte da miliardi di persone e il controllo delle infrastrutture, dei modelli e della capacità computazionale risulta concentrato in un numero molto limitato di attori economici. Il tema è la concentrazione del potere.

Max Weber aveva compreso un altro tratto della modernità. Apparati burocratici sempre più sofisticati estendono la logica del calcolo, dell’organizzazione e della prevedibilità fino a condizionare profondamente la vita collettiva. Con l’intelligenza artificiale questa tendenza si accentua. Il potere può esercitarsi attraverso sistemi impersonali che classificano, ordinano, gerarchizzano e selezionano dati. Il comando, in questi casi, si presenta di rado con il volto tradizionale dell’autorità. Spesso assume la forma dell’output tecnico, del ranking, della raccomandazione automatica, della priorità assegnata da un sistema computazionale.

Martin Heidegger individuò un aspetto essenziale della tecnica moderna: la tendenza a trasformare la realtà, la natura, le relazioni e gli esseri umani in risorse disponibili. Nell’economia digitale, perfino l’attenzione, il linguaggio e le relazioni diventano risorse da cui estrarre valore economico. «Materia da cui cavare energia», avrebbe chiosato Paolo Rossi Monti.

Jacques Ellul colse un aspetto ulteriore. La tecnica acquisisce una propria autonomia e il criterio dominante diventa l’efficienza. Se un risultato appare tecnicamente possibile, sale la pressione a raggiungerlo, quasi indipendentemente da valutazioni etiche, politiche o sociali.

Günther Anders comprese forse il lato psicologico più perturbante di questa trasformazione. L’uomo può arrivare a percepire sé stesso come elemento meno affidabile delle proprie macchine. Precisione, velocità e capacità di calcolo finiscono per acquisire un prestigio tale da indurre l’essere umano a giudicare sé stesso secondo gli standard propri della tecnica.

Uno dei tratti più insidiosi del capitalismo è che la macchina non viene più percepita come strumento e l’essere umano tende a valutare sé stesso secondo parametri di efficienza, velocità e prestazione.

La nuova minorità volontaria

La riflessione di Alfonso Maurizio Iacono reca un ulteriore livello di analisi. Il problema dell’intelligenza artificiale riguarda la crescita del potere tecnologico, la concentrazione del capitale e soprattutto, attenzione, l’autonomia del soggetto. Questo aspetto distingue la fase attuale da molte forme storiche di dominio. In passato il potere si manifestava spesso attraverso la coercizione esplicita, l’imposizione, il divieto e la censura. Nelle società contemporanee il controllo può avere forme molto più sottili e un’efficacia maggiore se appare neutrale, conveniente e desiderabile. Il sistema del controllo non pretende l’obbedienza in modo diretto, ma ottiene l’adesione attraverso meccanismi di conformismo incentivato. Immanuel Kant definiva «minorità» l’incapacità di servirsi del proprio intelletto senza la guida di un altro. In Autonomia, potere, minorità, Iacono riprende quel concetto e lo declina in versione contemporanea. La «minorità volontaria» è una condizione che non viene imposta con la forza, ma nasce dalla rinuncia progressiva a esercitare l’autonomia, il giudizio e la responsabilità personale. Larga parte del potere contemporaneo non si limita a imporre obbedienza, ma ottiene collaborazione perché offre sicurezza, comodità e l’alleggerimento della responsabilità individuale. L’intelligenza artificiale accelera questa dinamica. Il fenomeno riguarda deleghe operative e investe anche abitudini mentali. Si ricorre all’assistenza tecnica per compiti marginali; il ricorso può estendersi a decisioni più complesse, fino a delegare alla macchina la formulazione di ipotesi, l’organizzazione di priorità e la selezione di alternative. La delega può trasformarsi in abitudine, vizio, annullamento. Harari ha descritto a fondo l’accumulazione di dati e il potere delle infrastrutture digitali. La sua analisi verte soprattutto su informazione, sorveglianza e controllo, meno sulla trasformazione interiore del soggetto. Accanto al potere dei possessori di dati, algoritmi e piattaforme, conta anche il desiderio crescente di essere guidati. La delega cognitiva può risultare rassicurante. Allevia la fatica della scelta, riduce l’incertezza e attenua il peso della responsabilità. Il rischio è il decadimento di facoltà che richiedono esercizio continuo: il dubbio, il discernimento, la capacità critica e l’autonomia del giudizio. Quando si perdono il pensiero critico, il dissenso e la responsabilità personale, la democrazia si svuota di fatto e rimane un mito, un idolo, un rifugio per giustificare l’adesione inconsapevole a logiche di potere.

L’ultima frontiera della libertà

Ritorna la domanda iniziale. Che cosa dell’umano resta fuori dall’algoritmo? La questione va oltre il dibattito sulla regolazione dell’intelligenza artificiale, che pure è indispensabile. Il problema investe la natura stessa della libertà, a lungo collegata a vincoli esterni: autorità politiche oppressive, situazioni di censura, violenza, coercizione e stretta formale sui diritti. La rivoluzione digitale porta con sé forme di condizionamento molto più sottili. Il potere riesce a orientare comportamenti, preferenze, percezioni e scelte. Può agire senza imporre ordini, tramite architetture invisibili, ambienti cognitivi, sistemi di raccomandazione e gerarchie informative. La libertà non corrisponde, allora, alla mera facoltà di scegliere fra opzioni già predisposte da altri, ma si fonda sulla capacità di giudizio autonomo, sulla distanza critica, sulla deliberazione e sulla conseguente assunzione di responsabilità. La libertà contempla anche la possibilità del dissenso, dell’errore, del ripensamento e perfino della scelta contro la convenienza personale. Al riguardo, la lezione di Gioacchino da Fiore appare di estrema attualità: nessun apparato, per quanto avanzato, può sostituire la maturazione interiore dell’uomo. Il confronto fra intelligenza naturale e artificiale non basta. Il tema tocca la relazione fra l’apparato e la coscienza. Società tecnologicamente avanzate possono sviluppare macchine ultrapotenti e mantenersi libere, a condizione di preservare spazi effettivi di autonomia personale, di responsabilità morale, di controllo democratico e giudizio critico. In caso contrario, la perdita della libertà non avrebbe necessariamente le forme classiche della repressione ma potrebbe mostrarsi nell’assuefazione, nella delega, nella comodità personale e nell’adattamento a logiche esterne. L’avvento di macchine superiori all’essere umano non è il vero pericolo dell’intelligenza artificiale. Il rischio sta nell’accettazione dell’idea che il pensiero, il giudizio e la coscienza possano essere ridotti a processi meccanici e prevedibili. Non può esserci democrazia, senza cittadini che sappiano comprendere, valutare, dissentire, scegliere e assumersi la responsabilità delle proprie decisioni. La perdita di queste facoltà può avvenire anche senza la rottura violenta dell’ordine democratico, in sistemi che conservano istituzioni, procedure e diritti formali. Quanta parte del giudizio umano siamo disposti a consegnare a sistemi privi di responsabilità morale?