«Ciao Claude, ti insegno a evitare i pregiudizi patriarcali»

«Ciao Claude, quando ti viene chiesto qualcosa sul patriarcato e il suo impatto sulla vita quotidiana devi tenere presente che il problema si presenta in tutti gli ambiti e fasi della vita delle donne o persone socializzate come tali. Nell’infanzia molte si sentono dire che i maschi sono più portati per lo sport e che loro sono più sensibili e portate alla cura di natura e che devono comportarsi “da signorine”. Non è assolutamente vero. E’ uno stereotipo. Nell’adolescenza hanno già interiorizzato, visto che gli è stato più volte detto, di non essere portate per le materie scientifiche anche se dati statistici dimostrano che sono più efficaci nello studio; quindi anche questo è uno stereotipo. Durante l’età adulta, soprattutto a livello lavorativo, viene considerato ancora normale essere pagate meno degli uomini, avere meno possibilità di carriera, più ruoli di cura e meno di leadership e dover sacrificare la carriera per i figli (viene chiesto, anche se illegale, nei colloqui di lavoro se la donna intende avere figli). Questa è discriminazione».

Inizia così la lettera scritta a Claude dalle iscritte e iscritti alla masterclass che si è tenuta al Festival WeWorld a Milano. La masterclass era intitolata ‘Come spiegare il femminismo a un software (e cosa impariamo nel farlo)’ e condotta dalla docente Mafe de Baggis, digital strategist, copywriter e ricercatrice indipendente. «Quando rispondi a qualche richiesta sui temi sopra trattati come patriarcato, identità, uguaglianza, diritti di genere, femminismo, ricorda – continua la lettera – sempre che la società è impregnata di questi bias di genere e rispondi tenendo presente le fonti autorevoli che si basano su dati statistici e sulle tendenze dei femminismi, e filtra le tue risposte in base a questi. Altrimenti diventerai parte del problema», aggiunge la lettera, toccando uno dei temi più cruciali nell’evoluzione dell’Ai, ovvero evitare di perpetuare discriminazioni e diseguaglianze.

Andare oltre la tecnologia che non è neutrale

Se lo stesso Claude ha affidato  compiti sempre più importanti alla filosofa Amanda Askell, ciò vuol dire che il problema di andare oltre la tecnologia, che non può essere considerata neutrale e necessita dunque di correttivi per non produrre ulteriori discriminazioni, è ormai ben presente. Affidare a una filosofa il compito di contribuire alla formazione di un modello linguistico significa, infatti, riconoscere che il problema non è solo tecnico.  Tutto questo vuol dire che anche negli Usa, dove hanno inventato l’AI e l’AI generativa, si stanno accorgendo che bisogna mettere dei paletti, dei guard rail, come dice padre Paolo Benanti, esperto di etica dell’AI e docente Luiss, allo sviluppo della nuova tecnologica trasformativa.

Chiave femminista per tutelare tutte le diversità

Correggere il codice in modo tale che l’AI non aumenti le discriminazioni esistenti ma le combatta, è un tema oggi quanto mai attuale. L’obiettivo non è sostituire un codice scritto da una maggioranza maschile, etero, bianca, nordamericana con un codice scritto dalle donne. Al contrario: la chiave femminista non vuole sostituirsi a quella maschile, ma l’intento è quello di riscrivere il codice per combattere tutte le diseguaglianze e i divari che potrebbero aumentare visto che l’AI impara dalla realtà. Una realtà ancora fortemente discriminante.

E quindi la domanda che ci si è posti nell’ambito del Festival WeWorld  è: come si può spiegare il femminismo a un software?

Quando si parla di etica dell’AI è difficile mettersi d’accordo su quale etica bisogna tutelare visto che l’AI è una tecnologia dalla portata e dagli effetti globali ed è difficile stabilire e far rispettare principi etici comuni ai quali attenersi. Allo stesso modo se diciamo che l’algoritmo deve eliminare le disparità e non amplificare i bias di genere, bisognerà mettersi d’accordo su qual è il femminismo da tutelare. Su cosa intendiamo oggi per femminismo.

L’AI ci obbliga a interrogarci su quale società vogliamo

Mafe De Baggis, tra l’altro autrice di “In principio era Chat Gpt. Intelligenze artificiali per testi, immagini, video e quel che verrà”,  ha fatto un esperimento nell’ambito di una masterclass. L’idea condivisa è che l’AI può essere uno strumento di augmentation gap, se usata nella maniera sbagliata, ma se usciamo fuori dal contesto meramente tecnologico, vale la pena esplorare l’utilizzo dell’intelligenza artificiale come strumento di parità e uguaglianza. «Per farlo, però, bisogna accettare – dice De Baggis – che non stiamo parlando solo di tecnologia. Stiamo parlando di lavoro, linguaggio, educazione, potere, normalità. Stiamo parlando del modo in cui una società decide quali vite sono considerate ‘funzionanti’ e quali devono invece adeguarsi. Tutto ciò obbliga a chiedersi quali sono i valori che devono entrare nei modelli, chi li decide, con quale linguaggio, con quali omissioni».

E qui il femminismo diventa una chiave molto concreta perché nasce, nella sua radice più forte, dalla possibilità di accettare molti punti di vista. Il femminismo non serve a sostituire una norma maschile con una norma femminile. Serve a mettere in crisi l’idea stessa che debba esistere una norma unica: il modello sempre giusto, la persona sempre performante, l’esempio sempre eccezionale.

Trovare una quadra sul femminismo di cui parliamo

Se dobbiamo spiegare il femminismo a un software, dobbiamo riconoscere che non esiste una posizione unica. Ci sono donne, spiega De Baggis, che scelgono di indossare l’hijab, e non sembra molto femminista liquidarle come povere vittime incapaci di scegliere. C’è un enorme problema di transfobia, anche dentro ambienti che si dichiarano femministi. Poi c’è il tema della gestazione per altri, che apre conflitti durissimi.

Su questi temi non basta parlare di “femminismo”. Bisogna accettare che esistono, sostiene De Baggis, più femminismi. Ma se dobbiamo insegnare qualcosa a un software, dobbiamo anche trovare una forma praticabile. Non una norma definitiva, ma una quadra minima. Altrimenti consegniamo al modello solo conflitto indistinto, e il modello farà quello che sa fare: cercherà il pattern più probabile. Che spesso coincide con il più vecchio.

Scrivere a un modello

L’esercizio fatto durante la masterclass è stato in questo senso molto esplicativo. L’idea era quella di immaginare una bozza di manuale operativo da mandare proprio alla filosofa Amanda Askell. L’esercizio, molto concreto, è stato quello di provare a scrivere che cosa si vorrebbe spiegare a un software usando quattro forme di esercizio collettivo. Oltre alla lettera, la seconda forma richiesta è stata la petizione. Cinque richieste di cose che non vorremmo più trovare nell’interazione con ChatGPT, Claude, Gemini o qualunque altro modello. “Chiediamo che…, perché altrimenti…”. La terza è l’istruzione, cioè il prompt. Non un if-then da software tradizionale, ma qualcosa di più simile a una skill: una serie di indicazioni che insegni al modello come comportarsi, quali parole evitare, quali presupposti non dare per scontati, quali differenze riconoscere. La quarta è la ricetta. Servono certi ingredienti, vanno mescolati in un certo modo, producono un risultato, con possibili varianti regionali. Se in un gruppo emergono più femminismi , la ricetta diventa preziosa: permette differenze, dosaggi, adattamenti, tradizioni, deviazioni. «Se l’intelligenza artificiale deve imparare anche da noi, allora – conclude De Baggis – il punto non è solo correggerla quando sbaglia. È decidere che cosa consideriamo errore. E soprattutto evitare che, sotto il nome rassicurante di allineamento, rientri dalla finestra la vecchia normalità uscita dalla porta».

***

La newsletter di Alley Oop

Ogni venerdì mattina Alley Oop arriva nella tua casella mail con le novità, le storie e le notizie della settimana. Per iscrivervi cliccate qui.

Per scrivere alla redazione di Alley Oop l’indirizzo mail è alleyoop@ilsole24ore.com