Organizzazioni e collettivi non occidentali vogliono sfruttare le potenzialità delle intelligenze artificiali generative svincolandosi però da Big Tech. Ma devono scontrarsi con la disparità di potere
Si può
prendere una tecnologia nata e sviluppata nei centri di potere e riadattarla
alle necessità di un gruppo marginalizzato? La domanda, potenzialmente,
riguarda tutte le innovazioni tecnologiche. Il caso dell’intelligenza
artificiale generativa è però oggi particolarmente discusso assieme alle
molteplici problematiche etiche che i grandi modelli linguistici, come anche le
tecnologie text-to-image o text-to-video,
sollevano: dal rischio di disinformazione, all’impatto ambientale, fino agli
utilizzi di questi strumenti a scopi bellici.
Alla radice
c’è la questione del controllo, economico e politico, delle infrastrutture
tecnologiche, che resta saldamente nelle mani delle grandi aziende, in gran
parte statunitensi. Fuori dal mondo occidentale stanno però nascendo iniziative
che mirano a riappropriarsi dei sistemi di generative AIper
perseguire l’interesse pubblico o a scopi di giustizia sociale. Queste realtà
stanno riorganizzando i dataset per l’addestramento degli algoritmi,
modificando alcune delle loro caratteristiche tecniche e riorientando gli usi
finali degli strumenti. Arrivando in alcuni casi a immaginare infrastrutture
pubbliche gestite localmente.
I limiti e i bias dei modelli commerciali
L’AI
generativa commerciale – per intenderci, quella di chatbot come Gemini o
ChatGPT – si presenta come un archivio di conoscenza universale e neutrale. Ma
le cose non stanno così: i dati impiegati per addestrare questi sistemi
provengono da Internet e sono tutt’altro che neutrali. I dati di qualità
disponibili sono in gran parte in inglese o in altre lingue europee, escludendo
inevitabilmente la conoscenza, e quindi la rappresentazione, di una larga parte
del mondo.
In un saggio intitolato Decolonizing
LLMs: An Ethnographic Framework for AI in African Contexts, gli autori (tra
cui figurano, peraltro, anche esponenti di Google) spiegano: “La lingua è
intrinsecamente fluida, flessibile e multiculturale. I grandi modelli
linguistici (LLM) più diffusi e utilizzati oggi, invece, non lo sono. Sono in
gran parte addestrati da team dislocati negli Stati Uniti e istruiti per
operare su varianti non specificate di testi in inglese”.
“La
diffusione globale degli LLM, un prodotto ‘WEIRD’ (western, educated,
industrialised, rich and democratic) rischia quindi di perpetuare i
pregiudizi inconsci e i punti ciechi dei suoi creatori”, proseguono gli autori.
“Il pericolo è che la loro visione del mondo venga presentata come la visione
del mondo a una base di utenti globale, che si aspetta invece risultati
neutrali da un programma informatico. Ma che dire del resto della popolazione
mondiale, i cui repertori linguistici scritti e parlati non includono
l’inglese? E che dire di quegli aspetti della cultura, della lingua e
dell’esperienza che non sono ancora stati digitalizzati?”
Di opinione
simile è Dima Saber, direttrice esecutiva di Meedan, un’organizzazione non-profit che
sviluppa strumenti open source, programmi e ricerche per un’infrastruttura
digitale più efficace ed etica. “Internet è fatto per uomini bianchi, della
classe media, che parlano inglese. Di conseguenza, gli LLM o i bot vengono
addestrati sugli stessi dati presenti in rete, riproducendo così le medesime
disuguaglianze”, spiega Saber a Guerre di rete. “Esistono prove del
fatto che gli LLM non solo funzionano meno bene nelle lingue diverse
dall’inglese, ma anche che le risposte fornite sono piuttosto distorte e
riproducono le disuguaglianze già esistenti sul web”.
Riprogettare i sistemi
Proprio per
offrire alternative tecnologiche più trasparenti, situate e rispettose delle
diversità, Dima Saber e il suo team hanno creato Suwali, un servizio di chatbot
pensato per organizzazioni della società civile, redazioni indipendenti e altre
realtà di pubblico interesse. L’obiettivo è permettere a queste organizzazioni
di archiviare, valorizzare e rendere interrogabili patrimoni di conoscenza
spesso sottorappresentati nei modelli mainstream, anche in lingue diverse
dall’inglese. Utenti e lettori possono così rivolgere domande al chatbot e
ottenere risposte in linguaggio naturale, basate però su un corpus circoscritto
e verificabile.
È qui che
Suwali si distingue dai servizi commerciali. Il sistema non attinge
indistintamente a tutto il materiale disponibile online, ma lavora su una
selezione di dati appartenenti alle singole organizzazioni: archivi, report,
articoli e altri documenti da loro prodotti o scelti. Suwali è già utilizzato
da diverse realtà, soprattutto nel Sud globale. In Libano, la non-profit OMGYNOlo
impiega per fornire informazioni affidabili sulla salute riproduttiva delle
donne; in India, la redazione di The Quint lo usa per rispondere ai
dubbi dei lettori su disinformazione e truffe.
“Un chatbot
che utilizza i dati dell’organizzazione e il suo corpus di conoscenze per
formulare le risposte permette di aggirare la riproduzione delle stesse
disuguaglianze che esistono online”, spiega Saber. “È qualcosa di cui abbiamo
assolutamente bisogno. Inoltre, non stiamo cedendo i dati a nessuno, non
cerchiamo di venderli agli inserzionisti e le organizzazioni mantengono la
proprietà delle informazioni. Questo è un altro aspetto che, per quanto
riguarda la sovranità dei dati, per noi è davvero imprescindibile”. I server di
Meedan sono ospitati in Irlanda, in modo che la legislazione applicabile sia
quella del GDPR europeo, al momento la più avanzata al mondo in termini di
tutela dei dati personali.
L’obiettivo
centrale è quello di restituire alle organizzazioni, anche quelle con poche
risorse, una agency nell’uso di strumenti di intelligenza
artificiale, offrendo al contempo elevati standard di trasparenza. Suwali
permette infatti, attraverso la dashboard degli amministratori, di analizzare
il percorso logico compiuto dal chatbot, risalendo al “ragionamento” effettuato
dal modello per capire quali fonti ha utilizzato e che sintesi ha compiuto. Si
può insomma guardare dentro la “black box” del pensiero algoritmico.
Meedan non
ha costruito un proprio large language model da zero, ma si appoggia a quelli
commercialmente disponibili. “Facciamo uso dei modelli linguistici, tra cui
quello di OpenAI, esclusivamente per la formulazione finale delle risposte” spiega
Haramoun Hamieh, senior partnership manager. “Il corpus di riferimento, il
recupero delle informazioni e il processo con cui vengono selezionate le fonti
restano invece interamente gestiti dai sistemi di Meedan. L’ottimizzazione
dei modelli open-weight è nei nostri piani
per il prossimo futuro”.
Un’intelligenza artificiale femminista?
Su una
filosofia simile è costruito il chatbot AfroféminasGPT, sviluppato dal collettivo
omonimo con l’obiettivo di raccogliere e rendere accessibile il pensiero
femminista decoloniale. La postura delle sviluppatrici è molto chiara: usare
gli strumenti attualmente disponibili e sfruttarne le potenzialità per
raggiungere i propri obiettivi.
“L’IA
convenzionale ha come norma implicita la persona bianca e riproduce questo
pregiudizio in modo sistematico”, spiega la fondatrice Antoinette Torres Soler.
“AfroféminasGPT rompe questa logica. Col tempo abbiamo osservato che il
pubblico apprezza molto anche la capacità di basarsi sul lavoro di pensatrici e
pensatori afrodiscendenti e afro-femministi. Un elemento particolarmente
significativo è che, quando le persone del Sud globale interagiscono con lo
strumento, questo assume una prospettiva più vicina alla loro esperienza e
restituisce risposte con una precisione e una pertinenza che il mainstream
dell’IA non offre”.
“La critica
più ricorrente è che lo strumento operi all’interno dell’ecosistema di OpenAI,
il che pone limiti reali in termini di sovranità tecnologica. È una critica
legittima e me ne assumo la responsabilità” continua Torres Soler. “La
posizione da cui lavoro è pragmatica e strategica: bisogna utilizzare gli
strumenti disponibili e scalare, progressivamente, verso maggiori livelli di
autonomia”…
Nessun commento:
Posta un commento