Futuro
migliore o mostro da temere?
L’Enciclica
papale sui pericoli dell’Intelligenza Artificiale è un po’ la somma delle
riflessioni che finalmente cominciano ad affiorare fra scienziati, politici e
opinione pubblica e persino fra gli artefici del nuovo modello cognitivo. Hanno
partorito un «mostro» o il «mostro» può anche contribuire al progresso del
genere umano? Domanda ultima, teologica, che tuttavia va declinata in vari
ambiti del sapere, dell’economia, della società civile, della politica.
Forse il
bene, ma a quale prezzo?
Non ci sono
dubbi sugli sviluppi positivi ad esempio nel campo della medicina. Ma
basterebbe chiedersi, mentre ci angosciamo per la crisi energetica aperta dalla
guerra di Hormuz, quanta energia sarà necessaria in tempi brevi per mantenere i
giganteschi data center utili al funzionamento della IA. E di conseguenza,
collegare i conflitti attuali e la competitività fra grandi potenze con la
necessità di accumulare il più possibile di terre rare e fonti energetiche.
Mentre
l’intelligenza umana cala
Oppure
interrogarci sul comportamento dei nativi digitali, nel momento in cui tutti
gli organismi competenti della scuola e delle università denunciano il
preoccupante calo della soglia di attenzione e la profonda trasformazione già
in atto dei modelli cognitivi. Al punto che anche frequenti episodi di cronaca
nera, come scontri all’arma bianca o aggressioni di docenti filmate con il
cellulare, dimostrerebbero una drammatica disconnessione di molti giovanissimi
dalla realtà, in quanto precipitati in una realtà virtuale e
deresponsabilizzante.
Dall’Africa
la denuncia dell’onnipotenza miliardaria
Un’interessante
denuncia (e allarme) ci arriva dall’Africa, grazie alla coraggiosa campagna
intrapresa da una ex ricercatrice della Silicon Valley, licenziata appunto per
avere denunciato le distorsioni del «mostro» che lei stessa aveva contribuito a
creare. Timnit Gebru, etiope, non è una ricercatrice qualsiasi. È una rinomata
ingegnere informatica, che ha lavorato ad Apple e Microsoft ed è stata
allontanata da Google, dove peraltro era in minoranza come donna e ancora di
più come ricercatrice di colore. In un’intervista al settimanale sudafricano
«The Continent», spiega i disastri del «dio onnisciente». Sostiene che il
futuro del mondo è nelle mani di una manciata di miliardari che controllano il
settore tecnologico. Cosa risaputa, meno esplorato il dato che si tratta di
miliardari bianchi, i quali hanno di fatto uniformato il meccanismo di
funzionamento della IA secondo canoni bianchi, ovvero riproducendo l’approccio
culturale dell’epoca coloniale. Un approccio che ha probabilmente ispirato
anche le decisioni dell’Amministrazione Trump di interrompere gran parte delle
attività dell’agenzia Usaid, con il risultato di condizionare lo sviluppo dei
Paesi coinvolti agli interessi americani, soprattutto nel campo della ricerca e
della sanità.
Convinzioni
radice e sogni infranti
«È
impossibile comprendere la rivoluzione che stanno cercando di avviare– né
orientarsi in questo mondo in mutamento – senza comprendere la loro dottrina»,
sostiene la Gebru. Le sue ricerche sulle convinzioni radicali che animano la
maggior parte dei dirigenti della Silicon Valley l’hanno resa una delle
critiche più influenti – sebbene a volte isolata – nei confronti delle Big
Tech. «Per molto tempo ho sognato di essere una ricercatrice discreta, che passasse
totalmente inosservata e facesse come tutti gli altri – racconta – Poi ho
capito che ciò significava fare del male ai miei cari e sminuire me stessa».
Nessun
‘tacnofobo’
Timnit Gebru
non è affatto «tecnofoba». Ingegnere informatico di formazione, ha contribuito
allo sviluppo di software di riconoscimento facciale. E proprio in questo
ambito, aveva denunciato il fatto che il software su cui lavorava era molto più
efficace nel riconoscere i volti bianchi rispetto a quelli neri. Inoltre, il
suprematismo coltivato negli Usa negli ultimi anni e immagazzinato nei data
center fa sì che molte delle risposte fornite dalla IA non rispettino la parità
di genere.
I rischi non
vanno nascosti
Nel 2018,
Google l’aveva nominata co-direttrice della nuova unità sull’etica dell’IA. Due
anni dopo, l’ha costretta a fare i bagagli per aver partecipato a una
pubblicazione accademica che metteva in luce diversi rischi connessi alla IA:
l’impatto ambientale e finanziario, nonché gli stereotipi sessisti e razziali
prodotti da contenuti a partire da banche dati grezze. «Si suppone che Gemini
(il modello di Google) possa fare tutto. Come una sorta di dio onnisciente in
grado di rispondere a tutte le tue domande, risolvere tutti i tuoi problemi,
organizzare tutta la tua vita quotidiana. È così che viene presentato. Se siamo
arrivati a questo è perché un piccolo gruppo di uomini bianchi ha deciso di
creare quella che viene chiamata “intelligenza artificiale”, che è più o meno
un dio robotizzato».
Nuova era
dell’umanità-macchina
Timnit Gebru
ha fondato una sua struttura, il Distributed AI Research Institute (Dair). Con
il suo collega, il filosofo Émile P. Torres, ha coniato l’acronimo Tescreal
(transumanesimo, estropianesimo, singolaritarismo, cosmismo, razionalismo,
altruismo efficace e long-termismo). Queste diverse terminologie, secondo la
ricercatrice, partono dal principio che il progresso tecnologico permetterà di
sviluppare l’intelligenza umana, di risolvere i problemi sociali e darà vita a
una nuova era dell’umanità – nella quale forse ci trasformeremo in macchine, o
fonderemo con esse. Diverse figure di spicco dell’IA hanno adottato alcuni
aspetti di queste ideologie. Basti pensare a Elon Musk, Sam Altman, il capo di
OpenAI, e Peter Thiel, quello di Palantir.
I neri sono
più stupidi dei bianchi?
Ma queste
visioni tecno-utopistiche integrano anche idee eugenetiche e razziste,
sottolinea Gebru. «I neri sono più stupidi dei bianchi. Mi piace questa frase e
penso che sia vera», scriveva così Nick Bostrom, filosofo dell’Università di
Oxford i cui lavori hanno ispirato i teorici del long-termismo, nel 1996. Nel
2015, Elon Musk ha donato un milione di dollari al Bostrom Institute for the
Future of Humanity, affiliato all’Università di Oxford. La sua piattaforma di
IA ripropone regolarmente elementi di linguaggio derivati dal suprematismo
bianco. Occorre invece promuovere una visione diversa di un futuro tecnologico.
Una strada ormai in salita, come teme il «pentito» Bill Gates, perché l’immensa
fortuna dei magnati della tecnologia «può farli sembrare invulnerabili, tanto
che è difficile, sia per gli utenti medi di Internet che per i responsabili
politici, impegnarsi su un’altra strada».
Africa delle
sorprese con propri strumenti di IA
Secondo la
ricercatrice etiope, l’Africa dispone delle competenze e della lungimiranza
necessarie per creare i propri strumenti di IA. Il suo istituto, ad esempio,
collabora con piccole imprese del settore che operano a difesa delle lingue
africane. E mette in guardia i decisori africani dai bei discorsi della Silicon
Valley, tracciando un parallelo con la retorica utilizzata dagli imperi
coloniali per giustificare la propria espansione.
«Anche loro avevano un discorso benevolo, spiegavano che i popoli locali non sapevano autogovernarsi, che bisognava aiutarli a elevarsi. Oggi, i governi africani firmano accordi con Microsoft, Anthropic o OpenAI», conclude la ricercatrice. «Mi sembra assurdo che ci sia un sacco di gente molto competente anche qui, che tuttavia non chiede altro che sviluppare queste tecnologie e che i propri governi non vogliano aiutarli a farlo»
Nessun commento:
Posta un commento