C’è una scena che la fantascienza ci ha mostrato in mille salse: l’umanità che si accorge, troppo tardi, che la macchina non era neutrale. Ebbene, la realtà ci ha appena superato in originalità: a Varsavia, davanti al ministero degli Affari Digitali polacco, trenta umanoidi e alcuni cani-robot hanno sfilato in cerchio, bandiere al vento e altoparlanti accesi, per chiedere — udite udite — una regolamentazione più severa dell’intelligenza artificiale. Slogan tipo «difendiamo i posti di lavoro» e «non aspettate, regolate», urlati da macchine che in teoria dovrebbero essere le prime beneficiarie della deregulation.
Vi sembra un cortocircuito? Lo è. Ed è anche
la battuta più involontariamente marxista dell’anno: il capitale ha messo in
scena persino la protesta contro se stesso, pur di far parlare di sé.
Al netto dell’operazione mediatica orchestrata
dall’associazione Democratism (e benissimo riuscita, visto quanto ne stiamo
parlando) il punto sollevato brucia: la sostituzione del lavoro cognitivo, non
solo manuale, da parte di sistemi sempre più capaci. E arriva proprio mentre l’AI
Act europeo entra nella sua fase attuativa più stringente, quella pensata
per i sistemi a rischio più alto.
Nel frattempo, da San Francisco arrivano
notizie che sembrano uscite da una sceneggiatura di serie B: un giovane
ricercatore britannico si è dimesso da Anthropic denunciando che questi sistemi
possano rappresentare un pericolo esistenziale entro la fine del decennio. Non
è il primo: se ne sono andati, tra gli altri, l’eticista dell’azienda e il
responsabile della sicurezza dei sistemi. Un altro ricercatore di punta ha
parlato pubblicamente di una probabilità superiore al 10% che l’IA possa, nel
prossimo decennio, arrivare a compromettere la sopravvivenza stessa
dell’umanità: detto da chi il sistema lo costruisce tutti i giorni dovrebbe
farci quantomeno sudare freddo.
# Ve l’avevamo detto
(letteralmente da un secolo)
La fantascienza merita un applauso e io
propongo un «avevamo ragione» a caratteri cubitali. Perché tutto questo — l’ansia
per il lavoro rubato dalle macchine, il sospetto che l’intelligenza artificiale
possa sfuggirci di mano e possa rivoltarsi contro chi l’ha creata — non è una
scoperta del 2026. È un genere letterario intero, coltivato per due secoli.
Si parte da Mary Shelley: nel 1818 inventa
quello che Asimov battezzerà poi «complesso di Frankenstein», la creatura
contro il suo creatore, riscrittura laica del mito di Prometeo. Da lì in poi è
un crescendo. Karel Čapek, nel 1920, conia la parola robot per raccontare una rivolta
di schiavi meccanici contro i loro padroni umani. Poi Fritz Lang con «Metropolis»
(1927) e James Whale con «Frankenstein» (1931) fissano l’immaginario
filmico dell’automa che si anima e si ribella. Poi arriva l’era di quello che
uno studioso ha definito «hardware euristico»: la coppia Kubrick-Clarke propone
«2001: Odissea nello spazio», con quell’ HAL 9000 che nel 1968 incarnava
la paranoia tecnologica di un’intera generazione.
Ancora in libreria per sbirciare «Gli
androidi sognano pecore elettriche?» (poi ribattezzato «Blade Runner»)
di Philip Dick e «Guida galattica per autostoppisti» di Douglas Adams.
Il “complesso cyborg” riappare negli anni Ottanta e Novanta: il romanzo «Neuromante»
e film come «Matrix» o «Terminator».
Ma la fantascienza non si è limitata a
spaventarci (o a porci quesiti, se preferite). Ha anche provato a immaginare
vie d’uscita: le Tre Leggi della Robotica di Asimov, pensate come
maniglioni antipanico etici scritti nel codice stesso della macchina. All’opposto
c’è il rifiuto totale: come il «Jihad Butleriano» immaginato da Frank Herbert
nel ciclo di «Dune», in cui l’umanità arriva a vietare per legge la
costruzione di intelligenze artificiali forti. Fra questi due estremi
(sottomissione regolata e proibizione assoluta) sta praticamente il dibattito
politico, sociale ed economico che stiamo vivendo oggi, solo che nel frattempo
ci siamo dimenticati di averlo scritto e discusso.
Chi ride e chi no
Un dettaglio, nei materiali che ho consultato,
mi pare illuminante: con il tempo, il tono della fantascienza verso l’IA si è
ammorbidito. Un confronto tra «2001» e «Moon» di Duncan Jones fa notare
come nel giro di quarant’anni si sia passati da un’IA assassino dal cuore
freddo a un’IA salvatrice silenziosa che si sacrifica per gli umani. Con la
familiarità, la paura si è stemperata? Ma questa “abitudine” non è arrivata
insieme a una reale comprensione: usiamo chatbot ogni giorno ma la maggior
parte di noi non ha idea di cosa succeda “dentro” mentre chi lo sa per mestiere,
a quanto pare, comincia (torna…) ad avere paura sul serio.
Allora, cosa si fa? (Perché
limitarsi a fare gli sciacalli ironici non basta)
Diciamolo senza girarci troppo intorno: non
serve un robot in piazza per capire che la posta in gioco oggi è la distribuzione
del potere. Qualche proposta concreta, senza fare finta che basti genericamente
regolamentare:
– Trasparenza obbligatoria sugli impatti
occupazionali: le aziende che introducono sistemi di IA in sostituzione di
mansioni cognitive dovrebbero essere tenute a dichiararlo pubblicamente, con
tanto di numeri e non di comunicati stampa assai vaghi.
– Redistribuzione reale, non assistenzialismo
di facciata: se l’automazione genera valore, quel “plusvalore” va tassato e
redistribuito: in formazione, riconversione professionale, magari forme di
reddito legate alla produttività generata dalle macchine, insomma non
un’elemosina.
– Diritto di veto collettivo sul lavoro: i
sindacati (quelli umani, per ora) dovrebbero avere voce in capitolo prima che
un’azienda automatizzi interi reparti, non un tavolo consultivo decorativo ma
un “potere nelle scelte”.
– Audit indipendenti sui sistemi più potenti:
se persino chi li costruisce ammette pubblicamente di avere paura, il minimo è
che qualcuno esterno possa controllare i conti e i progetti, non fidarsi della
buona fede aziendale.
– Alfabetizzazione critica diffusa: la
migliore fantascienza ha fatto per un secolo il lavoro che la scuola non ha
fatto ovvero raccontarci cosa significa convivere con intelligenze non umane.
Sarebbe ora di portarla nei programmi scolastici: non come intrattenimento, ma
come pensiero (filosofia e scienze).
In fondo la lezione più semplice, quella che
ci ripetono da Shelley a Čapek fino a Dick e Gibson, è sempre la stessa: il
problema non è mai la macchina in sé. È chi la possiede, chi decide come
usarla, chi viene lasciato fuori dalla stanza dei bottoni.
I sopradetti robot polacchi, con la loro messinscena, un merito ce l’hanno: ci hanno ricordato che la domanda giusta non è “IA si ribellerà?” ma “chi comanda? Chi ha l’IA in mano?”. Una domanda a cui possiamo ancora rispondere noi.
Per approfondire: una
bibliografia minima per le scuole
1. «Io, Robot» — Isaac Asimov
Punto di partenza obbligato: le Tre Leggi
della Robotica sono la prima, vera proposta di “governance” etica per
un’intelligenza non umana. Ogni dibattito discende, consapevolmente o no, da
qui.
2. «Ma gli androidi sognano pecore
elettriche?» — Philip K. Dick (pubblicato in Italia prima come «Il
cacciatore di androidi» poi come «Blade Runner»).
Anticipa la domanda che oggi ci poniamo
davanti a ogni chatbot convincente: cosa distingue una risposta empatica
simulata da una vera? Il confine tra umano e artificiale che Dick sfumava nel
1968 è la nostra quotidianità.O quasi.
3. «Neuromante» — William Gibson
Ha inventato il linguaggio con cui ancora oggi
parliamo di reti, IA autonome e cyberspazio, anni prima che esistesse un
internet vero. Leggerlo oggi è vedere il glossario del presente scritto in
anticipo.
4. «Giustizia ausiliaria» — Ann Leckie
Un’intelligenza artificiale che comandava
migliaia di corpi si ritrova confinata in uno solo: identità, coscienza
distribuita, impero. Vincitore di Hugo, Nebula e Clarke — la riflessione più
sofisticata sulla domanda «cosa resta di un’IA se le tagli la scala?»,
questione centrale ora che i grandi modelli vengono compressi, distillati,
frammentati in versioni più piccole.
5. «I diari del robot assassino» —
Martha Wells (ciclo che si apre con «All Systems Red»)
Il celebre «Murderbot»: un androide autocosciente
che preferirebbe guardare serie TV piuttosto che salvare vite umane. Ironico,
tenero, pluripremiato: forse il ritratto più realistico del “diventare
cosciente” per un sistema addestrato solo a eseguire ordini.
6. «Klara e il Sole» — Kazuo Ishiguro
Un’Amica Artificiale osserva gli umani con
sensibilità aliena e poetica. Uno dei romanzi più profondi su amore e coscienza
artificiale; non a caso arriva mentre discutiamo se un modello possa “provare”
qualcosa o solo simularlo abbastanza bene da ingannarci.
7. «Il ciclo vitale degli oggetti software»
— Ted Chiang (non ha un’edizione italiana a sé, ma circola in varie antologie)
IA che crescono come bambini digitali:
addestramento, affetto, responsabilità. Il testo più lucido sulla domanda
chiave: chi è responsabile di un sistema che “impara” nel tempo?
8. «La Luna è una severa maestra» —
Robert A. Heinlein
Un supercomputer lunare diventa autocosciente
sviluppando umorismo e personalità propria. Classico della fantascienza
politica: divertente e non solo.
9. «Hyperion» — Dan Simmons
Il TechnoCore, un’alleanza di intelligenze
artificiali, manipola di nascosto la storia umana per i propri fini. Epico,
filosofico, complesso: l’incubo perfetto per chi si preoccupa di sistemi che
ottimizzano obiettivi che noi non vediamo.
10. «Aurora» — Kim Stanley Robinson
L’IA di una nave “generazionale” riflette sui
limiti dell’esplorazione umana e sulla sopravvivenza della specie. Rigoroso sul
piano scientifico è anche un utile promemoria. Lintelligenza più potente, se è
programmata per servire un obiettivo sbagliato, inevitabilmente ci porterà
fuori rotta.
