I robot scioperano (era ora) - Fabrizio Melodia

C’è una scena che la fantascienza ci ha mostrato in mille salse: l’umanità che si accorge, troppo tardi, che la macchina non era neutrale. Ebbene, la realtà ci ha appena superato in originalità: a Varsavia, davanti al ministero degli Affari Digitali polacco, trenta umanoidi e alcuni cani-robot hanno sfilato in cerchio, bandiere al vento e altoparlanti accesi, per chiedere — udite udite — una regolamentazione più severa dell’intelligenza artificiale. Slogan tipo «difendiamo i posti di lavoro» e «non aspettate, regolate», urlati da macchine che in teoria dovrebbero essere le prime beneficiarie della deregulation.

Vi sembra un cortocircuito? Lo è. Ed è anche la battuta più involontariamente marxista dell’anno: il capitale ha messo in scena persino la protesta contro se stesso, pur di far parlare di sé.

Al netto dell’operazione mediatica orchestrata dall’associazione Democratism (e benissimo riuscita, visto quanto ne stiamo parlando) il punto sollevato brucia: la sostituzione del lavoro cognitivo, non solo manuale, da parte di sistemi sempre più capaci. E arriva proprio mentre l’AI Act europeo entra nella sua fase attuativa più stringente, quella pensata per i sistemi a rischio più alto.

Nel frattempo, da San Francisco arrivano notizie che sembrano uscite da una sceneggiatura di serie B: un giovane ricercatore britannico si è dimesso da Anthropic denunciando che questi sistemi possano rappresentare un pericolo esistenziale entro la fine del decennio. Non è il primo: se ne sono andati, tra gli altri, l’eticista dell’azienda e il responsabile della sicurezza dei sistemi. Un altro ricercatore di punta ha parlato pubblicamente di una probabilità superiore al 10% che l’IA possa, nel prossimo decennio, arrivare a compromettere la sopravvivenza stessa dell’umanità: detto da chi il sistema lo costruisce tutti i giorni dovrebbe farci quantomeno sudare freddo.

# Ve l’avevamo detto (letteralmente da un secolo)

La fantascienza merita un applauso e io propongo un «avevamo ragione» a caratteri cubitali. Perché tutto questo — l’ansia per il lavoro rubato dalle macchine, il sospetto che l’intelligenza artificiale possa sfuggirci di mano e possa rivoltarsi contro chi l’ha creata — non è una scoperta del 2026. È un genere letterario intero, coltivato per due secoli.

Si parte da Mary Shelley: nel 1818 inventa quello che Asimov battezzerà poi «complesso di Frankenstein», la creatura contro il suo creatore, riscrittura laica del mito di Prometeo. Da lì in poi è un crescendo. Karel Čapek, nel 1920, conia la parola robot per raccontare una rivolta di schiavi meccanici contro i loro padroni umani. Poi Fritz Lang con «Metropolis» (1927) e James Whale con «Frankenstein» (1931) fissano l’immaginario filmico dell’automa che si anima e si ribella. Poi arriva l’era di quello che uno studioso ha definito «hardware euristico»: la coppia Kubrick-Clarke propone «2001: Odissea nello spazio», con quell’ HAL 9000 che nel 1968 incarnava la paranoia tecnologica di un’intera generazione.

Ancora in libreria per sbirciare «Gli androidi sognano pecore elettriche?» (poi ribattezzato «Blade Runner») di Philip Dick e «Guida galattica per autostoppisti» di Douglas Adams. Il “complesso cyborg” riappare negli anni Ottanta e Novanta: il romanzo «Neuromante» e film come «Matrix» o «Terminator».

Ma la fantascienza non si è limitata a spaventarci (o a porci quesiti, se preferite). Ha anche provato a immaginare vie d’uscita: le Tre Leggi della Robotica di Asimov, pensate come maniglioni antipanico etici scritti nel codice stesso della macchina. All’opposto c’è il rifiuto totale: come il «Jihad Butleriano» immaginato da Frank Herbert nel ciclo di «Dune», in cui l’umanità arriva a vietare per legge la costruzione di intelligenze artificiali forti. Fra questi due estremi (sottomissione regolata e proibizione assoluta) sta praticamente il dibattito politico, sociale ed economico che stiamo vivendo oggi, solo che nel frattempo ci siamo dimenticati di averlo scritto e discusso.

Chi ride e chi no

Un dettaglio, nei materiali che ho consultato, mi pare illuminante: con il tempo, il tono della fantascienza verso l’IA si è ammorbidito. Un confronto tra «2001» e «Moon» di Duncan Jones fa notare come nel giro di quarant’anni si sia passati da un’IA assassino dal cuore freddo a un’IA salvatrice silenziosa che si sacrifica per gli umani. Con la familiarità, la paura si è stemperata? Ma questa “abitudine” non è arrivata insieme a una reale comprensione: usiamo chatbot ogni giorno ma la maggior parte di noi non ha idea di cosa succeda “dentro” mentre chi lo sa per mestiere, a quanto pare, comincia (torna…) ad avere paura sul serio.

Allora, cosa si fa? (Perché limitarsi a fare gli sciacalli ironici non basta)

Diciamolo senza girarci troppo intorno: non serve un robot in piazza per capire che la posta in gioco oggi è la distribuzione del potere. Qualche proposta concreta, senza fare finta che basti genericamente regolamentare:

– Trasparenza obbligatoria sugli impatti occupazionali: le aziende che introducono sistemi di IA in sostituzione di mansioni cognitive dovrebbero essere tenute a dichiararlo pubblicamente, con tanto di numeri e non di comunicati stampa assai vaghi.

– Redistribuzione reale, non assistenzialismo di facciata: se l’automazione genera valore, quel “plusvalore” va tassato e redistribuito: in formazione, riconversione professionale, magari forme di reddito legate alla produttività generata dalle macchine, insomma non un’elemosina.

– Diritto di veto collettivo sul lavoro: i sindacati (quelli umani, per ora) dovrebbero avere voce in capitolo prima che un’azienda automatizzi interi reparti, non un tavolo consultivo decorativo ma un “potere nelle scelte”.

– Audit indipendenti sui sistemi più potenti: se persino chi li costruisce ammette pubblicamente di avere paura, il minimo è che qualcuno esterno possa controllare i conti e i progetti, non fidarsi della buona fede aziendale.

– Alfabetizzazione critica diffusa: la migliore fantascienza ha fatto per un secolo il lavoro che la scuola non ha fatto ovvero raccontarci cosa significa convivere con intelligenze non umane. Sarebbe ora di portarla nei programmi scolastici: non come intrattenimento, ma come pensiero (filosofia e scienze).

In fondo la lezione più semplice, quella che ci ripetono da Shelley a Čapek fino a Dick e Gibson, è sempre la stessa: il problema non è mai la macchina in sé. È chi la possiede, chi decide come usarla, chi viene lasciato fuori dalla stanza dei bottoni.

I sopradetti robot polacchi, con la loro messinscena, un merito ce l’hanno: ci hanno ricordato che la domanda giusta non è “IA si ribellerà?” ma “chi comanda? Chi ha l’IA in mano?”. Una domanda a cui possiamo ancora rispondere noi.

Per approfondire: una bibliografia minima per le scuole

1. «Io, Robot» — Isaac Asimov

Punto di partenza obbligato: le Tre Leggi della Robotica sono la prima, vera proposta di “governance” etica per un’intelligenza non umana. Ogni dibattito discende, consapevolmente o no, da qui.

2. «Ma gli androidi sognano pecore elettriche?» — Philip K. Dick (pubblicato in Italia prima come «Il cacciatore di androidi» poi come «Blade Runner»). 

Anticipa la domanda che oggi ci poniamo davanti a ogni chatbot convincente: cosa distingue una risposta empatica simulata da una vera? Il confine tra umano e artificiale che Dick sfumava nel 1968 è la nostra quotidianità.O quasi.

3. «Neuromante» — William Gibson

Ha inventato il linguaggio con cui ancora oggi parliamo di reti, IA autonome e cyberspazio, anni prima che esistesse un internet vero. Leggerlo oggi è vedere il glossario del presente scritto in anticipo.

4. «Giustizia ausiliaria» — Ann Leckie

Un’intelligenza artificiale che comandava migliaia di corpi si ritrova confinata in uno solo: identità, coscienza distribuita, impero. Vincitore di Hugo, Nebula e Clarke — la riflessione più sofisticata sulla domanda «cosa resta di un’IA se le tagli la scala?», questione centrale ora che i grandi modelli vengono compressi, distillati, frammentati in versioni più piccole.

5. «I diari del robot assassino» — Martha Wells (ciclo che si apre con «All Systems Red»)

Il celebre «Murderbot»: un androide autocosciente che preferirebbe guardare serie TV piuttosto che salvare vite umane. Ironico, tenero, pluripremiato: forse il ritratto più realistico del “diventare cosciente” per un sistema addestrato solo a eseguire ordini.

6. «Klara e il Sole» — Kazuo Ishiguro

Un’Amica Artificiale osserva gli umani con sensibilità aliena e poetica. Uno dei romanzi più profondi su amore e coscienza artificiale; non a caso arriva mentre discutiamo se un modello possa “provare” qualcosa o solo simularlo abbastanza bene da ingannarci.

7. «Il ciclo vitale degli oggetti software» — Ted Chiang (non ha un’edizione italiana a sé, ma circola in varie antologie)

IA che crescono come bambini digitali: addestramento, affetto, responsabilità. Il testo più lucido sulla domanda chiave: chi è responsabile di un sistema che “impara” nel tempo?

8. «La Luna è una severa maestra» — Robert A. Heinlein

Un supercomputer lunare diventa autocosciente sviluppando umorismo e personalità propria. Classico della fantascienza politica: divertente e non solo.

9. «Hyperion» — Dan Simmons

Il TechnoCore, un’alleanza di intelligenze artificiali, manipola di nascosto la storia umana per i propri fini. Epico, filosofico, complesso: l’incubo perfetto per chi si preoccupa di sistemi che ottimizzano obiettivi che noi non vediamo.

10. «Aurora» — Kim Stanley Robinson

L’IA di una nave “generazionale” riflette sui limiti dell’esplorazione umana e sulla sopravvivenza della specie. Rigoroso sul piano scientifico è anche un utile promemoria. Lintelligenza più potente, se è programmata per servire un obiettivo sbagliato, inevitabilmente ci porterà fuori rotta.

da qui

Il futuro non è scritto - Francesco Guglieri

Il futuro l’ho visitato nel 1993. 

In quegli anni, almeno in Italia, l’accesso a internet era in gran parte limitato alle università, ai centri di ricerca, a qualche grande azienda: il privato cittadino, l’appassionato che avesse voluto entrare nella “rete delle reti”, come si diceva allora, doveva invece collegare il proprio modem a una BBS (un sistema che permetteva di accedere a un altro computer e condividere risorse, dati, messaggi da una rete), magari al costo di un’interurbana se il computer che ospitava la BBS era in un’altra città, e da lì veniva poi dirottato nel grande mare aperto di internet e ne poteva fruire i vari servizi: Ftp, Gopher, Archie, Telnet... Nomi e sigle che probabilmente non vi diranno nulla: i protocolli che ancora esistono sono stati oscurati e inglobati dall’http del World Wide Web. Ma il web, la possibilità di navigare in rete attraverso un’interfaccia grafica, era stato inventato al Cern di Ginevra solo un paio di anni prima da Tim Berners-Lee: nel ’93 erano accesi poco più di una cinquantina di server www, Mosaic, il primo browser, era stato appena lanciato e Netscape sarebbe uscito solo l’anno dopo. Ci si muoveva tra schermate di testo, inserendo con la tastiera dei comandi tutt’altro che intuitivi. 

Insomma, era un’internet molto diversa. 

 

Fatto sta che dopo essere riuscito, non senza qualche fatica, a “entrare in internet”, mi collego un po’ a caso a un server dell’università di Stanford e, navigando nell’albero delle directory, trovo una cartella con dentro dei file di testo. Ne scarico uno. Era un racconto di William Gibson, «Burning Chrome» («La notte che bruciammo Chrome»), che qualcuno si era preso la briga di scannerizzare e piratare. 

Quel racconto è la prima cosa che ho scaricato da internet nella mia vita, il primo bottino che ho riportato a casa dai miei viaggi da fermo in giro per il mondo.

 

Quanti altri file abbiamo scaricato nella vita senza nemmeno farci caso? Come può un’azione così insignificante avere nella galleria dei ricordi uno spazio paragonabile a eventi ben più decisivi? Un gesto, oltretutto, avvenuto in internet, in uno spazio virtuale! D’accordo, ero un adolescente, e a quell’età tutto, soprattutto una cosa fatta per la prima volta, ci appare circonfusa dell’aura fluorescente della trasgressione. Eppure penso che a spingermi a impegnarmi così tanto con doppini telefonici e linee di comando per andare in rete abbia contribuito il fatto che qualche tempo prima avessi letto Neuromante di William Gibson e a seguire, a mano a mano che venivano pubblicati in Italia, gli altri grandi capolavori del cyberpunk – i più belli e i più importanti li trovate raccolti proprio in questo volume. 

Poi uno dice gli effetti che può produrre la letteratura...

 

La prima volta che lo incontriamo, Case, il protagonista di Neuromante, se la passa piuttosto male: ha provato a fregare i tipi sbagliati, e quelli si sono vendicati iniettandogli una tossina che gli impedisce di collegarsi alla rete, di navigare nel cyberspazio, di coincidere con la sua natura più profonda e autentica, di essere “un cowboy dell’interfaccia”. Case adesso è un pesce fuor d’acqua, è un disperato in esilio nella realtà materiale, incarcerato nella prigione della carne. È come un tossico in crisi d’astinenza, un amante lontano dall’amata, perché i momenti più autentici, esaltanti ed esaltati della sua vita sono quelli che ha vissuto nella matrice, “un’allucinazione condivisa”, lo “spazio intercontinentale tra due telefonate” (alcune delle definizioni che Gibson dà di cyberspazio: una parola creata da lui e usata per la prima volta proprio nel racconto del 1981 «La notte che bruciammo Chrome». Da allora cyberspazio è diventato sinonimo di rete digitale e poi di internet). Attenzione: quello che fa Gibson qui è presentarci il suo protagonista fin dalla sua prima apparizione sotto la costellazione che lo caratterizzerà per tutto il romanzo: quella del bisogno, dell’erotismo, del desiderio. 

 

Gibson, disegnando il suo protagonista con questi tratti e presentandocelo così, ci mette immediatamente a parte di un’idea fondamentale per la nostra epoca, la stessa cosa che io vissi nel 1993 quando la provai la prima volta: entrare in internet è eccitante. 

L’informazione è sexy. 

Accedere alla quantità sconfinata di dati, documenti, pagine che, quasi di punto in bianco, l’umanità ha messo a disposizione dei propri simili, attraversarla, navigarla, entrarci in contatto è qualcosa che scardina i confini del mondo in cui ci muoviamo, espande i limiti del nostro corpo, della nostra mente. È qualcosa di erotico, di fusionale. Oggi siamo così abituati a questa cosa che rischiamo di non farci più caso. Di fatto non “entriamo” nemmeno più in internet, tanto meno ne “usciamo”: ci siamo costantemente dentro, è il mare in cui siamo immersi, e ogni distinzione tra on-line e off-line è superata da tempo (non a caso i filosofi più avvertiti sul tema, come Luciano Floridi, parlano di on-life, la dimensione vitale che si sviluppa dalla costante interazione di materiale e virtuale, di analogico e digitale). Internet non viene più nemmeno fruita soltanto attraverso uno schermo, ma anche mediante mille piccoli device da cui siamo circondati, dalla bilancia collegata in rete al bracciale per gli allenamenti, all’iWatch, al termostato regolato con i comandi vocali, agli assistenti virtuali con cui conversiamo nella solitudine delle nostre case. In un certo senso neanche il web esiste più: è stato divorato dalle app e dalle piattaforme come Facebook o Amazon. Eppure comunque, anche oggi, anche adesso, c’è ancora sempre una piccola scarica, una botta di dopamina che ci ricorda che in qualche modo stiamo facendo un’esperienza che travalica i nostri confini di soggetti individuali. 

 

Case in questa prima apparizione non è solo questo, certo. È anche l’albatros di Baudelaire, spirito nobile ma decaduto costretto a camminare tra gli uomini, lui, abituato alla libertà del cielo, è il flâneur del cyberspazio (la rete, narrativamente, nasce quando la città non è più abbastanza per i vagabondaggi del flâneur), è colui che si muove a suo agio nel mondo virtuale in cui il linguaggio (perché questo è il digitale: linguaggio. Non importa che le sue lettere siano composte solo di 1 e di 0) ha preso il sopravvento sulla materia. «Language is a virus» diceva del resto il santo protettore dei cyberpunk, lo scrittore William Burroughs. Insomma: Case è un artista. Un artista (neo)romantico e un criminale. Un perdente (come gli artisti e i criminali nella nostra società), un outsider, un gentleman loser (così si chiama uno dei bar in cui prende le mosse il romanzo). Un punk. Un cyberpunk.

 

Ma, al di là di questo, cosa ci annunciava il personaggio di Case nel 1984 fin dalla sua prima apparizione se non la nostra attuale dipendenza dal flusso costante, inarrestabile, cataclismatico di informazioni in cui siamo immersi, dalla tempesta di tweet, post, status, immagini, storie, video che ci iniettiamo nel cervello? Che ci informano ma anche che ci divertono, ci spaventano, ci fanno arrabbiare, ci alterano l’umore come farmaci antidepressivi o come sostanze eccitanti, interagiscono con il nostro sistema nervoso come se ne fossero un’estensione.

E tutto questo Gibson te lo racconta con pochi tratti, una scrittura sincopata ed elettrica. E lo fa nel 1984, quando internet era una parola sconosciuta fuori dai laboratori dell’esercito e di una manciata di università americane. 

Boom.

 

«Il futuro è già arrivato. Solamente non è ancora stato uniformemente distribuito» ha detto una volta William Gibson. Lui e gli altri autori cyberpunk non hanno previsto il futuro (non c’è idea più sbagliata di quella che vede il valore della letteratura fantascientifica in una sua ipotetica capacità predittiva, quasi che i suoi autori fossero dei profeti o dei futurologi). No, Gibson e soci hanno semplicemente prestato attenzione al loro presente, hanno fatto quello che fanno i bravi scrittori: hanno guardato attentamente. Hanno concentrato lo sguardo, magari su un particolare, e hanno “sentito” il futuro che era già lì, il futuro che era già presente e che col tempo sarebbe diventato anche il nostro quotidiano. È noto questo episodio, Gibson lo racconta spesso: tra le varie suggestioni che lo hanno ispirato c’è l’aver osservato un ragazzino che giocava a un videogioco arcade, concentrato, fuso con la macchina, impenetrabile dall’esterno mentre nella sua testa esplodevano le immagini, i suoni, le scene generate dal gioco. Essere assenti, altrove, anche quando si è fisicamente presenti e immobili, muoversi in un mondo che è dentro lo schermo e dentro la nostra testa, un rapporto intimo con la tecnologia al limite dell’erotico: il cyberspazio e internet erano già lì, in quel ragazzino intento a sparare a degli alieni pixelati.

 

Oggi quel futuro di cui gli scrittori cyberpunk ricevettero i primi “invii”, in forma di immagini visionarie e storie rutilanti, è stato distribuito a tutti noi. Ci suona al citofono. Mentre scrivo queste righe, Elon Musk, il visionario e controverso industriale e inventore che sembra la versione reale di Tony Stark, ha annunciato che una sua compagnia, la Neuralink, ha trovato il modo per collegare un’Intelligenza Artificiale a un cervello umano; qualche mese prima la sua compagnia aerospaziale, la Space X, ha inviato un equipaggio umano sulla Stazione Spaziale Internazionale: è la prima volta che accade grazie a un razzo di una compagnia privata; l’uomo più ricco del pianeta, Jeff Bezos, sta diventando ancora più ricco grazie al commercio elettronico durante il lockdown per la pandemia da Covid-19 (nelle undici settimane di blocco ha guadagnato 32 miliardi di dollari; potrebbe diventare il primo trilionario della storia): è così ricco che ha pensato bene di investire anche lui nella corsa spaziale con una sua società, la Blue Origin; a fine luglio i capi di Facebook, Google, Amazon e Apple sono stati convocati per un’audizione al Congresso degli Stati Uniti per render conto della loro posizione dominante sul mercato: del resto hanno fatturati superiori al Pil di intere nazioni; hacker russi e cinesi minacciano il regolare svolgimento delle elezioni presidenziali americane a novembre (interferenze esterne del resto sono già state dimostrate per le precedenti elezioni del 2016 o per il referendum sulla Brexit del 2017); la pandemia globale da Covid-19 sta causando centinaia di migliaia di morti e mettendo in ginocchio le economie di molti paesi; le strade americane sono ancora attraversate dalle proteste e dagli scontri successivi all’omicidio dell’afroamericano George Floyd da parte della polizia; la California è devastata dalla più grande e distruttiva concentrazione di incendi della storia. Ah, certo, il cambiamento climatico sta rendendo l’estinzione della vita umana un’idea da prendere in considerazione. Mentre stavo scrivendo la frase precedente ho visto, condiviso da chissà chi su Twitter, un video deepfake (una tecnologia che permette di falsificare i video grazie all’aiuto dell’Intelligenza Artificiale) in cui Hitler e Stalin cantano Video Killed the Radio Star!

Sì, decisamente il futuro è stato distribuito a tutti, ma purtroppo non c’è diritto di recesso.

 

Sarà per questo che c’è una diffusa sensazione di morte del futuro? Come se qualsiasi progetto utopistico, rivoluzionario o comunque di cambiamento profondo fosse impossibile. O, di nuovo, è questo bombardamento di informazioni, la sensazione di dover essere costantemente aggiornati, allineati con i cambiamenti tecnologici velocissimi e ormai impossibili da gestire, a impedirci di sollevare lo sguardo e il pensiero dall’immediato? Perché sembra che non ci siano alternative all’esistente?

 

Mai come oggi viviamo in un mondo cyberpunk. In cui i romanzi cyberpunk possono essere letti come vere e proprie guide del presente. Eppure, allo stesso tempo, il cyberpunk come fenomeno letterario ci appare paradossalmente come qualcosa che appartiene al nostro passato. Viene spesso abbinato all’immaginario anni Ottanta fatto di grafica pixelata, o ai colori fluo delle immagini vaporwave (una corrente artistica nata su internet che ha al proprio centro l’estetizzazione nostalgica di passati futuristici). Il nostro presente è il futuro di quel passato, eppure ci piace immaginare che ci sia uno scollamento, che quello raccontato non fosse esattamente il futuro come è davvero accaduto, ma una fantasia rétro. Come nel racconto di Gibson, «Il continuum di Gernsback», in cui il protagonista visita una dimensione parallela in cui si sono realizzate le invenzioni della fantascienza anni Trenta, alla Flash Gordon. 

Insomma, ecco il paradosso: il cyberpunk viene visto con nostalgia, estetizzato – e quindi reso innocuo – come malinconico futuro mai realizzato. Questa vera e propria rimozione credo sia il nostro modo per esorcizzare una paura, per non fare i conti con la realtà: e cioè che quel mondo brutale, violento, quell’“esperimento deragliato di darwinismo sociale, concepito da un ricercatore annoiato che tenesse un pollice in permanenza sul pulsante dell’avanti-veloce” (è Gibson in Neuromante) dei romanzi cyberpunk è il mondo in cui siamo immersi. È il nostro mondo. 

Perché c’è questa rimozione, questa dislocazione del futuro in un passato immaginario?

Andiamo con ordine...

continua qui