Cyber Troops: ecco i nuovi conflitti - Paolo Benanti

Il 26 settembre è stato pubblicato a firma di due ricercatori dell'Oxford Internet Institute un report il cui titolo è eloquente: “The Global Disinformation Order: 2019 Global Inventory of Organised Social Media Manipulation". Lo studio tenta uno sguardo globale sull’uso di algoritmi, automazione e big data per manipolare la sfera pubblica. Guardiamone gli elementi principali.

Il nuovo rapporto "The Global Disinformation Order: 2019 Global Inventory of Organized Social Media Manipulation", redatto dal professor Philip Howard, direttore dell'Oxford Internet Institute (OII), e Samantha Bradshaw, ricercatore dell'OII, al momento è, nel suo genere, l'unico inventario pubblicato su base regolare che esamina l'uso di algoritmi, dell'automazione e dei big data per attuare strategie volte a modellare la vita pubblica.

  

Il rapporto esplora gli strumenti, le capacità, le strategie e le risorse impiegate dalle "truppe cibernetiche" globali, in genere agenzie governative e partiti politici, per influenzare l'opinione pubblica in 70 paesi.

I risultati chiave che emergono dal report includono:

·         La manipolazione dei social media organizzata è più che raddoppiata dal 2017, con 70 paesi che utilizzano la propaganda computazionale per manipolare l'opinione pubblica.
 

·         In 45 democrazie, politici e partiti politici hanno utilizzato gli strumenti di propaganda computazionale accumulando falsi follower o diffondendo media manipolati per ottenere il sostegno degli elettori.
 

·         In 26 stati autoritari, gli enti governativi hanno utilizzato la propaganda computazionale come strumento di controllo delle informazioni per sopprimere l'opinione pubblica e la libertà di stampa, screditare le critiche e le voci di opposizione ed eliminare il dissenso politico.
 

·         Le operazioni di influenza straniera, principalmente su Facebook e Twitter, sono state attribuite alle attività delle truppe informatiche in sette paesi: Cina, India, Iran, Pakistan, Russia, Arabia Saudita e Venezuela.
 

·         La Cina è ora emersa come uno dei principali attori nell'ordine globale della disinformazione, utilizzando piattaforme di social media per colpire il pubblico internazionale con disinformazione.
 

·         25 paesi stanno lavorando con aziende private o società di comunicazione strategica che offrono una propaganda computazionale come servizio.
 

·         Facebook rimane la piattaforma di scelta per la manipolazione dei social media, con prove di campagne formalmente organizzate in 56 paesi.
   

A margine della pubblicazione, il professor Philip Howard, direttore dell'Oxford Internet Institute, Università di Oxford, ha dichiarato:

“La manipolazione dell'opinione pubblica sui social media rimane una minaccia fondamentale per la democrazia, poiché la propaganda computazionale diventa una parte pervasiva della vita di tutti i giorni. Agenzie governative e partiti politici in tutto il mondo stanno usando i social media per diffondere disinformazione e altre forme di media manipolati. Sebbene la propaganda abbia sempre fatto parte della politica, l'ampia portata di queste campagne solleva preoccupazioni critiche per la democrazia moderna ".

Samantha Bradshaw, autore principale del rapporto e ricercatrice, ha aggiunto:

“I vantaggi offerti dalle tecnologie di social network - algoritmi, automazione e big data - cambiano notevolmente la portata, l'ambito e la precisione di come le informazioni vengono trasmesse nell'era digitale. Sebbene un tempo i social media fossero annunciati come una forza per la libertà e la democrazia, è sempre più sotto controllo per il suo ruolo nell'amplificare la disinformazione, incitare alla violenza e ridurre la fiducia nei media e nelle istituzioni democratiche ".

Il rapporto esplora gli strumenti e le tecniche della propaganda computazionale, incluso l'uso di account falsi - robot, umani, cyborg e account compromessi - per diffondere disinformazione. In sintesi dal report si rileva che:

·         l'87% dei paesi ha utilizzato conti umani
 

·         l'80% dei paesi utilizzava account bot
 

·         l'11% dei paesi ha utilizzato account cyborg
 

·         il 7% dei paesi ha utilizzato account compromessi o rubati

I ricercatori di Oxford esaminano anche il modo in cui le truppe cibernetiche usano strategie di comunicazione diverse per manipolare l'opinione pubblica, come la creazione di disinformazione, contenuti o resoconti di massa e l'uso di strategie offensive come trolling, doxing o molestie. Il rapporto rileva che:

·         52 paesi hanno utilizzato disinformazione e manipolazione dei media per indurre in errore gli utenti
 

·         47 paesi hanno utilizzato troll sponsorizzati dallo stato per attaccare oppositori o attivisti politici nel 2019, rispetto a 27 paesi nel 2018

Sempre a margine della pubblicazione il professor Howard ha dichiarato:

“Una democrazia forte richiede l'accesso a informazioni di alta qualità e la capacità dei cittadini di riunirsi per discutere, discutere, deliberare, entrare in empatia e fare concessioni. Sebbene ci sia un numero crescente di attori governativi che si rivolgono ai social media per influenzare gli atteggiamenti pubblici e interrompere le elezioni, restiamo ottimisti sul fatto che i social media possano essere una forza per il bene creando uno spazio per la deliberazione pubblica e la democrazia per prosperare ”.
 

Il rapporto del 2019 si basa su una metodologia in quattro fasi utilizzata dai ricercatori di Oxford per identificare prove di campagne di manipolazione organizzate a livello globale. Ciò include un'analisi sistematica del contenuto di articoli di notizie sull'attività delle truppe cibernetiche, una revisione della letteratura secondaria di archivi pubblici e rapporti scientifici, che genera casi di studio specifici per paese e consultazioni di esperti. Il lavoro di ricerca è stato redatto da i ricercatori di Oxford tra il 2018-2019.

Uno sguardo al testo
Ecco a seguire un breve estratto in traduzione del report.

Negli ultimi tre anni, abbiamo monitorato l'organizzazione globale della manipolazione dei social media da parte di governi e partiti politici. Il nostro rapporto del 2019 analizza le tendenze della propaganda computazionale e gli strumenti, le capacità, le strategie e le risorse in evoluzione.

1. Prove di campagne organizzate di manipolazione dei social media che hanno avuto luogo in 70 paesi, rispetto a 48 paesi nel 2018 e 28 paesi nel 2017. In ogni paese, esiste almeno un partito politico o un'agenzia governativa che utilizza i social media per modellare gli atteggiamenti pubblici a livello nazionale (Figura 1).
 

2. I social media sono stati cooptati da molti regimi autoritari. In 26 paesi, la propaganda computazionale viene utilizzata come strumento di controllo delle informazioni in tre modi distinti: sopprimere i diritti umani fondamentali, screditare gli oppositori politici ed eliminare le opinioni dissenzienti (Figura 2).
 

3. Una manciata di attori statali sofisticati usa la propaganda computazionale per operazioni di influenza straniera. Facebook e Twitter hanno attribuito operazioni di influenza straniera a sette paesi (Cina, India, Iran, Pakistan, Russia, Arabia Saudita e Venezuela) che hanno utilizzato queste piattaforme per influenzare il pubblico globale (Figura 3).
 

4. La Cina è diventata uno dei principali attori nell'ordine globale di disinformazione. Fino alle proteste del 2019 a Hong Kong, la maggior parte delle prove della propaganda computazionale cinese si sono verificate su piattaforme domestiche come Weibo, WeChat e QQ. Ma il nuovo interesse della Cina nell'uso aggressivo di Facebook, Twitter e YouTube dovrebbe suscitare preoccupazioni per le democrazie
 

5. Nonostante ci siano più piattaforme di social network che mai, Facebook rimane la piattaforma di scelta per la manipolazione dei social media. In 56 paesi, abbiamo trovato prove di campagne di propaganda computazionale organizzate formalmente su Facebook. (Figura 4).

La propaganda computazionale - l'uso di algoritmi, automazione e big data per modellare la vita pubblica - sta diventando una parte pervasiva e onnipresente della vita quotidiana.

[...]

Questo rapporto ha messo in evidenza i modi in cui le agenzie governative e i partiti politici hanno utilizzato i social media per diffondere la propaganda politica, inquinare l'ecosistema dell'informazione digitale e reprimere la libertà di parola e la libertà di stampa. Sebbene le opportunità offerte dai social media possano servire a migliorare la portata, la portata e la precisione della disinformazione (Bradshaw e Howard 2018b), è importante riconoscere che molte delle questioni alla base della propaganda computazionale - la polarizzazione, diffidenza o declino della democrazia - esistevano molto prima dei social media e persino di Internet stesso.

La cooptazione delle tecnologie dei social media dovrebbe destare preoccupazione per le democrazie di tutto il mondo, ma anche molte delle sfide di lunga data che devono affrontare le società democratiche. La propaganda computazionale è diventata una parte normale del sfera pubblica digitale.

Queste tecniche continueranno anche ad evolversi man mano che le nuove tecnologie - tra cui l'intelligenza artificiale, la realtà virtuale o Internet delle cose - sono pronte a rimodellare fondamentalmente la società e la politica. Ma poiché la propaganda computazionale è un sintomo di sfide di lunga data alla democrazia, è importante che le soluzioni tengano conto di queste sfide sistemiche.

Tuttavia, deve anche considerare il ruolo svolto dalle piattaforme di social media nel plasmare l'attuale ambiente di informazione. Una democrazia forte richiede l'accesso a informazioni di alta qualità e la capacità dei cittadini di riunirsi per discutere, discutere, deliberare, entrare in empatia e fare concessioni. Le piattaforme di social media stanno davvero creando uno spazio per la deliberazione pubblica e la democrazia? O stanno amplificando i contenuti che rendono dipendenti i cittadini, disinformati e arrabbiati?

I social media, che una volta venivano annunciati come una forza per la libertà e la democrazia, sono stati oggetto di un crescente controllo per il suo ruolo nell'amplificare la disinformazione, nell'incitare alla violenza e nel ridurre i livelli di fiducia nei media e nelle istituzioni democratiche.

Cosa accade in Italia
Chiudiamo questa presentazione con un breve focus sull'Italia.

Nel nostro Paese sono segnalate dal report soprattutto campagne di bot, fatte da partiti/politici, con l’obiettivo principale di distrarre da altri temi, o sottlineare divisioni, con la strategia di amplificare contenuti o di diffondere disinformazione, con “cyber truppe di quantità limitata” (come anche Germania, Austria, Spagna e altri Paesi) che si attivano perlopiù in occasione di elezioni o referendum, e che non fanno operazioni all’estero.

Gli Stati che avrebbero invece delle cyber truppe numerose, sia per operazioni locali che straniere, includono: Cina, Egitto, Iran, Israele, Myanmar, Russia, Arabia Saudita, Siria, Emirati Arabi Uniti, Venezuela, Vietnam, e Stati Uniti.

Conclusioni

Il report dell'Oxford Internet Institute mette in luce com il digitale e il cyber abbiano bisogno non solo di attenzione ma anche di un rinnovato impegno da parte dei governi e delle istituzioni.

A questo proposito ci sembra importante ricordare l'iniziativa della cosiddetta The Paris Call for Trust & Security in Cyberspace. Il Paris Call è un accordo multi-stakeholder che si fonda su 9 principi fondamentali di sicurezza informatica e un impegno a lavorare insieme per promuovere un cyberspazio sicuro per tutti.

I nuovi conflitti e le maggiori nuove minacce all'ordine e alla sicurezza delle persone oggi nascono dal digitale.Come stato capofila per le relazioni diplomatiche c'è il governo francese che ha appoggiato per primo la Call a Parigi nel novembre del 2018. Ad oggi la Call ha il supporto di oltre 550 entità da tutto il mondo - tra cui 67 governi e centinaia di organizzazioni dell'industria e della società civile - rendendola l'iniziativa più grande incentrata sulla sicurezza informatica e l'impegno multi-stakeholder nel mondo.

da qui

Scuola o Panopticon? Se le AI divengono prigioni - Paolo Benanti

Una scuola superiore in Cina ha realizzato un sistema di riconoscimento facciale che analizza il comportamento degli studenti in classe, lo registra e lo rende disponibile agli insegnanti e ai presidi. La cosa suscita molti interrogativi.

I fatti

La tecnologia di riconoscimento facciale introdotta da questa scuola registra le espressioni facciali di tutti gli studenti mentre stanno facendo lezione nelle loro classi. Il sistema esegue la scansione della classe ogni 30 secondi ed è in grado di riconoscere sette espressioni diverse e le categorizza secondo uno schema. Il sistema classifica il volto dello studente come neutrale, felice, triste, deluso, spaventato, arrabbiato o sorpreso.

Il sistema è stato chiamato "Intelligent Classroom Behavior Management System" ed è utilizzato presso la Hangzhou n. 11 High School. Il sistema non riconosce solo le espressioni facciali ma ha anche la capacità di analizzare sei tipi di comportamenti degli studenti: alzarsi in piedi, leggere, scrivere, alzare la mano, ascoltare l'insegnante e appoggiarsi sulla scrivania. 

Le informazioni su come gli studenti reagiscono e si comportano nella classe quando un insegnante fa lezione vengono successivamente inviate agli insegnanti per analizzare in modo più efficiente il comportamento degli studenti. Il sistema - naturalmente - è anche usato per monitorare la presenza in classe degli alunni.

Il sistema è una sfida alla privacy dello studente, tuttavia, secondo la scuola cinese, l'idea presenta più vantaggi che minacce. Zhang Guanchao, vice preside della scuola, ha affermato che il sistema raccoglie e analizza solo i risultati del riconoscimento facciale e li memorizza in un database locale. I dati non sono caricati in alcun cloud. Inoltre per garantire qualsiasi uso distorto, il sistema non salva le immagini non consentendo alcun accesso non autorizzato ai dati.

Come prova ella positività del sistema la scuora riporta anche alcune testimonianze degli studenti. In particolare uno studente ha detto ai reporter:

"Prima dell'introduzione del sistema, se avevo lezioni che non mi piacevano molto, ero pigro e in alcuni caso facevo dei sonnellini sulla scrivania o sfogliavo altri libri di testo. Ma ora non oso essere distratto. Dopo che le telecamere sono state installate nelle aule è come se un paio di occhi misteriosi mi osservassero costantemente". 

Guardando le telecamere installate nelle scuole in Cina, è un campanello d'allarme per le scuole in Pakistan. Dal momento che un sistema come questo aiuta gli insegnanti a ripensare il loro stile di insegnamento utilizzando dati statistici e segna la presenza della classe in pochi secondi.

Nuovi Panopticon?

Il Panopticon o panottico è un carcere ideale progettato nel 1791 dal filosofo e giurista Jeremy Bentham.

Il concetto della progettazione è di permettere a un unico sorvegliante di osservare (opticon) tutti (pan) i soggetti di una istituzione carceraria senza permettere a questi di capire se siano in quel momento controllati o no. Il nome si riferisce anche a Argo Panoptes della mitologia Greca: un gigante con un centinaio di occhi considerato perciò un ottimo guardiano.

L'idea del panopticon ha avuto una grande risonanza successiva, come metafora di un potere invisibile, ispirando pensatori e filosofi come Michel Foucault, Noam Chomsky, Zygmunt Bauman e lo scrittore britannico George Orwell nel romanzo 1984.

L'idea alla base del Panopticon (“che fa vedere tutto”) era quella che - grazie alla forma radiocentrica dell'edificio e ad opportuni accorgimenti architettonici e tecnologici - un unico guardiano potesse osservare (optikon) tutti (pan) i prigionieri in ogni momento, i quali non devono essere in grado di stabilire se sono osservati o meno, portando alla percezione da parte dei detenuti di un'invisibile onniscienza da parte del guardiano, che li avrebbe condotti ad osservare sempre la disciplina come se fossero osservati sempre. Dopo anni di questo trattamento, secondo Bentham, il retto comportamento "imposto" sarebbe entrato nella mente dei prigionieri come unico modo di comportarsi possibile modificando così indelebilmente il loro carattere. Lo stesso filosofo descrisse il panottico come "un nuovo modo per ottenere potere mentale sulla mente, in maniera e quantità mai vista prima" (Jeremy Bentham, Panopticon ovvero la casa d'ispezione, a cura di Michel Foucault e Michelle Pierrot, Venezia, Marsilio, 1983).

Nel suo saggio Sorvegliare e punire, Michel Foucault prenderà il panopticon come modello e figura del potere nella società contemporanea. L'architettura del panopticon sarebbe la figura di un potere che non si cala più sulla società dall'alto, ma la pervade da dentro e si costruisce in una serie di relazioni di potere multiple. Sotto il profilo delle relazioni di potere, attraverso l'invisibilità del controllo, il panopticon si ricollega anche all'Anello di Gige e alla Psicopolizia orwelliana.

Quali Prospettive nell'Intelligent Age?

David Lyon, sociologo e professore alla Queen’s University di Kingston, ha segnalato meglio e più di altri, riprendendo tutti gli aspetti del Panopticon, come all’evoluzione dei concetti di sorveglianza e privacy sia seguito un processo di “spettacolarizzazione del privato”, connesso a sua volta ad un meccanismo di spersonalizzazione del soggetto che la compie. Per quanto riguarda la trasformazione della sorveglianza e della privacy, lungamente trattata nel saggio The Electronic Eye: The Rise of Surveillance Society del 1994 e riassunta in un’intervista di qualche anno dopo, Lyon spiega:

In passato, la sorveglianza era l’oggetto su cui concentravano il loro interesse solo e soltanto poche istituzioni. Mi riferisco essenzialmente alla forze di polizia. Ora, tutte le istituzioni, dalla polizia alle imprese, dagli operatori di marketing alla scuola e alla sanità, svolgono una continua opera di monitoraggio sui comportamenti quotidiani, dal consumo al lavoro, dalle scelte etiche o religiose alle preferenze sessuali. In altri termini, è la vita sociale e le forme di vita individuali che sono messe sotto controllo. Allo stesso tempo, anche il significato di privacy muta. E se storicamente la riservatezza era lo spazio al riparo dallo sguardo pubblico, cioè una zona di immunità dalle ingerenze della società nella propria vita privata, attualmente per privacy si intende la ripresa di controllo del flusso dei propri dati personali (David Lyon, dall’intervista di Benedetto Vecchi pubblicata sul quotidiano Il manifesto del 15 novembre 2002).

Questa stretta sorveglianza collettiva è certamente favorita, promossa e moltiplicata nella sua portata dalle tecnologie digitali. Le videocamere permettono un controllo costante dei movimenti umani; le piattaforme virtuali permettono di ricostruire le attività sociali dei singoli, di metterli in comunicazione tra loro; i moduli statistici interattivi permettono una sorveglianza a basso costo e una ricostruzione sociologica del gusto, delle aspettative, delle tendenze; e poi ci sono i social network: così come i detenuti si adeguavano e assoggettavano alla disciplina al punto da introiettarla e seguirla per automatismo, sono le stesse microcellule dell’organismo sociale – le persone – a esporsi volontariamente e autonomamente alla monitoraggio, ad auto-schedarsi rendendo accessibili le informazioni sulle proprie attività, le proprie esperienze, le proprie ideologie, le proprie aspettative e persino le proprie emozioni 

Per Foucault, poi, l’invenzione del Panopticon è anche e soprattutto il simbolo di un momento di passaggio cruciale nella storia della cultura occidentale: l’idea di Bentham sancisce e simboleggia il passaggio da una società in cui la disciplina dei corpi e dei soggetti era riservata a situazioni gravi ed eccezionali (l’esempio che lui porta è quello della peste) a una società in cui la disciplina e la normazione sono processi “positivi”, che avvengono anche e soprattutto nella banalità della vita quotidiana di ciascuno.

Foucault è morto nel 1984, prima dell’avvento del World Wide Web. Ma leggendo oggi i suoi moniti sulla problematicità della visibilità (“La visibilità è una trappola!”), è difficile non chiedersi cosa avrebbe scritto sui social media e sul loro enorme potenziale come strumenti di normazione.

La questione della scuola cinese di fatto è solo un esempio state-driven di come un elemento come le AI in questo periodo, l'Intelligent Age come abbiamo già modo di definirlo, grazie ad algoritmi guardiani - cioè di profilazione e di predizione dei nostri comportamenti - sono i nuovi guardiani panoptici che tutto vedono e tutto controllano e costruiscono il carcere definitivo che chiuderà la nostra libertà in invisibili ma efficacissime prigioni digitali.

Se in Cina questa operazione può essere pensata come un'operazione di stato, in occidente è il mercato e i suoi colossi social come Facebook che possono diventare la prigione ideale.

Spetta a noi difendere e tutelare le nostre libertà e i nostri diritti. Dobbiamo garantire che le sanguinose battaglie che abbiamo combattuto tra Ottocento e Novecento, le battaglie per dire che siamo tutti uguali e abbiamo tutti gli stessi diritti, non siano cancellate da una cieca innovazione tecnologica.

da qui