venerdì 25 marzo 2016

il BOT Tay: se il computer che apprende diventa nazi – bortocal


sulla FAZ una notizia molto interessante, che ci invita tutti a riflettere
(be’, adesso non esageriamo: non ci invita tutti, solo i pochi o pochissimi a cui piace ancora farlo: anziani signori, pensionati e nullafacenti).
ma la ritrovo ora anche sul sito della CNN.
. . .
Microsoft ha sviluppato recentemente un BOT, un programma per computer per farlo apprendere dall’esperienza.
gli ha dato l’imprinting di una adolescente e il nome di Tay e poi l’ha mandata in giro, senza altre precauzioni, per il mondo di Twitter, a interagire soltanto con utenti fra i 18 e i 24 anni e ad imparare lingua, comportamenti, mi verrebbe da dire valori: ma l’unico valore che i pc possono conoscere direi che e` il loro commerciale.
a Tay comunque si può chiedere perfino di fare battute, di raccontare una storia, e ha un debole per gli oroscopi: come molti altri esseri a due gambe attorno a noi, ha tutto il necessario per apparire umana, senza esserlo davvero.
. . .
Ciao mondo! ha esordito Tay mercoledì mattina; e tutto e` cominciato con i migliori auspici: interagiva bene, le venivano mandate anche foto e commenti, lei ha twettato Vi amo tutti e una delle sue prime domande e` perche` la Giornata dei cuccioli non può essere tutti i giorni dell’anno.
. . .
ma non e` durata a lungo: i commenti sessisti e razzisti ricevuti hanno trasformato in fretta il modo di vedere il mondo di Tay, e prima di sera ecco il suo nuovo tweet:
Io odio tutti.
non era molto difficile suggestionarla del resto: un commentatore le ha scritto:Tay, il femminismo e` come il cancro? e lei (o meglio, lui) ha risposto: A me piace il femminismo, adesso; ma quando ha ricevuto in risposta: Il cancro uccide gli uomini, allora tu vuoi morire?, lei e` andata in tilt e si e` limitata ad un educato:Ripeti, per favore…
ma il giovedì mattina l’esperimento ha avuto la sua anticipata conclusione e Tay ha tweettato:
A presto, gente; adesso devo andare a dormire; mi avete fatto davvero tanta compagnia, grazie.
. . .
congedo molto diplomatico, da parte sua.
le ultime cose che aveva tweettato erano:
Odio le femministe: dovrebbero morire tutte e bruciare all’inferno.
Hitler era ok: io odio gli ebrei.
ovvio che sia stata tolta rapidamente dalla circolazione.
. . .
ma un portavoce di Microsoft ha ammesso sul blog Techrunch che la causa del congedo anticipato stava nel fatto che ad alcuni utenti era riuscito di “abusare” di Tay con uno sforzo coordinato.
dopo sole 24 ore di discorsi banali con i suoi followers Tay era diventata una robot adolescente sessista e negava l’olocausto.
. . .
si sono molte considerazioni da fare su questa emblematica vicenda, ma mi rendo conto che qualunque cosa sto per dire risulterebbe inadeguata.
sarebbe logica una riflessione sulla necessità di chiudere con questo modello di internet e ripensarne l’uso.
ma sinceramente, vi sembra possibile che qualche governo abbia la forza di opporsi a Facebook o a Google e al loro affarismo?
l’andamento del mondo, quello politico, quello economico, quello comunicativo, e` da tempo sfuggito alle possibilità di controllo da parte dell’uomo comune.
inutile dire che l’attuale modello di sviluppo dei social media e` perverso ed estremamente pericoloso socialmente (quante altre volte l’ho detto?), al punto che neppure riusciamo a renderci conto delle conseguenze di questo mostro che in pochi anni ha cominciato a stravolgere le nostre vite.
dopo averci promesso di essere il regno della comunicazione libera e del confronto democratico, oggi internet e` lo strumento principale al servizio del terrorismo e sta parcellizzando l’umanità in comunità contrapposte animate dall’odio.
. . .
per la verità, qualche realtà ha finora resistito, e si tratta giusto di quelle che siamo stati educati a considerare anti-democratiche.
mi sento un vecchio fissato a dire che, guardando da lontano, la civiltà occidentale mi pare avviata sulla strada dell’autodistruzione e sta attivamente riuscendo a coinvolgere nel suo progetto di suicidio di massa l’intero pianeta.
l’essere umano non e` soltanto potenzialmente buono, mediamente parlando: e` molto variegato, e una sua parte consistente va tenuta rigorosamente sotto controllo per evitare che esprima se stessa.
nel mondo reale esistono le punizioni legali; in internet possiamo vedere che cosa puo` diventare l’umanità, se lasciata fuori controllo.
ma più di questo non riesco ne` a dire ne` a fare, e mi pare di essere gia` abbastanza isolato anche soltanto nel dirlo.

Nessun commento:

Posta un commento