L’INTELLIGENZA ARTIFICIALE E’ DIVENTATA OGGETTO DI GRANDI CONTROVERSIE

 George Orwell aveva ragione quando scriveva che "chi controlla il passato controlla il futuro". I notevoli progressi della tecnologia dell'intelligenza artificiale sembrano dargli ragione. Ma confermano anche la correttezza del resto della sua osservazione preveggente, citata meno spesso, secondo cui "chi controlla il presente controlla il passato". Anche questo sembra confermato, come vedremo tra poco.

L'intelligenza artificiale è giustamente diventata oggetto di grandi controversie, anche se è ancora presto per valutarne appieno l'impatto. Tuttavia, ogni giorno che passa diventano sempre più evidenti gli aspetti problematici, e alcuni direbbero addirittura nefasti, del suo utilizzo.

Una delle principali preoccupazioni riguardanti l'Intelligenza Artificiale è la sua pretesa di sostituire e consegnare a uno stato di permanente sottomissione la sua controparte umana. Un'altra è il pericolo che rappresenta per gli operai. Le loro mansioni diventeranno in gran parte obsolete e i loro redditi diminuiranno o scompariranno quando i datori di lavoro scopriranno che le operazioni che i lavoratori umani svolgevano in cambio di un salario possono essere svolte a costi minimi o nulli da quell'entità che ci stiamo abituando a chiamare Intelligenza Artificiale, o IA.

Chiaramente, la diffusione incontrollata dell'IA sta portando l'umanità in acque inesplorate. Una bizzarra illustrazione è la recente candidatura di un'entità IA a sindaco di Cheyenne, nello stato americano del Wyoming. Buona fortuna ai bravi e presunti conservatori abitanti di Cheyenne se non hanno tra loro un candidato umano qualificato per il quale votare.

. Questo è solo uno dei livelli in cui il buon senso dovrebbe imporre estrema cautela prima di impegnarsi acriticamente in alcune delle potenziali applicazioni dell'IA. C'è tuttavia un'altra e più inquietante applicazione che sta proliferando su Internet. A differenza dell'esempio precedente, non è minimamente divertente, ma dovrebbe suscitare allarme e forte inquietudine.

È l'emergere dei "deep fakes", distorsioni magistrali della realtà così convincenti che anche gli strumenti forensi più avanzati, per non parlare delle facoltà umane non assistite, troverebbero quasi impossibile individuare l'inganno.

All'interno del genere di quelli che sono stati definiti deep fakes è emersa una classe specifica e sinistra che sta saturando Internet. Non si tratta di infliggere i soliti fastidi come alterare l'aspetto di un individuo, fargli fare o dire cose che nella vita reale non avrebbe mai fatto, o ritrarlo credibilmente in una situazione compromettente a scopo di discredito. Invece di generare banali falsi personali, fa qualcosa che causa danni incomparabilmente maggiori. Falsifica deliberatamente la documentazione storica cancellando la distinzione tra fatto e finzione, verità e falsità. Induce in errore i disinformati e i creduloni, fabbricando eventi che teoricamente avrebbero potuto accadere, ma che non sono mai accaduti.

Il falso reportage della CBS dell'ottobre 1963 sul presunto scoppio della guerra civile tedesca è un esempio. Tutto è impressionantemente realistico, ma si tratta di un falso storico, di un'invenzione di sana pianta. Il messaggio di fondo del "notiziario" letto dal leggendario annunciatore della CBS Walter Cronkite è che la Germania non è stata sconfitta nella Seconda Guerra Mondiale, ma ha raggiunto i suoi principali obiettivi bellici, tra cui il controllo dell'Europa, conquiste sostanziali in Oriente e il ripristino delle sue colonie africane. Secondo questo falso scenario, nella Seconda guerra mondiale è stata la Russia a essere sconfitta e costretta a ritirarsi a est, forse dall'altra parte degli Urali, visto che Mosca è menzionata come distretto sotto il dominio tedesco. Dopo la morte di Hitler, presumibilmente per cause naturali, si scatena una lotta per il potere tra i suoi luogotenenti. La Germania "vittoriosa" viene ritratta come una robusta potenza nucleare che persino gli Stati Uniti temono di inimicarsi.

Aggiungendo un tocco intrigantemente realistico a questo scenario inventato, come leader della Germania Hitler muore all'inizio degli anni '60, più o meno nel momento in cui sarebbe dovuto morire in esilio in Sud America se si dovesse credere a una delle versioni della sua fuga. Per chi ha problemi storici, ulteriori dettagli sulla fittizia guerra civile tedesca del 1964 sono forniti qui.

Chi scrive ricorda le trasmissioni del telegiornale della CBS degli anni '60, quando Walter Cronkite era all'apice della sua influenza come "giornalista più affidabile" d'America. Oltre ad avere una solida conoscenza della storia contemporanea, ricordo anche l'aspetto e lo stile di trasmissione di Cronkite, nonché il timbro distinto della sua voce. Sotto tutti questi aspetti, questo falso videoclip è inquietantemente realistico. I difetti che questo e altri simili potrebbero ancora avere saranno risolti con successo da ulteriori miglioramenti nella tecnologia dell'intelligenza artificiale.

Ma quanti ventenni di oggi sarebbero in grado di riconoscere il falso, sulla base della loro conoscenza dei fatti storici? O anche gli adulti, se è per questo? Nei commenti degli spettatori, alcuni ammettono di essere rimasti impressionati dal falso "telegiornale" e affermano addirittura di ricordare di averlo visto quando, presumibilmente molti decenni fa, è stato trasmesso. Ma tutto questo è, ovviamente, una completa assurdità. È la falsa memoria del groupthink. Formazione di massa la chiama lo psicologo belga Mattias Desmet. Non è possibile che negli anni Sessanta abbiano assistito a tutto questo. Gli eventi che l'Intelligenza Artificiale fa apparire come annunciati da Cronkite non hanno mai avuto luogo e lui non li ha mai riferiti.

Espandendo i temi stabiliti nel precedente falso servizio, il falso Cronkite generato dall'IA riferisce in un altro falso "telegiornale" che le forze russe sconfitte si sono rialzate sotto la guida di un generale fittizio e stanno invadendo il territorio detenuto dalla Germania. Il filmato mostra il risorgente esercito russo del sinistro "Governo di Bonifica Nazionale", dotato di armi nucleari, che tenta di occupare i territori a ovest rivendicati dalla Russia. Una Russia in ginocchio, ma che riacquista la forza di un tempo sotto un nuovo governo revanscista e che reclama i suoi beni a ovest - potrebbe essere un'allusione di programmazione predittiva ad alcuni eventi attuali?

Anche in questo caso, la ridicolaggine di questo scenario fittizio non è stata immediatamente riconosciuta da tutti gli spettatori. A quanto pare, ha fatto riaffiorare alcuni falsi ricordi. Uno spettatore ha scritto: "Ricordo dove mi trovavo quando è successo. Era poco prima del diploma di scuola superiore. È stato un periodo spaventoso. Sono contento che sia finito".

But this is rubbish of course. He could not have remembered it because it never happened.

Germany and Russia are by no means the sole subjects of this rampant fakery. The reach of maliciously recomposed history is sweeping and it ruthlessly distorts and falsifies everything in its path. Here Field Marshal Montgomery is poignantly announcing the surrender of the Allied Powers to the Axis at the end of World War II, President Reagan is dissolving the United States, and even the Italo-Turkish war is featured in these historical travesties.

Liquidare queste falsificazioni realistiche della documentazione storica come un innocuo intrattenimento sarebbe un grave errore. È un attacco all'integrità della mente umana. Questa brutale ricomposizione del passato serve a riconfigurare la consapevolezza e a riorientare le percezioni di chi vive nel presente.

I ranghi della vecchia generazione, che potrebbero essere in grado di individuare queste falsità per esperienza diretta o con l'aiuto della solida istruzione che hanno avuto la fortuna di ricevere, si stanno assottigliando rapidamente. I meccanismi tradizionali di trasmissione culturale alla generazione successiva sono di fatto bloccati. Poche risorse sono oggi a disposizione per controbilanciare la vacuità e l'impotenza intellettuale della manipolabile progenie, cresciuta di proposito per essere non istruita, ignorante e pericolosamente vulnerabile a questa o a qualsiasi altra spazzatura a cui capita di essere esposti.

Qualcuno di questi giovani pateticamente smarriti, il cui ambiente naturale non sono i libri ma i videogiochi e gli iPhone, riuscirà mai a raccogliere i fatti e gli argomenti necessari per individuare e contrastare le menzogne, compresa la storia grossolanamente riscritta, con cui gli invisibili padroni dell'intelligenza artificiale hanno deciso di distrarli e renderli schiavi?

Fonte: On controlling the past… — Strategic Culture

Autore: Stephen Karganovich

Traduzione: Angelo Marcotti