Manipolare la percezione che abbiamo della realtà è sempre più semplice. Con l’aumento della diffusione di contenuti falsi estremamente realistici, chiamati deepfake, cresce l’incertezza su ciò che è reale e ciò che non lo è.
Un deepfake è un inganno digitale, prodotto attraverso l’intelligenza artificiale. Il termine deriva dall’unione di deep learning – apprendimento automatico “profondo” dell’intelligenza artificiale – e fake, falso. Gli algoritmi intelligenti creano contenuti inediti o alterano i preesistenti, generandone di nuovi: immagini, testi, video, voci, tutto può essere contraffatto.
In principio il deepfake si è diffuso per creare contenuti divertenti, che ironizzano su personaggi famosi, magari anche nell’industria del porno, ma il solo obiettivo era diventare virali. Nel tempo si è trasformato in un mezzo di disinformazione molto potente.
Deepfake: più vero del reale
Uno studio, pubblicato sulla rivista Science, ha dimostrato che le notizie false si diffondono fino a sei volte più velocemente di quelle vere. Il fenomeno è allarmante, perché sta iniziando ad influenzare il benessere politico, economico e sociale. Un esempio risale al 2021 e riguarda diversi politici di Regno Unito, Lettonia, Estonia e Lituania. Tutti sono stati vittime di raggiri attraverso false videochiamate, in cui anonimi individui si spacciavano per esponenti dell’opposizione.
Basta poco per minacciare seriamente la sicurezza e la stabilità di Paesi e governi. È sufficiente un app di face-swapping per fondere, mescolare, rimpiazzare o sovrapporre immagini e clip all’interno di un video, creandone di falsi che appaiono autentici. Talmente realistici da ingannare non solo i nostri occhi, ma anche gli algoritmi creati per smascherarli.
Testimone di un’altra truffa, messa in atto attraverso il deepfake, è un manager di un’azienda nel Regno Unito, raggirato da una finta telefonata dell’amministratore delegato dell’azienda madre tedesca. Gli viene chiesto di effettuare d’urgenza un bonifico di 220.000 euro ad un fornitore ungherese. Il manager, riconoscendo la voce del suo interlocutore, con tanto di accento tedesco, non esitata a eseguire le disposizioni. Solo dopo si scoprirà che l’ordine viene da truffatori che per imitare la voce avrebbero usato un software di intelligenza artificiale.
Quando la morte separa, il deepfake riunisce
Viviamo oggi una rivoluzione della quale, forse, non siamo ancora tutti consapevoli. In poco tempo sono stati scardinati i pilastri della nostra civiltà: chi avrebbe mai immaginato di fare un back-up del proprio cervello, dei propri ricordi, delle proprie esperienze e installarlo su un computer, per creare un clone digitale?
Sembra la scena di un film, e invece negli ultimi anni sono molte le aziende che investono nello sviluppo di sistemi di archiviazione cerebrale. Una sorta di copia elettronica di noi stessi, in grado di sopravvivere al nostro corpo, in grado di farci diventare immortali.
“Per soli 52 yuan, circa 6,75 euro, puoi tornare a parlare con la persona che hai perso”. Annuncia così la piattaforma di e-commerce Taobao made in Cina, Paese in cui è esplosa questa tecnologia. I cosiddetti “defunti digitali” non sono altro chatbot intelligenti con le sembianze e la voce di una persona cara deceduta, e danno l’illusione di intrattenere una vera conversazione con la persona cara.
Un filo diretto con l’aldilà insomma, possibile grazie alla cura di dettagli che racchiudono, oltre all’aspetto fisico, la personalità del clone e il suo comportamento. I movimenti abitudinari, la posizione delle mani, tutto è essenziale per rendere realistico e credibile l’avatar. Rifugiarsi “in un ricordo sintetico” apparentemente aiuta nell’elaborazione del lutto, anche se in molti temono che possa interferire con l’accettazione realtà della perdita.
Il deepfake e la cultura della negazione
L’intelligenza artificiale, e gli strumenti che ne derivano, rappresentano l’ennesimo turbamento che scardina il domino dell’essere umano da settori di enorme importanza, come l’informazione e la diffusione del sapere. Questo potrebbe avere effetti indesiderati e creare una “cultura della negazione in cui nessuno è disposto ad assumersi la responsabilità, perché tutto potrebbe essere contraffatto”.
Chiunque, attraverso il deepfake, ha il potere di falsificare qualsiasi cosa. Dilaga quindi la menzogna, che mina alla base il nostro senso della realtà, il senso della nostra unicità nel mondo. È un grande cambiamento, e noi dobbiamo prepararci, diventando consapevoli e sviluppando una coscienza critica.
Solo il tempo ci dirà se davvero l’intelligenza artificiale sarà un pericolo, non solo sociale, se prevaricherà sull’uomo o se ci aiuterà a superare i nostri limiti. Quasi un dono che contribuisce all’avanzamento del sapere, e ci rende in qualche modo ubiqui e onniscienti, al punto tale da annullare anche i concetti di tempo a spazio.
Joyce Donnarumma
Leggi anche
