falsi profondi seminano dubbi 4 14
 La tecnologia in grado di produrre deepfake è ampiamente disponibile. (Shutterstock)

Ai primi di marzo l'a è stato diffuso un video manipolato del presidente ucraino Volodymyr Zelenskyy. In esso, uno Zelenskyy generato digitalmente ha detto all'esercito nazionale ucraino di arrendersi. Il video è stato diffuso online ma è stato rapidamente smentito come un deepfake, un video iperrealistico ma falso e manipolato prodotto utilizzando l'intelligenza artificiale.

Sebbene la disinformazione russa sembri avere un impatto limitato, questo allarmante esempio ha illustrato le potenziali conseguenze dei deepfake.

Tuttavia, i deepfake vengono utilizzati con successo nella tecnologia assistiva. Per esempio, le persone che soffrono del morbo di Parkinson possono usare la clonazione vocale per comunicare.

I deepfake sono usati nell'istruzione: la società irlandese di sintesi vocale CereProc ha creato una voce sintetica per John F. Kennedy, riportandolo in vita per pronunciare il suo discorso storico.

innerself iscriviti alla grafica

Eppure ogni moneta ha due facce. I deepfake possono essere iperrealistici e praticamente impercettibile agli occhi umani.

Pertanto, la stessa tecnologia di clonazione vocale potrebbe essere utilizzata per phishing, diffamazione e ricatto. Quando i deepfake vengono deliberatamente impiegati per rimodellare l'opinione pubblica, incitare a conflitti sociali e manipolare le elezioni, hanno il potenziale per minare la democrazia.

I ricercatori dell'Università di Washington hanno prodotto un deepfake di Barack Obama.

Causando caos

I deepfake si basano su una tecnologia nota come generative reti contraddittorie in cui due algoritmi si addestrano a vicenda per produrre immagini.

Sebbene la tecnologia alla base dei falsi profondi possa sembrare complicata, è semplice produrne uno. Ci sono numerose applicazioni online come Cambia faccia ed ZAO scambio profondo che può produrre deepfake in pochi minuti.

Google Colaboratory, un repository online per codice in diversi linguaggi di programmazione, include esempi di codice che può essere utilizzato per generare immagini e video falsi. Con un software così accessibile, è facile vedere come gli utenti medi possano devastare i deepfake senza rendersi conto dei potenziali rischi per la sicurezza.

La popolarità delle app per lo scambio di volti e dei servizi online come Nostalgia profonda mostrare quanto rapidamente e ampiamente i deepfake potrebbero essere adottati dal pubblico in generale. Nel 2019, sono stati rilevati circa 15,000 video che utilizzano deepfake. E questo numero dovrebbe aumentare.

I deepfake sono lo strumento perfetto per le campagne di disinformazione perché producono notizie false credibili che richiedono tempo per essere sfatate. Nel frattempo, i danni causati dai deepfake, in particolare quelli che influiscono sulla reputazione delle persone, sono spesso duraturi e irreversibili.

Vedere è credere?

Forse la ramificazione più pericolosa dei deepfake è il modo in cui si prestano alla disinformazione nelle campagne politiche.

Lo abbiamo visto quando Donald Trump ha designato qualsiasi copertura mediatica poco lusinghiera come "notizie false.” Accusando i suoi critici di far circolare notizie false, Trump è stato in grado di utilizzare la disinformazione in difesa delle sue malefatte e come strumento di propaganda.

La strategia di Trump gli permette di mantenere il supporto in un ambiente pieno di sfiducia e disinformazione affermando “che gli eventi e le storie vere sono notizie false o deepfake. "

La credibilità nelle autorità e nei media viene minata, creando un clima di sfiducia. E con la crescente proliferazione di deepfake, i politici potrebbero facilmente negare la colpevolezza in qualsiasi scandalo emergente. Come si può confermare l'identità di qualcuno in un video se lo negano?

La lotta alla disinformazione, tuttavia, è sempre stata una sfida per le democrazie che cercano di difendere la libertà di parola. Le partnership uomo-intelligenza artificiale possono aiutare a far fronte al rischio crescente di deepfake facendo in modo che le persone verifichino le informazioni. Potrebbe anche essere presa in considerazione l'introduzione di una nuova legislazione o l'applicazione di leggi esistenti per penalizzare i produttori di deepfake per la falsificazione di informazioni e l'impersonificazione di persone.

Approcci multidisciplinari da parte di governi internazionali e nazionali, società private e altre organizzazioni sono tutti vitali per proteggere le società democratiche da false informazioni.The Conversation

Circa l'autore

Sze-Fung Lee, Assistente di ricerca, Dipartimento di Studi Informativi, McGill University ed Benjamin CM Fungo, Professore e Canada Research Chair in Data Mining per la sicurezza informatica, McGill University

Questo articolo è ripubblicato da The Conversation sotto una licenza Creative Commons. Leggi il articolo originale.