Come i ricercatori si stanno preparando per l'imminente ondata di propaganda deepfake

Come i ricercatori si stanno preparando per l'imminente ondata di propaganda deepfake
I rilevatori alimentati dall'intelligenza artificiale sono gli strumenti migliori per individuare i video falsi generati dall'intelligenza artificiale.
Il Washington Post tramite Getty Images

Un giornalista investigativo riceve un video da un informatore anonimo. Mostra un candidato alla presidenza che ammette un'attività illegale. Ma questo video è reale? Se è così, sarebbe una notizia enorme - lo scoop di una vita - e potrebbe cambiare completamente le elezioni imminenti. Ma la giornalista gestisce il video attraverso uno strumento specializzato, che le dice che il video non è quello che sembra. In effetti, è un "deepfake, "Un video realizzato utilizzando l'intelligenza artificiale con apprendimento profondo.

I giornalisti di tutto il mondo potrebbero presto utilizzare uno strumento come questo. In pochi anni, uno strumento come questo potrebbe persino essere utilizzato da tutti per sradicare contenuti falsi nei feed dei social media.

As ricercatori che hanno studiato il rilevamento dei deepfake e sviluppando uno strumento per i giornalisti, vediamo un futuro per questi strumenti. Non risolveranno tutti i nostri problemi, però, e saranno solo una parte dell'arsenale nella più ampia lotta contro la disinformazione.

Il problema con i deepfake

La maggior parte delle persone sa che non puoi credere a tutto ciò che vedi. Negli ultimi due decenni, i consumatori esperti di notizie si sono abituati a vedere le immagini manipolate con software di fotoritocco. I video, però, sono un'altra storia. I registi di Hollywood possono spendere milioni di dollari in effetti speciali per creare una scena realistica. Ma usando i deepfake, i dilettanti con poche migliaia di dollari di apparecchiature informatiche e poche settimane da spendere potrebbero fare qualcosa di quasi altrettanto fedele alla vita.

I deepfake consentono di inserire le persone in scene di film in cui non hanno mai visto - pensa Tom Cruise che interpreta Iron Man - il che rende i video divertenti. Sfortunatamente, rende anche possibile creare pornografia senza il consenso delle persone raffigurate. Finora, quelle persone, quasi tutte le donne, sono le maggiori vittime quando la tecnologia deepfake viene utilizzata in modo improprio.

I deepfake possono anche essere utilizzati per creare video di leader politici che dicono cose che non hanno mai detto. Il Partito socialista belga ha pubblicato un video non falso di bassa qualità ma ancora fasullo Il presidente Trump insulta il Belgio, che ha avuto una reazione sufficiente per mostrare i potenziali rischi di deepfake di qualità superiore.


Hany Farid dell'Università della California, Berkeley, spiega come vengono realizzati i deepfake.

Ricevi le ultime novità da InnerSelf


Forse più spaventoso di tutti, possono essere usati per creare dubbio sul contenuto dei video reali, suggerendo che potrebbero essere deepfake.

Dati questi rischi, sarebbe estremamente prezioso essere in grado di rilevare i deepfake ed etichettarli chiaramente. Ciò garantirebbe che i video falsi non ingannino il pubblico e che i video reali possano essere ricevuti come autentici.

Individuazione di falsi

Il rilevamento dei deepfake come campo di ricerca è iniziato un po 'oltre tre anni fa. I primi lavori si sono concentrati sulla rilevazione di problemi visibili nei video, come deepfakes che non hanno battuto ciglio. Con il tempo, tuttavia, il i falsi sono migliorati a imitare video reali e diventare più difficile da individuare sia per le persone che per gli strumenti di rilevamento.

Esistono due categorie principali di ricerca sul rilevamento dei deepfake. Il primo coinvolge guardando il comportamento delle persone nei video. Supponi di avere molti video di qualcuno famoso, come il presidente Obama. L'intelligenza artificiale può utilizzare questo video per apprendere i suoi schemi, dai gesti delle mani alle pause nel parlare. Allora può guarda un deepfake di lui e nota dove non corrisponde a quei modelli. Questo approccio ha il vantaggio di poter funzionare anche se la qualità video stessa è essenzialmente perfetta.


Aaron Lawson di SRI International descrive un approccio per rilevare i deepfake.

Altri ricercatori, compreso il nostro team, si sono concentrati su differenze che tutti i deepfake hanno rispetto ai video reali. I video deepfake vengono spesso creati unendo fotogrammi generati individualmente per formare video. Tenendo conto di ciò, i metodi del nostro team estraggono i dati essenziali dai volti nei singoli fotogrammi di un video e quindi li tracciano attraverso serie di fotogrammi simultanei. Questo ci consente di rilevare incongruenze nel flusso delle informazioni da un frame all'altro. Usiamo un approccio simile anche per il nostro sistema di rilevamento audio falso.

Questi dettagli sottili sono difficili da vedere per le persone, ma mostrano come i deepfake non siano del tutto perfetto ancora. Rivelatori come questi possono funzionare per qualsiasi persona, non solo per pochi leader mondiali. Alla fine, potrebbe essere necessario entrambi i tipi di rilevatori di deepfake.

I sistemi di rilevamento recenti funzionano molto bene sui video raccolti specificamente per la valutazione degli strumenti. Sfortunatamente, anche i migliori modelli lo fanno male sui video trovati online. Migliorare questi strumenti per renderli più robusti e utili è il passaggio chiave successivo.

Chi dovrebbe usare i rilevatori di deepfake?

Idealmente, uno strumento di verifica deepfake dovrebbe essere disponibile per tutti. Tuttavia, questa tecnologia è nelle prime fasi di sviluppo. I ricercatori devono migliorare gli strumenti e proteggerli dagli hacker prima di rilasciarli su larga scala.

Allo stesso tempo, però, gli strumenti per creare deepfake sono disponibili per chiunque voglia ingannare il pubblico. Stare in disparte non è un'opzione. Per il nostro team il giusto equilibrio era lavorare con i giornalisti, perché sono la prima linea di difesa contro la diffusione della disinformazione.

Prima di pubblicare storie, i giornalisti devono verificare le informazioni. Hanno già metodi collaudati, come controllare le fonti e convincere più di una persona a verificare i fatti chiave. Quindi, mettendo lo strumento nelle loro mani, diamo loro maggiori informazioni e sappiamo che non faranno affidamento solo sulla tecnologia, dato che può commettere errori.

Possono i rilevatori vincere la corsa agli armamenti?

È incoraggiante vedere squadre da Facebook e Microsoft investire in tecnologia per comprendere e rilevare i deepfake. Questo campo necessita di ulteriori ricerche per stare al passo con la velocità dei progressi nella tecnologia deepfake.

I giornalisti e le piattaforme di social media devono anche capire il modo migliore per avvisare le persone dei deepfake quando vengono rilevati. La ricerca lo ha dimostrato le persone ricordano la bugia, ma non il fatto che fosse una bugia. Lo stesso varrà per i video falsi? Mettere semplicemente "Deepfake" nel titolo potrebbe non essere sufficiente per contrastare alcuni tipi di disinformazione.

I deepfake sono qui per restare. Gestire la disinformazione e proteggere il pubblico sarà più difficile che mai poiché l'intelligenza artificiale diventa più potente. Facciamo parte di una comunità di ricerca in crescita che sta affrontando questa minaccia, in cui il rilevamento è solo il primo passo.The Conversation

Informazioni sugli autori

John Sohrawardi, dottorando in informatica e scienze dell'informazione, Rochester Institute of Technology e Matthew Wright, Professore di sicurezza informatica, Rochester Institute of Technology

Questo articolo è ripubblicato da The Conversation sotto una licenza Creative Commons. Leggi il originale articolo.

enafarZH-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

segui InnerSelf su

facebook-icontwitter-iconrss-icon

Ricevi l'ultimo tramite e-mail

{Emailcloak = off}

DAGLI EDITORI

Newsletter InnerSelf: ottobre 25, 2020
by Staff di InnerSelf
Lo "slogan" o sottotitolo per il sito web di InnerSelf è "Nuovi atteggiamenti --- Nuove possibilità", e questo è esattamente il tema della newsletter di questa settimana. Lo scopo dei nostri articoli e autori è ...
Newsletter InnerSelf: ottobre 18, 2020
by Staff di InnerSelf
In questi giorni viviamo in mini-bolle ... nelle nostre case, al lavoro e in pubblico, e forse nella nostra mente e con le nostre emozioni. Tuttavia, vivere in una bolla o sentirsi come se fossimo ...
Newsletter InnerSelf: ottobre 11, 2020
by Staff di InnerSelf
La vita è un viaggio e, come la maggior parte dei viaggi, ha i suoi alti e bassi. E proprio come il giorno segue sempre la notte, così le nostre esperienze quotidiane personali vanno dall'oscurità alla luce, e avanti e indietro. Tuttavia,…
Newsletter InnerSelf: ottobre 4, 2020
by Staff di InnerSelf
Qualunque cosa stiamo attraversando, sia individualmente che collettivamente, dobbiamo ricordare che non siamo vittime indifese. Possiamo rivendicare il nostro potere di guarire le nostre vite, spiritualmente ed emotivamente, anche ...
Newsletter InnerSelf: settembre 27, 2020
by Staff di InnerSelf
Uno dei grandi punti di forza della razza umana è la nostra capacità di essere flessibili, di essere creativi e di pensare fuori dagli schemi. Per essere qualcuno diverso da quello che eravamo ieri o l'altro. Possiamo cambiare ... ...