Il mix volatile di deepfake e campagne politiche è un buon motivo per stare in guardia. Sean Anthony Eddy Creativo/E+ tramite Getty Images
Immagina un Sorpresa di ottobre come nessun altro: solo una settimana prima del 5 novembre 2024, una registrazione video rivela un incontro segreto tra Joe Biden e Volodymyr Zelenskyy. I presidenti americano e ucraino concordano di avviare immediatamente l'Ucraina alla NATO in base al "protocollo speciale di adesione di emergenza" e prepararsi per un attacco con armi nucleari contro la Russia. Improvvisamente, il mondo è sulla cuspide di Armageddon.
Mentre i giornalisti potrebbero sottolinearlo tale protocollo non esiste e gli utenti dei social media potrebbero notare strane qualità simili a un videogioco del video, altri potrebbero sentirlo le loro peggiori paure sono stati confermati. Quando arriva il giorno delle elezioni, questi cittadini preoccupati possono lasciare che il video influenzi i loro voti, ignari di essere appena stati manipolati da una situazione di deepfake, un evento che non è mai realmente accaduto.
I deepfake di situazione rappresentano la fase successiva delle tecnologie che ho già scosse le percezioni della realtà da parte del pubblico. Nella nostra ricerca al Progetto DeFake, i miei colleghi del Rochester Institute of Technology, le Università del Mississippi, Michigan State University e io studiare come vengono realizzati i deepfake e quali misure possono adottare gli elettori per difendersi da essi.
Immaginare eventi mai accaduti
Un deepfake viene creato quando qualcuno utilizza uno strumento di intelligenza artificiale, in particolare apprendimento profondo, per manipolare o generare a fare, un voce o - con l'aumento di modelli linguistici di grandi dimensioni piace ChatGPT - linguaggio colloquiale. Questi possono essere combinati per formare "situazioni deepfake".
L'idea di base e la tecnologia di una situazione deepfake sono le stesse di qualsiasi altro deepfake, ma con un'ambizione più audace: manipolare un evento reale o inventarne uno dal nulla. Gli esempi includono rappresentazioni di La marcia criminale di Donald Trump ed Trump abbraccia Anthony Fauci, nessuno dei quali è successo. Il tiro dell'abbraccio è stato promosso da a account Twitter associato alla campagna presidenziale del rivale di Trump Ron DeSantis. UN annuncio di attacco prendere di mira la campagna 2024 di Joe Biden pubblicata dal Comitato nazionale repubblicano era realizzato interamente con AI.
Al Progetto DeFake, La nostra la ricerca ha trovato che i deepfake, comprese le situazioni, sono in genere creati da una combinazione di aggiungendo un pezzo di media con un altro; utilizzando un video per animare un'immagine o alterare un altro video, soprannominato burattinaio; evocando un pezzo di media in esistenza, tipicamente usando IA generativa; o una combinazione di queste tecniche.
Per essere chiari, molti deepfake di situazioni sono realizzati per scopi innocenti. Per esempio, Rivista Odissea Infinita produce fotogrammi falsi da film che non sono mai stati prodotti or non sarebbe mai potuto esistere. Ma anche i deepfake innocenti danno motivo di pausa, come nel caso di fotografie false quasi credibili che ritraggono il Allunaggio dell'Apollo sulla Luna come produzione cinematografica.
Deepfaking di un'elezione
Ora mettiti nei panni di qualcuno che cerca di influenzare le prossime elezioni. Quali sono le possibili situazioni che potresti voler creare?
Per cominciare, sarebbe importante se volessi inclinare il voto verso o lontano da un risultato specifico. Forse interpreteresti un candidato che agisce eroicamente allontanando un pedone dalla traiettoria di un'auto in corsa o, al contrario, facendo qualcosa di offensivo o criminale. Anche il formato della situazione deepfake sarebbe importante. Invece di un video, potrebbe essere una fotografia, magari con la sfocatura e gli angoli che simulano la fotocamera di uno smartphone o il logo contraffatto di un'agenzia di stampa.
Il tuo pubblico di destinazione sarebbe la chiave. Piuttosto che mirare all'elettorato generale o alla base di un partito, potresti prendere di mira i teorici della cospirazione nei distretti elettorali chiave. Potresti ritrarre il candidato o i suoi familiari come impegnati in a rituale satanico, partecipando a un festival al esclusiva e controversa Bohemian Groveo avere un incontro segreto con un extraterrestre.
Se hai l'ambizione e le capacità per farlo, potresti persino provare a falsificare le elezioni stesse. Nel giugno 2023, le stazioni televisive e radiofoniche russe sono state violate e trasmettere un ordine di mobilitazione completo da un deepfake del presidente russo Vladimir Putin. Anche se questo sarebbe più difficile da fare in un'elezione negli Stati Uniti, in linea di principio qualsiasi testata giornalistica potrebbe essere hackerata per trasmettere deepfake delle loro ancore che annunciano i risultati sbagliati o un candidato che concede.
Difendere la realtà
Esistono diversi modi tecnologici e psicologici per rilevare e difendersi dai deepfake di situazioni.
Sul fronte tecnologico, tutti i deepfake contengono alcune prove della loro vera natura. Alcuni di questi indizi possono essere visti dall'occhio umano - come la pelle eccessivamente liscia o l'illuminazione o l'architettura strana - mentre altri possono esserlo rilevabile solo da un'intelligenza artificiale cacciatrice di deepfake.
Stiamo costruendo DeFakedi utilizzare l'intelligenza artificiale per catturare i segni rivelatori di deepfake e stiamo lavorando per cercare di averlo pronto in tempo per le elezioni del 2024. Ma anche se un rilevatore di deepfake sufficientemente potente come il nostro non può essere implementato entro il giorno delle elezioni, ci sono strumenti psicologici che tu, l'elettore, puoi utilizzare per identificare i deepfake: conoscenza di base, curiosità e sano scetticismo.
Se incontri contenuti multimediali su una persona, un luogo o un evento che sembrano insoliti, fidati delle tue conoscenze di base. Ad esempio, nell'a recente bufala di un incendio al Pentagono, l'edificio mostrato sembra più quadrato che pentagonale, il che potrebbe essere un omaggio.
Tuttavia, cerca di non fare affidamento interamente sulle tue conoscenze di base, che potrebbero essere errate o irregolari. Non aver mai paura di saperne di più da fonti affidabili, come notizie verificate, articoli accademici sottoposti a revisione paritaria o interviste con esperti accreditati.
Inoltre, tieni presente che i deepfake possono essere utilizzati per trarre vantaggio da ciò che sei inclini a credere su una persona, un luogo o un evento. Uno dei modi migliori per affrontare questo è semplicemente sii consapevole dei tuoi pregiudizi e sii un po' cauto su qualsiasi contenuto multimediale che sembri confermarli.
Anche se diventa possibile creare deepfake di situazioni perfette, quanto sia credibile il loro argomento, è probabile che rimangano il loro tallone d'Achille. Quindi, con o senza una soluzione tecnologica, hai ancora il potere di difendere le elezioni dall'influenza di falsi eventi.
Circa l'autore
Cristoforo Schwartz, Ricercatore post-dottorato in Sicurezza informatica, Rochester Institute of Technology
Questo articolo è ripubblicato da The Conversation sotto una licenza Creative Commons. Leggi il articolo originale.
Libri correlati:
Sulla tirannia: venti lezioni dal ventesimo secolo
di Timothy Snyder
Questo libro offre lezioni dalla storia per preservare e difendere la democrazia, compresa l'importanza delle istituzioni, il ruolo dei singoli cittadini e i pericoli dell'autoritarismo.
Clicca per maggiori informazioni o per ordinare
Il nostro tempo è adesso: potere, scopo e lotta per un'America giusta
di Stacy Abrams
L'autrice, politica e attivista, condivide la sua visione di una democrazia più inclusiva e giusta e offre strategie pratiche per l'impegno politico e la mobilitazione degli elettori.
Clicca per maggiori informazioni o per ordinare
Come muoiono le democrazie
di Steven Levitsky e Daniel Ziblatt
Questo libro esamina i segnali di allarme e le cause del collasso democratico, attingendo a studi di casi da tutto il mondo per offrire spunti su come salvaguardare la democrazia.
Clicca per maggiori informazioni o per ordinare
Il popolo, no: una breve storia dell'antipopulismo
di Tommaso Franco
L'autore offre una storia dei movimenti populisti negli Stati Uniti e critica l'ideologia "antipopulista" che sostiene abbia soffocato la riforma democratica e il progresso.
Clicca per maggiori informazioni o per ordinare
Democrazia in un libro o meno: come funziona, perché non funziona e perché risolverlo è più facile di quanto pensi
di David Litt
Questo libro offre una panoramica della democrazia, compresi i suoi punti di forza e di debolezza, e propone riforme per rendere il sistema più reattivo e responsabile.
