Immagine di Susan Cipriano
Dall'editore:
Come evidenziato in questo articolo, lo sviluppo di campagne politiche guidate dall'intelligenza artificiale, come l'ipotetica macchina chiamata Clogger, potrebbe minare profondamente l'integrità delle elezioni. Sfruttando l'automazione, la messaggistica personalizzata e l'apprendimento per rinforzo, queste macchine hanno il potenziale per manipolare e modificare il comportamento degli elettori su vasta scala.
In un'era in cui l'intelligenza artificiale (AI) sta avanzando rapidamente, dobbiamo rimanere vigili sulle potenziali minacce che pone ai nostri processi democratici. L'emergere di campagne guidate dall'intelligenza artificiale sfida l'essenza stessa della democrazia. Invece di essere determinate dal potere delle idee, delle proposte politiche e delle autentiche scelte elettorali, le elezioni potrebbero essere influenzate da macchine focalizzate esclusivamente sulla vittoria. Il contenuto che prevale proverrebbe da modelli linguistici di intelligenza artificiale senza alcun riguardo per la verità o i principi politici. In sostanza, l'esito elettorale sarebbe dettato da un'intelligenza artificiale, erodendo il processo democratico.
Per evitare il sorgere di una "clogocrazia" e l'impotenza dei cittadini, è fondamentale agire. Una maggiore protezione della privacy e leggi sulla privacy dei dati rigorose possono aiutare a limitare l'accesso delle macchine AI ai dati personali, riducendo la loro efficacia nel prendere di mira e manipolare le persone. Le commissioni elettorali dovrebbero anche prendere in considerazione la possibilità di vietare o regolamentare rigorosamente i sistemi di intelligenza artificiale progettati per influenzare gli elettori. Implementazione di regolamenti che richiedono chiari disclaimer quando i messaggi generati dall'intelligenza artificiale vengono utilizzati nelle campagne politiche. Ciò può fornire trasparenza e aiutare gli elettori a prendere decisioni informate.
È imperativo affrontare queste sfide in modo proattivo e garantire che il potere dell'IA sia sfruttato in modo responsabile per sostenere i principi della democrazia. Salvaguardando l'integrità delle elezioni e proteggendo la libertà di scelta, possiamo affrontare le complessità dell'IA e preservare le basi della governance democratica.
In che modo l'intelligenza artificiale potrebbe assumere il controllo delle elezioni e minare la democrazia
Scritto da Arconte Fung, Professore di Cittadinanza e Autogoverno, Harvard Kennedy School ed Lawrence Lessig, Professore di Diritto e Leadership, Università di Harvard
Le organizzazioni potrebbero utilizzare modelli di linguaggio di intelligenza artificiale come ChatGPT per indurre gli elettori a comportarsi in modi specifici?
Il senatore Josh Hawley ha posto questa domanda al CEO di OpenAI Sam Altman in a 16 maggio 2023, udienza al Senato degli Stati Uniti sull'intelligenza artificiale. Altman ha risposto che era davvero preoccupato che alcune persone potessero utilizzare modelli linguistici per manipolare, persuadere e impegnarsi in interazioni faccia a faccia con gli elettori.
Altman non ha elaborato, ma potrebbe aver avuto in mente qualcosa di simile a questo scenario. Immagina che presto i tecnologi politici sviluppino una macchina chiamata Clogger: una campagna politica in una scatola nera. Clogger persegue incessantemente un solo obiettivo: massimizzare le possibilità che il suo candidato – la campagna che acquista i servizi di Clogger Inc. – prevalga in un'elezione.
Mentre piattaforme come Facebook, Twitter e YouTube utilizzano forme di intelligenza artificiale per attirare gli utenti trascorrere più tempo sui loro siti, l'intelligenza artificiale di Clogger avrebbe un obiettivo diverso: cambiare il comportamento di voto delle persone.
Come funzionerebbe Clogger
Come un politologo e studioso legale che studiano l'intersezione tra tecnologia e democrazia, riteniamo che qualcosa come Clogger potrebbe utilizzare l'automazione per aumentare drasticamente la scala e potenzialmente l'efficacia di manipolazione del comportamento e tecniche di microtargeting che le campagne politiche hanno utilizzato dall'inizio degli anni 2000. Proprio come gli inserzionisti utilizzano la cronologia di navigazione e dei social media per indirizzare individualmente gli annunci commerciali e politici ora, Clogger presterebbe attenzione a te - e centinaia di milioni di altri elettori - individualmente.
Offrirebbe tre progressi rispetto all'attuale manipolazione del comportamento algoritmico all'avanguardia. Innanzitutto, il suo modello linguistico genererebbe messaggi - testi, social media ed e-mail, forse includendo immagini e video - su misura per te personalmente. Mentre gli inserzionisti posizionano strategicamente un numero relativamente piccolo di annunci, i modelli linguistici come ChatGPT possono generare innumerevoli messaggi unici per te personalmente - e milioni per gli altri - nel corso di una campagna.
In secondo luogo, Clogger userebbe una tecnica chiamata insegnamento rafforzativo per generare una successione di messaggi che diventano sempre più propensi a cambiare il tuo voto. L'apprendimento per rinforzo è un approccio di apprendimento automatico, per tentativi ed errori in cui il computer intraprende azioni e ottiene feedback su quali funzionano meglio per imparare come raggiungere un obiettivo. Macchine che possono giocare a Go, Chess e molti videogiochi meglio di qualsiasi essere umano hanno utilizzato l'apprendimento per rinforzo.
Come funziona l'apprendimento per rinforzo.
In terzo luogo, nel corso di una campagna, i messaggi di Clogger potrebbero evolversi per tenere conto delle tue risposte ai precedenti invii della macchina e di ciò che ha appreso sul cambiamento delle menti degli altri. Clogger sarebbe in grado di portare avanti "conversazioni" dinamiche con te - e milioni di altre persone - nel tempo. I messaggi di Clogger sarebbero simili a annunci che ti seguono su diversi siti web e social media.
La natura dell'IA
Vale la pena notare altre tre funzionalità, o bug.
Innanzitutto, i messaggi inviati da Clogger possono avere o meno contenuti politici. L'unico obiettivo della macchina è massimizzare la quota di voti e probabilmente escogiterà strategie per raggiungere questo obiettivo a cui nessun attivista umano avrebbe pensato.
Una possibilità è inviare ai probabili elettori oppositori informazioni sulle passioni non politiche che hanno nello sport o nell'intrattenimento per seppellire i messaggi politici che ricevono. Un'altra possibilità è l'invio di messaggi scoraggianti, ad esempio annunci di incontinenza, programmati in modo da coincidere con i messaggi degli avversari. E un altro è manipolare i gruppi di amici dei social media degli elettori per dare la sensazione che i loro circoli sociali supportino il suo candidato.
In secondo luogo, Clogger non ha riguardo per la verità. In effetti, non ha modo di sapere cosa sia vero o falso. Modello linguistico "allucinazioni" non sono un problema per questa macchina perché il suo obiettivo è cambiare il tuo voto, non fornire informazioni accurate.
Terzo, perché è a tipo di scatola nera di intelligenza artificiale, le persone non avrebbero modo di sapere quali strategie utilizza.
Il campo dell'intelligenza artificiale spiegabile mira ad aprire la scatola nera di molti modelli di apprendimento automatico in modo che le persone possano capire come funzionano.
Clogocrazia
Se la campagna presidenziale repubblicana dovesse schierare Clogger nel 2024, la campagna democratica sarebbe probabilmente costretta a rispondere allo stesso modo, forse con una macchina simile. Chiamalo Dogger. Se i gestori della campagna ritenessero che queste macchine fossero efficaci, la competizione presidenziale potrebbe benissimo ridursi a Clogger contro Dogger, e il vincitore sarebbe il cliente della macchina più efficace.
Scienziati politici ed esperti avrebbero molto da dire sul motivo per cui l'una o l'altra IA ha prevalso, ma probabilmente nessuno lo saprebbe davvero. Il presidente sarà stato eletto non perché le sue proposte politiche o idee politiche hanno convinto più americani, ma perché aveva l'intelligenza artificiale più efficace. Il contenuto che ha vinto la giornata sarebbe venuto da un'intelligenza artificiale focalizzata esclusivamente sulla vittoria, senza idee politiche proprie, piuttosto che da candidati o partiti.
In questo senso molto importante, una macchina avrebbe vinto le elezioni piuttosto che una persona. L'elezione non sarebbe più democratica, anche se tutte le attività ordinarie della democrazia – i discorsi, gli annunci, i messaggi, le votazioni e lo spoglio dei voti – saranno avvenute.
Il presidente eletto dall'IA potrebbe quindi andare in due modi. Lui o lei potrebbe usare il mantello dell'elezione per perseguire le politiche del partito repubblicano o democratico. Ma poiché le idee del partito potrebbero aver avuto poco a che fare con il motivo per cui le persone hanno votato in quel modo - a Clogger e Dogger non interessano le opinioni politiche - le azioni del presidente non rifletterebbero necessariamente la volontà degli elettori. Gli elettori sarebbero stati manipolati dall'IA piuttosto che scegliere liberamente i loro leader politici e le loro politiche.
Un altro percorso è che il presidente persegua i messaggi, i comportamenti e le politiche che la macchina prevede massimizzeranno le possibilità di rielezione. Su questa strada, il presidente non avrebbe alcuna piattaforma o agenda particolare oltre al mantenimento del potere. Le azioni del presidente, guidate da Clogger, sarebbero quelle più propense a manipolare gli elettori piuttosto che servire i loro interessi genuini o persino l'ideologia del presidente.
Evitare la clogocrazia
Sarebbe possibile evitare la manipolazione elettorale dell'IA se candidati, campagne e consulenti rinunciassero tutti all'uso di tale intelligenza artificiale politica. Riteniamo che sia improbabile. Se venissero sviluppate scatole nere politicamente efficaci, la tentazione di usarle sarebbe quasi irresistibile. In effetti, i consulenti politici potrebbero benissimo vedere l'utilizzo di questi strumenti come richiesto dalla loro responsabilità professionale per aiutare i loro candidati a vincere. E una volta che un candidato utilizza uno strumento così efficace, difficilmente ci si può aspettare che gli oppositori resistano disarmandosi unilateralmente.
Maggiore protezione della privacy aiuterebbe. Clogger dipenderebbe dall'accesso a grandi quantità di dati personali per prendere di mira le persone, creare messaggi su misura per persuaderle o manipolarle e tracciarle e reindirizzarle nel corso di una campagna. Ogni piccola informazione che le aziende o i responsabili politici negano alla macchina la renderebbe meno efficace.
Forti leggi sulla privacy dei dati potrebbero aiutare a evitare che l'intelligenza artificiale sia manipolativa.
Un'altra soluzione sta nelle commissioni elettorali. Potrebbero tentare di vietare o regolamentare severamente queste macchine. C'è un feroce dibattito se tale discorso “replicante”., anche se di natura politica, può essere regolamentato. La tradizione dell'estrema libertà di parola degli Stati Uniti porta molti eminenti accademici a dire che non può.
Ma non c'è motivo di estendere automaticamente la protezione del Primo Emendamento al prodotto di queste macchine. La nazione potrebbe benissimo scegliere di concedere i diritti alle macchine, ma questa dovrebbe essere una decisione fondata sulle sfide di oggi, non l'ipotesi fuori luogo che le opinioni di James Madison nel 1789 dovevano essere applicate all'IA.
I regolatori dell'Unione Europea si stanno muovendo in questa direzione. I responsabili politici hanno rivisto la bozza della legge sull'intelligenza artificiale del Parlamento europeo per designare "i sistemi di intelligenza artificiale per influenzare gli elettori nelle campagne" come “ad alto rischio” e soggetto a controllo normativo.
Un passo costituzionalmente più sicuro, seppur minore, già adottato in parte dall'art Regolatori europei di Internet e in California, è vietare ai bot di spacciarsi per persone. Ad esempio, la regolamentazione potrebbe richiedere che i messaggi della campagna vengano forniti con disclaimer quando il contenuto in essi contenuto è generato da macchine anziché da esseri umani.
Sarebbe come i requisiti del disclaimer pubblicitario - "Pagato dal Sam Jones per il Comitato del Congresso" - ma modificato per riflettere la sua origine AI: "Questo annuncio generato dall'IA è stato pagato dal Sam Jones per il Comitato del Congresso". Una versione più forte potrebbe richiedere: "Questo messaggio generato dall'intelligenza artificiale ti è stato inviato dal Comitato Sam Jones per il Congresso perché Clogger ha previsto che così facendo aumenterai le tue possibilità di votare per Sam Jones dello 0.0002%". Per lo meno, crediamo che gli elettori meritino di sapere quando è un bot a parlare con loro, e dovrebbero sapere anche perché.
La possibilità di un sistema come Clogger mostra che il percorso verso impotenza collettiva umana potrebbe non richiedere qualche sovrumano intelligenza generale artificiale. Potrebbe richiedere solo attivisti e consulenti troppo ansiosi che dispongano di nuovi potenti strumenti in grado di premere efficacemente i molti pulsanti di milioni di persone.
Riguardo agli Autori
Arconte Fung, Professore di Cittadinanza e Autogoverno, Harvard Kennedy School ed Lawrence Lessig, Professore di Diritto e Leadership, Università di Harvard
Questo articolo è ripubblicato da The Conversation sotto una licenza Creative Commons. Leggi il articolo originale.
Addendum del redattore: il potenziale dell'IA di assumere il controllo delle elezioni e minare la democrazia è una preoccupazione urgente che richiede la nostra attenzione. Come ha evidenziato questo articolo, l'ascesa di campagne politiche guidate dall'intelligenza artificiale come Clogger potrebbe rimodellare i risultati elettorali, con le macchine che influenzano il comportamento degli elettori su una scala senza precedenti. Le conseguenze di un tale cambiamento sarebbero di vasta portata, con elezioni determinate non dalla volontà del popolo ma dall'efficacia della manipolazione dell'IA.
Per evitare questo depotenziamento dei cittadini e salvaguardare la democrazia, dobbiamo adottare misure proattive. Una solida protezione della privacy e regolamenti che limitino l'influenza dei sistemi di intelligenza artificiale nelle elezioni sono fondamentali. Garantendo la trasparenza, applicando chiare dichiarazioni di non responsabilità per i contenuti generati dall'IA e promuovendo un uso responsabile dell'IA, possiamo sostenere l'integrità dei processi democratici e proteggere i valori fondamentali della nostra società.
È essenziale rimanere vigili e lavorare collettivamente per affrontare le sfide poste dall'IA nelle elezioni. In tal modo, possiamo preservare gli ideali democratici che sono alla base delle nostre società e garantire un futuro in cui il potere della tecnologia si allinei con gli interessi e le aspirazioni delle persone.
Libri correlati:
Sulla tirannia: venti lezioni dal ventesimo secolo
di Timothy Snyder
Questo libro offre lezioni dalla storia per preservare e difendere la democrazia, compresa l'importanza delle istituzioni, il ruolo dei singoli cittadini e i pericoli dell'autoritarismo.
Clicca per maggiori informazioni o per ordinare
Il nostro tempo è adesso: potere, scopo e lotta per un'America giusta
di Stacy Abrams
L'autrice, politica e attivista, condivide la sua visione di una democrazia più inclusiva e giusta e offre strategie pratiche per l'impegno politico e la mobilitazione degli elettori.
Clicca per maggiori informazioni o per ordinare
Come muoiono le democrazie
di Steven Levitsky e Daniel Ziblatt
Questo libro esamina i segnali di allarme e le cause del collasso democratico, attingendo a studi di casi da tutto il mondo per offrire spunti su come salvaguardare la democrazia.
Clicca per maggiori informazioni o per ordinare
Il popolo, no: una breve storia dell'antipopulismo
di Tommaso Franco
L'autore offre una storia dei movimenti populisti negli Stati Uniti e critica l'ideologia "antipopulista" che sostiene abbia soffocato la riforma democratica e il progresso.
Clicca per maggiori informazioni o per ordinare
Democrazia in un libro o meno: come funziona, perché non funziona e perché risolverlo è più facile di quanto pensi
di David Litt
Questo libro offre una panoramica della democrazia, compresi i suoi punti di forza e di debolezza, e propone riforme per rendere il sistema più reattivo e responsabile.
