Come i sistemi di intelligenza artificiale potrebbero minare la democrazia

vita privata

Gigante della tecnologia degli Stati Uniti Microsoft ha collaborato con un'università militare cinese sviluppare sistemi di intelligenza artificiale che potrebbe potenzialmente migliorare le capacità di sorveglianza e censura del governo. Due Senatori americani condannati pubblicamente la partnership, ma che cosa Università della tecnologia della difesa nazionale della Cina vuole da Microsoft non è l'unica preoccupazione.

As la mia ricerca mostra, l'avvento della repressione digitale sta profondamente influenzando la relazione tra cittadino e stato. Le nuove tecnologie stanno armando i governi con capacità senza precedenti per monitorare, monitorare e sorvegliare le singole persone. Anche i governi nelle democrazie con forti tradizioni di Stato di diritto si trovano tentati di abusare queste nuove abilità.

Negli stati con istituzioni irresponsabili e frequenti abusi dei diritti umaniI sistemi IA causeranno molto probabilmente un danno maggiore. La Cina è un esempio prominente. La sua leadership ha abbracciato con entusiasmo le tecnologie di intelligenza artificiale e ha creato il mondo il più sofisticato stato di sorveglianza in Provincia dello Xinjiang, monitorando i movimenti quotidiani dei cittadini e l'uso degli smartphone.

Il suo sfruttamento di queste tecnologie presenta un modello agghiacciante per gli altri autocrati e pone una minaccia diretta all'apertura di società democratiche. Sebbene non ci siano prove che altri governi abbiano replicato questo livello di sorveglianza dell'IA, le aziende cinesi stanno attivamente esportando le stesse tecnologie sottostanti in tutto il mondo.

Aumentare la dipendenza dagli strumenti di intelligenza artificiale negli Stati Uniti

Sistemi di intelligenza artificiale sono ovunque nel mondo moderno, aiutando a gestire smartphone, motori di ricerca su Internet, assistenti vocali digitali e code di film Netflix. Molte persone non si rendono conto quanto velocemente l'IA si sta espandendo, grazie a quantità sempre crescenti di dati da analizzare, migliorando algoritmi e chip di computer avanzati.

Ogni volta più informazioni diventano disponibili e l'analisi diventa più facile, i governi sono interessati - e non solo quelli autoritari. Negli Stati Uniti, ad esempio, gli 1970 hanno visto rivelazioni che le agenzie governative - come FBI, CIA e NSA - avevano istituito estese reti di sorveglianza domestica per monitorare e vessare i manifestanti per i diritti civili, gli attivisti politici e i gruppi nativi americani. Questi problemi non sono andati via: la tecnologia digitale oggi ha approfondito la capacità di un numero ancora maggiore di agenzie di condurre una sorveglianza ancora più intrusiva.

vita privata Quanto sono ragionevoli gli algoritmi per prevedere dove la polizia dovrebbe essere maggiormente concentrata? Arnout de Vries

Ad esempio, la polizia statunitense ha accolto con entusiasmo le tecnologie IA. Hanno iniziato a usare il software che è pensato per prevedere dove si verificheranno i crimini decidere dove inviare ufficiali di pattuglia. Stanno anche usando riconoscimento facciale e Analisi del DNA nelle indagini penali. Ma le analisi di questi sistemi mostrano il dati su cui tali sistemi sono formati sono spesso di parte, portando a esiti ingiusti, ad esempio determinare erroneamente che gli afroamericani hanno maggiori probabilità di commettere reati rispetto ad altri gruppi.

Sorveglianza IA in tutto il mondo

Nei paesi autoritari, i sistemi di intelligenza artificiale possono direttamente attirare il controllo e la sorveglianza nazionali, aiutandoli le forze di sicurezza interne elaborano enormi quantità di informazioni - inclusi post sui social media, messaggi di testo, e-mail e telefonate - più rapidamente ed efficacemente. La polizia può identificare le tendenze sociali e persone specifiche chi potrebbe minacciare il regime sulla base delle informazioni scoperte da questi sistemi.

Ad esempio, il governo cinese ha utilizzato l'intelligenza artificiale nelle repressioni su vasta scala nelle regioni che ospitano minoranze etniche all'interno della Cina. I sistemi di sorveglianza nello Xinjiang e nel Tibet sono stati descritti come "orwelliano. "Questi sforzi hanno incluso campioni di DNA obbligatori, Monitoraggio della rete Wi-Fi e telecamere di riconoscimento facciale diffuse, tutte collegate a piattaforme di analisi dei dati integrate. Con l'aiuto di questi sistemi, le autorità cinesi hanno, secondo il Dipartimento di Stato americano, "arbitrariamente detenuti" tra 1 e 2 milioni di persone.

My la ricerca guarda ai paesi 90 in tutto il mondo con tipi di governo che vanno dalle democrazie chiuse alle democrazie imperfette, tra cui Thailandia, Turchia, Bangladesh e Kenya. Ho trovato che le aziende cinesi sono esportando tecnologia di sorveglianza AI almeno 54 di questi paesi. Frequentemente, questa tecnologia è confezionata come parte dell'ammiraglia della Cina Cintura e Iniziativa strada, che finanzia una vasta rete di strade, ferrovie, oleodotti e reti di telecomunicazioni servire 60% della popolazione mondiale ed economie che generano 40% del PIL globale.

Ad esempio, le aziende cinesi come Huawei e ZTE stanno costruendo "città intelligenti" a Pakistan, le Filippine e Kenia, dotato di un'ampia tecnologia di sorveglianza integrata. Ad esempio, Huawei ha equipaggiato Bonifacio Global City nelle Filippine con telecamere ad alta definizione collegate a Internet che forniscono "24 / 7 sorveglianza di sicurezza intelligente con analisi dei dati per rilevare il crimine e aiutare a gestire il traffico. "

vita privata Bonifacio Global City nelle Filippine ha un sacco di apparecchiature di sorveglianza incorporate. alveo land / Wikimedia Commons

Hikvision, Yitu e SenseTime stanno fornendo telecamere di riconoscimento facciale all'avanguardia per l'uso in luoghi come Singapore - che ha annunciato l'istituzione di un programma di sorveglianza con Telecamere 110,000 montate su lampioni intorno alla città-stato. Lo Zimbabwe sta creando un database di immagini nazionali che può essere usato per il riconoscimento facciale.

Tuttavia, la vendita di attrezzature avanzate a scopo di lucro è diversa dalla condivisione di tecnologia con un preciso scopo geopolitico. Queste nuove capacità potrebbero gettare le basi per una sorveglianza globale: poiché i governi dipendono sempre più dalla tecnologia cinese per gestire le loro popolazioni e mantenere il potere, dovranno affrontare una maggiore pressione per allinearsi all'agenda della Cina. Ma per ora sembra che il motivo principale della Cina sia dominare il mercato delle nuove tecnologie e fare un sacco di soldi nel processo.

AI e disinformazione

Oltre a fornire capacità di sorveglianza che sono allo stesso tempo radicali e a grana fine, l'IA può aiutare i governi repressivi a manipolare le informazioni disponibili e diffondere disinformazione. Queste campagne possono essere automatizzate o assistite dall'automazione e distribuite messaggi ipertestuali diretto a - o contro - persone specifiche o gruppi.

L'intelligenza artificiale è alla base anche della tecnologia comunemente chiamata "deepfake, "In cui gli algoritmi creano falsi video e audio realistici. Muddying le acque tra verità e finzione può diventare utile in una serrata elezione, quando un candidato può creare video falsi mostrando un avversario che fa e dice cose che non sono mai realmente accadute.

Un video del primo deepfake mostra alcuni dei pericoli della tecnologia avanzata.

Dal mio punto di vista, i responsabili delle politiche nelle democrazie dovrebbero riflettere attentamente sui rischi dei sistemi di intelligenza artificiale per le loro società e per le persone che vivono sotto regimi autoritari in tutto il mondo. Una domanda cruciale è quanti paesi adotteranno il modello di sorveglianza digitale della Cina. Ma non sono solo i paesi autoritari a sentirsi attratti. E non sono solo le aziende cinesi a diffondere la tecnologia: molte aziende statunitensi, inclusa Microsoft, ma IBM, Cisco e Thermo Fisher anche, hanno fornito funzionalità sofisticate a governi cattivi. L'abuso dell'IA non è limitato agli stati autocratici.The Conversation

Circa l'autore

Steven Feldstein, Frank e Bethine Church Cattedra di affari pubblici e professore associato, Scuola di servizio pubblico, Boise State University

Questo articolo è ripubblicato da The Conversation sotto una licenza Creative Commons. Leggi il articolo originale.

libri correlati

{amazonWS: searchindex = Libri; parole chiave = sorveglianza AI; maxresults = 3}

enafarZH-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

segui InnerSelf su

facebook-icontwitter-iconrss-icon

Ricevi l'ultimo tramite e-mail

{Emailcloak = off}