Come l'intelligenza artificiale è il sogno di un totalitario Shutterstock.

Le società occidentali individualistiche sono costruite sull'idea che nessuno conosce i nostri pensieri, desideri o gioie meglio di noi. E così mettiamo noi stessi, piuttosto che il governo, a occuparci delle nostre vite. Tendiamo ad essere d'accordo con il filosofo L'affermazione di Immanuel Kant che nessuno ha il diritto di imporre a noi la sua idea della bella vita.

L'intelligenza artificiale (AI) cambierà questo. Ci conoscerà meglio di quanto conosciamo noi stessi. Un governo armato di intelligenza artificiale potrebbe affermare di sapere cosa vuole veramente la sua gente e cosa li renderà davvero felici. Nella migliore delle ipotesi lo utilizzerà per giustificare il paternalismo, nel peggiore dei casi, il totalitarismo.

Ogni inferno inizia con una promessa del paradiso. Il totalitarismo guidato dall'intelligenza artificiale non sarà diverso. La libertà diventerà obbedienza allo Stato. Solo l'irrazionale, il dispettoso o il sovversivo potrebbero desiderare di scegliere la propria strada.

Per prevenire una tale distopia, non dobbiamo permettere agli altri di sapere di noi più di noi. Non possiamo permettere un divario di conoscenza di sé.

L'AI che tutto vede

Nel 2019, l'investitore miliardario Peter Thiel ha affermato che l'IA era "letteralmente comunista”. Ha sottolineato che l'intelligenza artificiale consente a un potere centralizzante di monitorare i cittadini e saperne di più su di loro di quanto non sappiano di se stessi. Cina, ha osservato Thiel, ha abbracciato con entusiasmo l'IA.


innerself iscriviti alla grafica


Conosciamo già il potenziale dell'IA sostenere il totalitarismo fornendo un sistema orwelliano di sorveglianza e controllo. Ma l'IA offre anche ai totalitari un'arma filosofica. Finché ci conoscevamo meglio del governo, il liberalismo poteva tenere a bada gli aspiranti totalitari.

Ma l'IA ha cambiato il gioco. Le grandi aziende tecnologiche raccolgono enormi quantità di dati sul nostro comportamento. Gli algoritmi di apprendimento automatico utilizzano questi dati per calcolare non solo cosa faremo, ma anche chi siamo.

Oggi, L'intelligenza artificiale può prevedere quali film ci piaceranno, quali notizie vorremo leggere e chi vorremo fare amicizia su Facebook. Può prevedere se le coppie staranno insieme e se lo faremo tentare il suicidio. Dai nostri Mi piace di Facebook, L'intelligenza artificiale può prevedere le nostre opinioni religiose e politiche, personalità, intelligenza, uso di droghe e felicità.

La precisione delle previsioni dell'IA migliorerà solo. In un futuro non troppo lontano, come scrive Yuval Noah Harari ha suggerito, l'IA potrebbe dirci chi siamo prima che noi stessi lo sappiamo.

Questi sviluppi hanno implicazioni politiche sismiche. Se i governi possono conoscerci meglio di noi, si apre una nuova giustificazione per intervenire nelle nostre vite. Ci tiranneggeranno in nome del nostro bene.

Libertà attraverso la tirannia

Il filosofo Isaiah Berlin lo aveva previsto nel 1958. He identificato due tipi di libertà. Un tipo, ha avvertito, porterebbe alla tirannia.

La libertà negativa è "libertà da". È libertà dall'interferenza di altre persone o del governo nei tuoi affari. La libertà negativa è che nessun altro è in grado di trattenerti, fintanto che non stai violando i diritti di nessun altro.

Al contrario, la libertà positiva è "libertà di". È la libertà di essere padrone di te stesso, la libertà di soddisfare i tuoi veri desideri, la libertà di vivere una vita razionale. Chi non vorrebbe questo?

Ma cosa succede se qualcun altro dice che non stai agendo nel tuo "vero interesse", anche se sa come potresti? Se non ascolti, potrebbero costringerti ad essere libero - costringendoti per il tuo "bene". Questa è una delle idee più pericolose mai concepite. Ha ucciso decine di milioni di persone in L'Unione Sovietica di Stalin ed La Cina di Mao.

Si dice che il leader comunista russo, Lenin, abbia detto che i capitalisti gli avrebbero venduto la corda con cui li avrebbe impiccati. Peter Thiel ha sostenuto che, nell'IA, le aziende tecnologiche capitaliste della Silicon Valley hanno venduto al comunismo uno strumento che minaccia di minare la società capitalista democratica. L'IA è la corda di Lenin.

Combattendo per noi stessi

Possiamo prevenire una tale distopia solo se nessuno è autorizzato a conoscerci meglio di quanto conosciamo noi stessi. Non dobbiamo mai rendere sentimentale chi cerca un tale potere su di noi come ben intenzionato. Storicamente, questo è sempre finito in una calamità.

Un modo per prevenire un divario di conoscenza di sé è aumentare i nostri scudi sulla privacy. Thiel, che ha etichettato l'intelligenza artificiale come comunista, ha affermato che "crypto è libertario”. Le criptovalute possono essere "privacy abilitazione”. La privacy riduce la capacità degli altri di conoscerci e quindi utilizzare questa conoscenza per manipolarci per il proprio profitto.

Tuttavia, conoscere meglio noi stessi attraverso l'IA offre potenti vantaggi. Potremmo essere in grado di usarlo per capire meglio cosa ci renderà felici, sani e ricchi. Potrebbe essere d'aiuto guidare le nostre scelte di carriera. Più in generale, AI promette di creare la crescita economica che ci tiene lontani dalla gola dell'altro.

Il problema non è l'intelligenza artificiale che migliora la nostra conoscenza di sé. Il problema è un file disparità di potere in ciò che si sa di noi. La conoscenza di noi esclusivamente nelle mani di qualcun altro è potere su di noi. Ma la conoscenza di noi nelle nostre mani è potere per noi.

Chiunque tratta i nostri dati per creare conoscenza su di noi dovrebbe essere legalmente obbligato a restituirci tale conoscenza. Dobbiamo aggiornare l'idea di "niente di noi senza di noi"Per l'era dell'IA.

Ciò che l'IA ci dice di noi stessi è che dobbiamo prendere in considerazione l'utilizzo, non che altri traggano profitto dall'abuso. Dovrebbe esserci solo una mano sul timone della nostra anima. E dovrebbe essere nostro.The Conversation

Circa l'autore

Simon McCarthy-Jones, professore associato di psicologia clinica e neuropsicologia, Trinity College di Dublino

Questo articolo è ripubblicato da The Conversation sotto una licenza Creative Commons. Leggi il articolo originale.

rompere

Libri correlati:

Sulla tirannia: venti lezioni dal ventesimo secolo

di Timothy Snyder

Questo libro offre lezioni dalla storia per preservare e difendere la democrazia, compresa l'importanza delle istituzioni, il ruolo dei singoli cittadini e i pericoli dell'autoritarismo.

Clicca per maggiori informazioni o per ordinare

Il nostro tempo è adesso: potere, scopo e lotta per un'America giusta

di Stacy Abrams

L'autrice, politica e attivista, condivide la sua visione di una democrazia più inclusiva e giusta e offre strategie pratiche per l'impegno politico e la mobilitazione degli elettori.

Clicca per maggiori informazioni o per ordinare

Come muoiono le democrazie

di Steven Levitsky e Daniel Ziblatt

Questo libro esamina i segnali di allarme e le cause del collasso democratico, attingendo a studi di casi da tutto il mondo per offrire spunti su come salvaguardare la democrazia.

Clicca per maggiori informazioni o per ordinare

Il popolo, no: una breve storia dell'antipopulismo

di Tommaso Franco

L'autore offre una storia dei movimenti populisti negli Stati Uniti e critica l'ideologia "antipopulista" che sostiene abbia soffocato la riforma democratica e il progresso.

Clicca per maggiori informazioni o per ordinare

Democrazia in un libro o meno: come funziona, perché non funziona e perché risolverlo è più facile di quanto pensi

di David Litt

Questo libro offre una panoramica della democrazia, compresi i suoi punti di forza e di debolezza, e propone riforme per rendere il sistema più reattivo e responsabile.

Clicca per maggiori informazioni o per ordinare