Al centro dello sviluppo dell'IA sembra esserci la ricerca della perfezione. E potrebbe essere pericoloso per l'umanità quanto quello derivato dalle idee filosofiche e pseudoscientifiche del XIX e dell'inizio del XX secolo e che ha portato agli orrori del colonialismo, della guerra mondiale e dell'Olocausto. Invece di una "razza dominante" umana, potremmo ritrovarci con una macchina.

Se questo sembra estremo, considera il perfezionismo anti-umano che è già centrale nel mercato del lavoro. Qui, la tecnologia AI è il passo successivo nella premessa della massima produttività che ha sostituito l'artigianato individuale con la linea di produzione in fabbrica. Questi enormi cambiamenti nella produttività e nel modo in cui lavoriamo hanno creato opportunità e minacce che ora sono destinate ad essere aggravate da un "quarta rivoluzione industriale"In cui l'IA sostituisce ulteriormente i lavoratori umani.

Alcuni documenti di ricerca recenti prevedere che, entro un decennio, l'automazione sostituirà metà degli attuali posti di lavoro. Quindi, almeno in questa transizione verso una nuova economia digitalizzata, molte persone perderanno i loro mezzi di sussistenza. Anche se supponiamo che questa nuova rivoluzione industriale genererà una nuova forza lavoro in grado di navigare e comandare questo mondo dominato dai dati, dovremo comunque affrontare importanti problemi socioeconomici. Le interruzioni saranno immense e dovranno essere esaminate attentamente.

L'obiettivo finale dell'IA, anche quella ristretta che gestisce compiti molto specifici, è quello di superare e perfezionare ogni funzione cognitiva umana. Alla fine, i sistemi di apprendimento automatico potrebbero essere programmati per essere migliori degli umani in tutto.

Ciò che potrebbero non sviluppare mai, tuttavia, è il tocco umano: empatia, amore, odio o una qualsiasi delle altre emozioni autocoscienti che ci rendono umani. Questo a meno che non attribuiamo loro questi sentimenti, che è cosa alcuni di noi lo stanno già facendo con i nostri "Alexas" e "Siris".

Produttività vs tocco umano

L'ossessione per la perfezione e l '"iperefficienza" ha avuto un profondo impatto sulle relazioni umane, anche sulla riproduzione umana, poiché le persone vivono le loro vite in realtà virtuali e chiuse di propria creazione. Ad esempio, diverse aziende statunitensi e cinesi hanno prodotto bambole robotiche che si stanno esaurendo rapidamente come partner sostitutivi.

Persino un uomo in Cina ha sposato la sua bambola virtuale mentre la lavorazione del prodotto finito avviene negli stabilimenti del nostro partner una donna in Francia "Sposò" un "robo-man", pubblicizzando la sua storia d'amore come una forma di "robo-sessualità" e facendo una campagna per legalizzare il suo matrimonio. "Sono davvero e totalmente felice", ha detto. "Il nostro rapporto migliorerà sempre di più con l'evolversi della tecnologia." Là sembra essere forte richiesta di mogli e mariti robot in tutto il mondo.

Nel mondo perfettamente produttivo, gli esseri umani sarebbero considerati privi di valore, certamente in termini di produttività ma anche in termini di debolezza umana. A meno che non abbandoniamo questo atteggiamento perfezionista nei confronti della vita che posiziona la produttività e la "crescita materiale" al di sopra della sostenibilità e della felicità individuale, la ricerca sull'IA potrebbe essere un'altra catena nella storia delle invenzioni umane autolesioniste.

Stiamo già assistendo alla discriminazione nei calcoli algoritmici. Recentemente, un popolare Il chatbot sudcoreano di nome Lee Luda è stato messo offline. "Lei" è stata modellata sul personaggio di una studentessa universitaria di 20 anni ed è stata rimossa da Facebook Messenger dopo aver usato incitamento all'odio nei confronti delle persone LGBT.

Nel frattempo, le armi automatizzate programmate per uccidere stanno portando in battaglia massime come "produttività" ed "efficienza". Di conseguenza, la guerra è diventata più sostenibile. La proliferazione della guerra con i droni è un esempio molto vivido di queste nuove forme di conflitto. Creano una realtà virtuale che è quasi assente dalla nostra portata.

Ma sarebbe comico rappresentare l'IA come un inevitabile incubo orwelliano di un esercito di "Terminator" super intelligenti la cui missione è cancellare la razza umana. Tali previsioni distopiche sono troppo rozze per catturare il nocciolo duro dell'intelligenza artificiale e il suo impatto sulla nostra esistenza quotidiana.

Le società possono trarre vantaggio dall'IA se è sviluppata tenendo conto dello sviluppo economico sostenibile e della sicurezza umana. La confluenza di potere e intelligenza artificiale che sta perseguendo, ad esempio, sistemi di controllo e sorveglianza, non dovrebbe sostituire la promessa di un'IA umanizzata che metta la tecnologia di apprendimento automatico al servizio degli esseri umani e non viceversa.

A tal fine, le interfacce AI-uomo che si stanno rapidamente aprendo nelle carceri, nella sanità, nel governo, nella sicurezza sociale e nel controllo delle frontiere, ad esempio, devono essere regolate per favorire l'etica e la sicurezza umana rispetto all'efficienza istituzionale. Le scienze sociali e umanistiche hanno a molto da dire su tali questioni.

Una cosa di cui essere allegri è la probabilità che l'intelligenza artificiale non possa mai sostituire la filosofia e l'intellettualità umane. Per essere un filosofo, dopotutto, richiede empatia, comprensione dell'umanità e delle nostre emozioni e motivazioni innate. Se riusciamo a programmare le nostre macchine per comprendere tali standard etici, la ricerca sull'intelligenza artificiale ha la capacità di migliorare le nostre vite, il che dovrebbe essere l'obiettivo finale di qualsiasi progresso tecnologico.

Ma se la ricerca sull'IA produce una nuova ideologia incentrata sulla nozione di perfezionismo e massima produttività, allora sarà una forza distruttiva che porterà a più guerre, più carestie e più disagio sociale ed economico, soprattutto per i poveri. In questo momento della storia globale, questa scelta è ancora nostra.

Circa l'autore

Arshin Adib-Moghaddam, professore di pensiero globale e filosofie comparate, SOAS, Università di Londra

Questo articolo è ripubblicato da The Conversation sotto una licenza Creative Commons. Leggi il articolo originale.