Come la fantascienza potrebbe salvarci dalla cattiva tecnologia

Come la fantascienza potrebbe salvarci dalla cattiva tecnologia
Ahmet Misirligul / Shutterstock

Il cortometraggio Slaughterbots descrive un futuro prossimo in cui sciami di micro droni assassinano migliaia di persone per le loro convinzioni politiche. Rilasciato a novembre 2017 da parte di accademici e attivisti che avvertivano dei pericoli dell'intelligenza artificiale avanzata (AI), divenne rapidamente virale, attirando fino ad oggi le opinioni di 3m. Ha aiutato a innescare a dibattito pubblico sul futuro delle armi autonome e fare pressione sui diplomatici riuniti alle Nazioni Unite Convenzione sulle armi convenzionali.

Ma questo tipo di narrativa di fantascienza speculativa non è solo utile per attirare l'attenzione. Le persone che progettano e costruiscono tecnologie avanzate possono usare le storie per considerare le conseguenze del loro lavoro e assicurarsi che vengano utilizzate per il bene. E pensiamo che questo tipo di "prototipazione di fantascienza" o "design fiction" potrebbe aiutare a impedire che i pregiudizi umani si trasformino in nuove tecnologie, rafforzando ulteriormente i pregiudizi e le ingiustizie della società.

Un pregiudizio può portare alla preferenza arbitraria di alcune categorie (di risultati, persone o idee) rispetto ad altre. Ad esempio, alcune persone potrebbero essere prevenute nell'assumere donne per lavori dirigenziali, indipendentemente dal fatto che ne siano consapevoli o no.

La tecnologia costruita attorno ai dati che registra tale distorsione può finire replicando il problema. Ad esempio, un software di reclutamento progettato per selezionare i migliori CV per un determinato lavoro potrebbe essere programmato per cercare caratteristiche che riflettano un pregiudizio inconscio nei confronti degli uomini. In tal caso, l'algoritmo finirà per favorire i CV degli uomini. E questo non è teorico in realtà è successo ad Amazon.

Progettare algoritmi senza considerare possibili implicazioni negative è stato confrontato ai medici "scrivendo dei benefici di un determinato trattamento e ignorando completamente gli effetti collaterali, non importa quanto siano gravi".

Alcune aziende tecnologiche e ricercatori stanno cercando di affrontare il problema. Ad esempio, Google ha elaborato a insieme di principi etici per guidare il suo sviluppo dell'IA. E gli accademici britannici hanno lanciato un'iniziativa chiamata Non uguale ciò mira a incoraggiare una maggiore equità e giustizia nella progettazione e nell'uso della tecnologia.


Ricevi le ultime novità da InnerSelf


Il problema è che, pubblicamente, le aziende tendono a fornire solo una visione positiva delle potenziali conseguenze delle tecnologie del prossimo futuro. Ad esempio, le auto senza conducente vengono spesso descritte come in grado di risolvere tutti i nostri problemi di trasporto dal costo alla sicurezza, ignorando l'aumento pericoli di attacchi informatici o il fatto che potrebbero incoraggiare le persone a farlo camminare o pedalare di meno.

La difficoltà di comprendere come funzionano le tecnologie digitali, in particolare quelle fortemente guidate da oscuri algoritmi, rende anche più difficile per le persone avere una visione complessa e completa dei problemi. Questa situazione produce una tensione tra una narrazione rassicurante positiva e il vago sospetto che i pregiudizi siano incorporati in una certa misura nelle tecnologie che ci circondano. È qui che pensiamo che la narrazione attraverso la narrativa del design possa entrare.

Le storie sono un metodo naturale di pensare a possibilità e situazioni complesse e le abbiamo ascoltate per tutta la vita. La fantascienza può aiutarci a speculare sull'impatto delle tecnologie del prossimo futuro sulla società, come fa Slaughterbots. Ciò può includere anche questioni di giustizia sociale, come il modo in cui possono essere determinati gruppi, come rifugiati e migranti escluso da innovazioni digitali.

Rivelare il (possibile) futuro

Progetta storie di finzione fornire un modo nuovo a designer, ingegneri e futuristi (tra gli altri) di pensare all'impatto della tecnologia da una prospettiva umana e collegarlo a possibili esigenze future. Con un mix di logica e immaginazione, la narrativa del design può rivelare aspetti di come la tecnologia può essere adottata e utilizzata, avviando conversazioni al riguardo ramificazioni future.

Ad esempio, il racconto "Crime-sourcing"Esplora cosa potrebbe accadere se l'intelligenza artificiale dovesse utilizzare informazioni di crowdsourcing e un database criminale per prevedere chi potrebbe commettere un omicidio. I ricercatori hanno scoperto che, poiché il database era pieno di persone appartenenti a gruppi etnici minoritari che, per motivi sociali, avevano statisticamente più probabilità di recidiva, il modello di "sourcing del crimine" aveva maggiori probabilità di sospettare erroneamente minoranze dei bianchi.

Non devi essere uno scrittore di talento o fare un film slick per produrre fantascienza di design. Attività di brainstorming che coinvolgono carte e storyboard è stato usato sviluppare fiction sul design e aiutare a sviluppare il processo di narrazione. Rendere più comuni i seminari che utilizzavano questo tipo di strumenti consentirebbe a più ingegneri, imprenditori e responsabili politici di utilizzare questo metodo di valutazione. E rendere il lavoro risultante disponibile al pubblico contribuirebbe ad esporre potenziali pregiudizi nelle tecnologie prima che incidano sulla società.

Incoraggiare i progettisti a creare e condividere più storie in questo modo assicurerebbe che la narrazione alla base della nuova tecnologia non presenterebbe solo un'immagine positiva, né estremamente negativa o distopica. Invece, le persone saranno in grado di apprezzare entrambi gli aspetti di ciò che sta accadendo intorno a noi.The Conversation

Informazioni sugli autori

Alessio Malizia, Professore di User Experience Design, Università di Hertfordshire e Silvio Carta, Capo di arte e design e presidente del gruppo di ricerca sul design, Università di Hertfordshire

Questo articolo è ripubblicato da The Conversation sotto una licenza Creative Commons. Leggi il articolo originale.

enafarZH-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

segui InnerSelf su

facebook-icontwitter-iconrss-icon

Ricevi l'ultimo tramite e-mail

{Emailcloak = off}

DAGLI EDITORI

Perché Donald Trump potrebbe essere il più grande perdente della storia
by Robert Jennings, InnerSelf.com
Aggiornato il 2 luglio 20020 - Tutta questa pandemia di coronavirus sta costando una fortuna, forse 2 o 3 o 4 fortune, tutte di dimensioni sconosciute. Oh sì, e centinaia di migliaia, forse un milione di persone moriranno ...
Blue-Eyes vs Brown Eyes: come viene insegnato il razzismo
by Marie T. Russell, InnerSelf
In questo episodio dell'Oprah Show del 1992, la pluripremiata attivista ed educatrice anti-razzismo Jane Elliott ha insegnato al pubblico una dura lezione sul razzismo dimostrando quanto sia facile imparare il pregiudizio.
Un cambiamento sta per arrivare...
by Marie T. Russell, InnerSelf
(30 maggio 2020) Mentre guardo le notizie sugli eventi di Philadephia e di altre città del paese, il mio cuore fa male per ciò che sta traspirando. So che questo fa parte del grande cambiamento che sta prendendo ...
Una canzone può elevare il cuore e l'anima
by Marie T. Russell, InnerSelf
Ho diversi modi in cui uso per cancellare l'oscurità dalla mia mente quando trovo che si è insinuato. Uno è il giardinaggio o il trascorrere del tempo nella natura. L'altro è il silenzio. Un altro modo è leggere. E uno che ...
Mascotte della pandemia e tema musicale per il distanziamento sociale e l'isolamento
by Marie T. Russell, InnerSelf
Mi sono imbattuto in una canzone di recente e mentre ascoltavo i testi, ho pensato che sarebbe stata una canzone perfetta come "tema musicale" per questi tempi di isolamento sociale. (Testo sotto il video.)