Ahmet Misirligul / Shutterstock

Il cortometraggio Slaughterbots descrive un futuro prossimo in cui sciami di micro droni assassinano migliaia di persone per le loro convinzioni politiche. Rilasciato a novembre 2017 da parte di accademici e attivisti che avvertivano dei pericoli dell'intelligenza artificiale avanzata (AI), divenne rapidamente virale, attirando fino ad oggi le opinioni di 3m. Ha aiutato a innescare a dibattito pubblico sul futuro delle armi autonome e fare pressione sui diplomatici riuniti alle Nazioni Unite Convenzione sulle armi convenzionali.

Ma questo tipo di narrativa di fantascienza speculativa non è solo utile per attirare l'attenzione. Le persone che progettano e costruiscono tecnologie avanzate possono usare le storie per considerare le conseguenze del loro lavoro e assicurarsi che vengano utilizzate per il bene. E pensiamo che questo tipo di "prototipazione di fantascienza" o "design fiction" potrebbe aiutare a impedire che i pregiudizi umani si trasformino in nuove tecnologie, rafforzando ulteriormente i pregiudizi e le ingiustizie della società.

{vembato Y=9CO6M2HsoIA}

Un pregiudizio può portare alla preferenza arbitraria di alcune categorie (di risultati, persone o idee) rispetto ad altre. Ad esempio, alcune persone potrebbero essere prevenute nell'assumere donne per lavori dirigenziali, indipendentemente dal fatto che ne siano consapevoli o no.

La tecnologia costruita attorno ai dati che registra tale distorsione può finire replicando il problema. Ad esempio, un software di reclutamento progettato per selezionare i migliori CV per un determinato lavoro potrebbe essere programmato per cercare caratteristiche che riflettano un pregiudizio inconscio nei confronti degli uomini. In tal caso, l'algoritmo finirà per favorire i CV degli uomini. E questo non è teorico in realtà è successo ad Amazon.

Progettare algoritmi senza considerare possibili implicazioni negative è stato confrontato ai medici "scrivendo dei benefici di un determinato trattamento e ignorando completamente gli effetti collaterali, non importa quanto siano gravi".

Alcune aziende tecnologiche e ricercatori stanno cercando di affrontare il problema. Ad esempio, Google ha elaborato a insieme di principi etici per guidare il suo sviluppo dell'IA. E gli accademici britannici hanno lanciato un'iniziativa chiamata Non uguale ciò mira a incoraggiare una maggiore equità e giustizia nella progettazione e nell'uso della tecnologia.

Il problema è che, pubblicamente, le aziende tendono a fornire solo una visione positiva delle potenziali conseguenze delle tecnologie del prossimo futuro. Ad esempio, le auto senza conducente vengono spesso descritte come in grado di risolvere tutti i nostri problemi di trasporto dal costo alla sicurezza, ignorando l'aumento pericoli di attacchi informatici o il fatto che potrebbero incoraggiare le persone a farlo camminare o pedalare di meno.

La difficoltà di comprendere come funzionano le tecnologie digitali, in particolare quelle fortemente guidate da oscuri algoritmi, rende anche più difficile per le persone avere una visione complessa e completa dei problemi. Questa situazione produce una tensione tra una narrazione rassicurante positiva e il vago sospetto che i pregiudizi siano incorporati in una certa misura nelle tecnologie che ci circondano. È qui che pensiamo che la narrazione attraverso la narrativa del design possa entrare.

Le storie sono un metodo naturale di pensare a possibilità e situazioni complesse e le abbiamo ascoltate per tutta la vita. La fantascienza può aiutarci a speculare sull'impatto delle tecnologie del prossimo futuro sulla società, come fa Slaughterbots. Ciò può includere anche questioni di giustizia sociale, come il modo in cui possono essere determinati gruppi, come rifugiati e migranti escluso da innovazioni digitali.

Rivelare il (possibile) futuro

Progetta storie di finzione fornire un modo nuovo a designer, ingegneri e futuristi (tra gli altri) di pensare all'impatto della tecnologia da una prospettiva umana e collegarlo a possibili esigenze future. Con un mix di logica e immaginazione, la narrativa del design può rivelare aspetti di come la tecnologia può essere adottata e utilizzata, avviando conversazioni al riguardo ramificazioni future.

Ad esempio, il racconto "Crime-sourcing"Esplora cosa potrebbe accadere se l'intelligenza artificiale dovesse utilizzare informazioni di crowdsourcing e un database criminale per prevedere chi potrebbe commettere un omicidio. I ricercatori hanno scoperto che, poiché il database era pieno di persone appartenenti a gruppi etnici minoritari che, per motivi sociali, avevano statisticamente più probabilità di recidiva, il modello di "sourcing del crimine" aveva maggiori probabilità di sospettare erroneamente minoranze dei bianchi.

Non devi essere uno scrittore di talento o fare un film slick per produrre fantascienza di design. Attività di brainstorming che coinvolgono carte e storyboard è stato usato sviluppare fiction sul design e aiutare a sviluppare il processo di narrazione. Rendere più comuni i seminari che utilizzavano questo tipo di strumenti consentirebbe a più ingegneri, imprenditori e responsabili politici di utilizzare questo metodo di valutazione. E rendere il lavoro risultante disponibile al pubblico contribuirebbe ad esporre potenziali pregiudizi nelle tecnologie prima che incidano sulla società.

Incoraggiare i progettisti a creare e condividere più storie in questo modo assicurerebbe che la narrazione alla base della nuova tecnologia non presenterebbe solo un'immagine positiva, né estremamente negativa o distopica. Invece, le persone saranno in grado di apprezzare entrambi gli aspetti di ciò che sta accadendo intorno a noi.

Informazioni sugli autori

Alessio Malizia, Professore di User Experience Design, Università di Hertfordshire ed Silvio Carta, Capo di arte e design e presidente del gruppo di ricerca sul design, Università di Hertfordshire

Questo articolo è ripubblicato da The Conversation sotto una licenza Creative Commons. Leggi il articolo originale.