Trovare fiducia e comprensione nelle tecnologie autonome

Trovare fiducia e comprensione nelle tecnologie autonomeFoto di: Norbert Aepli, Svizzera (Utente: Noebu)

In 2016, le auto a guida automatica sono diventate mainstream. I veicoli autonomi di Uber divenne onnipresente nei quartieri in cui vivo a Pittsburgh, e brevemente a San Francisco. Rilasciato il Dipartimento dei trasporti degli Stati Uniti nuova guida normativa per loro. innumerevole documenti e colonne discusso di come auto auto-guida dovrebbero risolvere dilemmi etici quando le cose vanno male. E, purtroppo, anche 2016 ha visto il primo caso di morte che coinvolge un veicolo autonomo.

Le tecnologie autonome si stanno diffondendo rapidamente oltre il settore dei trasporti, in assistenza sanitaria, cyberdefense avanzata e persino armi autonome. In 2017, dovremo decidere se possiamo fidarci di queste tecnologie. Sarà molto più difficile di quanto potremmo aspettarci.

La fiducia è complessa e varia, ma anche una parte fondamentale della nostra vita. Spesso ci fidiamo della tecnologia basato sulla prevedibilità: Mi fido di qualcosa se so cosa farà in una situazione particolare, anche se non so perché. Ad esempio, mi fido del mio computer perché so come funzionerà, anche quando si romperà. Smetto di fidarmi se inizia a comportarsi diversamente o sorprendentemente.

Al contrario, la mia fiducia in mia moglie è basata su capire le sue convinzioni, i suoi valori e la sua personalità. Più in generale, la fiducia interpersonale non implica sapere esattamente cosa farà l'altra persona - mia moglie mi sorprende di certo a volte! - ma piuttosto perché si comportano come loro. E, naturalmente, possiamo fidarci di qualcuno (o qualcosa) in entrambi i modi, se sappiamo entrambi cosa faranno e perché.

Ho esplorato le possibili basi per la nostra fiducia nelle auto a guida autonoma e in altre tecnologie autonome da entrambe le prospettive etiche e psicologiche. Questi sono dispositivi, quindi la prevedibilità potrebbe sembrare la chiave. A causa della loro autonomia, tuttavia, dobbiamo considerare l'importanza e il valore - e la sfida - di imparare a fidarsi di loro nel modo in cui crediamo agli altri esseri umani.

Autonomia e prevedibilità

Vogliamo che le nostre tecnologie, incluse le auto a guida autonoma, si comportino in modi che possiamo prevedere e aspettarci. Naturalmente, questi sistemi possono essere molto sensibili al contesto, inclusi altri veicoli, pedoni, condizioni meteorologiche e così via. In generale, tuttavia, potremmo aspettarci che un'auto a guida autonoma che viene ripetutamente posizionata nello stesso ambiente dovrebbe presumibilmente comportarsi in modo simile ogni volta. Ma in che senso queste auto altamente prevedibili sarebbero autonome, anziché solo automatiche?

Ci sono stato molti diverso tentativi a definire autonomia, ma hanno tutti questo in comune: i sistemi autonomi possono prendere le proprie decisioni (sostanziali) e piani, e quindi possono agire in modo diverso dal previsto.


Ricevi le ultime novità da InnerSelf


In effetti, una ragione per usare l'autonomia (distinta dall'automazione) è precisamente che quei sistemi possono seguire corsi d'azione inattesi e sorprendenti, benché giustificabili. Per esempio, DeepMind's AlphaGo ha vinto la seconda partita della sua recente serie Go contro Lee Sedol in parte a causa di una mossa che nessun giocatore umano avrebbe mai fatto, ma che comunque era la mossa giusta. Ma quelle stesse sorprese rendono difficile stabilire una fiducia basata sulla prevedibilità. Una forte fiducia basata esclusivamente sulla prevedibilità è probabilmente possibile solo per i sistemi automatici o automatici, proprio perché sono prevedibili (assumendo che il sistema funzioni normalmente).

Abbraccia le sorprese

Certamente, altre persone spesso ci sorprendono, eppure possiamo fidarci di loro in misura notevole, dando loro il potere della vita e della morte su noi stessi. I soldati si fidano dei loro compagni in ambienti complessi e ostili; una paziente si fida del suo chirurgo per asportare un tumore; e in una vena più mondana, mia moglie si fida di me per guidare in sicurezza. Questa fiducia interpersonale ci consente di abbracciare le sorprese, quindi forse potremmo sviluppare qualcosa come la fiducia interpersonale nelle auto che guidano da soli?

In generale, la fiducia interpersonale richiede una comprensione del perché qualcuno ha agito in un modo particolare, anche se non è possibile prevedere la decisione esatta. Mia moglie potrebbe non sapere esattamente come guiderò, ma conosce il tipo di ragionamento che uso quando guido. Ed è relativamente facile capire perché qualcun altro fa qualcosa, proprio perché tutti pensiamo e ragioniamo in modo approssimativo, anche se con "materie prime" differenti - le nostre convinzioni, i nostri desideri e le nostre esperienze.

Infatti, continuamente e inconsciamente facciamo delle inferenze sulle credenze e sui desideri delle altre persone in base alle loro azioni, in gran parte assumendo che pensano, ragionano e decidono approssimativamente come facciamo noi. Tutte queste inferenze e ragionamenti basati sulla nostra cognizione (umana) condivisa ci permettono di capire le ragioni di qualcun altro, e quindi costruire la fiducia interpersonale nel tempo.

Pensando come persone?

Le tecnologie autonome - le auto a guida autonoma, in particolare - non pensano e decidono come persone. Ci sono stati sforzi, entrambi passato e recente, sviluppare sistemi informatici che ragionino e ragionino come gli umani. Tuttavia, un tema coerente dell'apprendimento automatico negli ultimi due decenni è stato l'enorme guadagno ottenuto proprio dal non richiedere ai nostri sistemi di intelligenza artificiale di operare in modi umani. Invece, algoritmi e sistemi di machine learning come AlphaGo sono stati spesso in grado di farlo superare gli esperti umani concentrandosi su problemi specifici localizzati e risolvendoli in modo diverso rispetto agli umani.

Di conseguenza, i tentativi di interpretare una tecnologia autonoma in termini di credenze e desideri simili a quelli umani possono andare incredibilmente a monte. Quando un guidatore umano vede una palla in mezzo alla strada, la maggior parte di noi rallenta automaticamente in modo significativo, per evitare di colpire un bambino che potrebbe inseguirlo. Se stiamo guidando su un'auto autonoma e vediamo una palla rotolare in strada, ci aspettiamo che l'auto la riconosca e che sia pronta a fermarsi per far correre i bambini. La macchina potrebbe, tuttavia, vedere solo un ostacolo da evitare. Se sterza senza rallentare, gli umani a bordo potrebbero essere allarmati - e un bambino potrebbe essere in pericolo.

Le nostre inferenze sulle "credenze" e sui "desideri" di un'auto che si guida da soli saranno quasi sicuramente sbagliate in modi importanti, proprio perché l'auto non ha credenze o desideri umani. Non possiamo sviluppare la fiducia interpersonale in un'auto che si guida da sé semplicemente osservandola guidare, poiché non verificheremo correttamente i perché dietro le sue azioni.

Naturalmente, i clienti della società o del mercato potrebbero insistere in massa sul fatto che le auto a guida autonoma hanno caratteristiche (psicologiche) simili a quelle umane, proprio così potremmo capire e sviluppare la fiducia interpersonale in esse. Questa strategia darebbe un significato completamente nuovo a "design incentrato sull'uomo, "Poiché i sistemi sarebbero progettati in modo specifico così che le loro azioni siano interpretabili dall'uomo. Ma dovrebbe anche includere il romanzo Algoritmi e tecniche nell'auto a guida autonoma, tutto ciò rappresenterebbe un enorme cambiamento rispetto alle attuali strategie di ricerca e sviluppo per auto a guida autonoma e altre tecnologie autonome.

Le auto che guidano da soli hanno il potenziale per rimodellare radicalmente la nostra infrastruttura di trasporto in molti modi vantaggiosi, ma solo se possiamo fidarci di loro abbastanza per usarle effettivamente. E, ironia della sorte, la caratteristica che rende preziose le auto a guida autonoma - il loro processo decisionale flessibile e autonomo in diverse situazioni - è esattamente ciò che rende difficile fidarsi di loro.

The Conversation

authirhere

David Danks, professore di filosofia e psicologia, Carnegie Mellon University

Questo articolo è stato pubblicato in origine The Conversation. Leggi il articolo originale.

Libri correlati:

{amazonWS: searchindex = Libri; parole chiave = auto a guida autonoma; maxresults = 3}

enafarZH-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

segui InnerSelf su

facebook-icontwitter-iconrss-icon

Ricevi l'ultimo tramite e-mail

{Emailcloak = off}