Come Big Tech progetta le proprie regole etiche per evitare scrutinio e responsabilità

Come Big Tech progetta le proprie regole etiche per evitare scrutinio e responsabilità

L'etica dei dati è ora una causa célèbre.

"Etica digitale e privacy" sono stati inseriti nella società di ricerca e consulenza Gartner's i primi dieci trend tecnologici strategici per 2019. Prima di ciò, ha appena sollevato una menzione.

Nell'anno passato governi, società e politica e tecnologia think tanks hanno pubblicato etica dei dati guide. Un'intera coorte di esperti di etica dei dati si è materializzata magicamente.

Perché questo improvviso interesse per l'etica dei dati? Cos'è l'etica dei dati? Di chi sono gli interessi le linee guida progettate per servire?

Per capire cosa sta succedendo, è necessario fare un passo indietro e osservare come si è sviluppato il panorama delle informazioni.

Il quadro che emerge è di un'industria immune dai vincoli normativi che si applicano a tutti gli altri.

Lo splendore è sparito

Negli ultimi anni l'industria dell'informazione ha perso la sua lucentezza.

L' Snowden rivelazioni, la Scandalo di Cambridge Analytica, l'abilitazione dei social media di incitamento all'odio, la armamento di informazioni e il suo ruolo nel minare le istituzioni democratiche tutti hanno contribuito

Il modello di business che monetizza le informazioni personali per vendere pubblicità ora è visto come un patto faustiano - forse il sacrificio non ne vale la pena, dopo tutto. Da 2017 a 2018 c'era a 6% di calo negli utenti di Facebook negli Stati Uniti nel redditizio mercato 12-34.

Queste preoccupazioni hanno portato a richieste di regolamento. Ma questi hanno lottato per ottenere la trazione contro l'ortodossia normativa prevalente per il settore tecnologico. Questo risale ad Al Gore's cinque principi per abilitare ciò che è stato poi singolarmente chiamato "superstrada dell'informazione globale".

Il terzo principio prevedeva che la politica normativa avrebbe "creato un quadro normativo flessibile in grado di tenere il passo con rapidi cambiamenti tecnologici e di mercato". Questo era un codice per nessuna regolamentazione, o autoregolamentazione. In Australia era conosciuto come Regolazione "tocco leggero".

La grande tecnologia ha agito con impunità normativa, largamente liberata dalle preoccupazioni mondane della "vecchia" economia come la protezione del consumatore o la responsabilità del prodotto o la legge sulla concorrenza o, in particolare, la privacy delle informazioni.

Girando più vicino

L'Europa non ha mai completamente adottato questo approccio laissez-faire. La privacy delle informazioni è sempre stata in cima alla sua agenda, culminata nel regolamento generale sulla protezione dei dati 2018 (GDPR). Ciò fornisce agli individui nell'Unione europea i diritti di protezione dei dati più completi al mondo. I diritti hanno portata extraterritoriale, implicano supervisione regolamentare e impiegano multe civili di grande magnificenza. Altre giurisdizioni stanno iniziando a seguirne l'esempio.

Parallelamente, i regolatori di altre discipline stanno iniziando a circolare. I regolatori anti-trust stanno osservando con attenzione i monopoli dell'informazione e l'uso del potere di mercato da parte delle grandi tecnologie per limitare la concorrenza.

In Australia, l'ACCC ha richiesto a nuova autorità di regolamentazione monitorare e investigare l'effetto degli algoritmi sulla classifica di notizie e contenuti giornalistici.

Il comitato per le comunicazioni del Regno Unito sulla relazione sulla regolamentazione in un mondo digitale ha consigliato una nuova autorità digitale supervisionare la regolamentazione "frammentata" dell'ambiente digitale attorno a dieci principi normativi, osservando che "[s] la regolamentazione delle elf da piattaforme online sta chiaramente fallendo". I regolatori dei diritti umani stanno esaminando il ruolo degli algoritmi nel creare e radicare la discriminazione.

Dati significa soldi

La grande tecnologia non vuole essere regolamentata. Non vuole che la sua capacità illimitata di raccogliere informazioni personali sia limitata o che le protezioni di tipo GDPR diventino la norma globale. Le informazioni personali sono la materia prima per gli algoritmi che consentono di monetizzare la nostra attenzione.

Per un'industria che si vanta di essere "dirompente", la più grande ansia della grande tecnologia è quella di prevenire l'inasprimento del contesto normativo per evitare di essere perturbato. L'etica dei dati è uno dei mezzi che ha sviluppato per combattere la regolamentazione. Lo fa appropriandosi delle virtù associate all'etica ma svuotandole dal contenuto o dalle conseguenze.

Prendere I principi di Google per l'intelligenza artificiale. (L'intelligenza artificiale è l'intelligenza artificiale). Questi sono:

  • essere socialmente utile
  • evitare di creare o rafforzare pregiudizi sleali
  • essere costruito e testato per la sicurezza
  • essere responsabile verso le persone
  • incorporare i principi di design della privacy
  • sostenere elevati standard di eccellenza scientifica
  • essere reso disponibile per usi conformi a questi principi.

Questi "principi" sono straordinariamente simili alle omelie di buon umore pubblicate su Instagram che ci spingono a "essere buoni l'uno con l'altro" o non a "lasciare che il sole tramonti sulla nostra rabbia", e sono altrettanto utili.

economia Davvero? Schermata acquisita in marzo 28 2019

Metti alla prova

Proviamo uno dei principi di Google, "essere responsabile nei confronti delle persone".

Ci sono diversi livelli di ambiguità qui. Vuol dire che gli algoritmi di AI di Google dovrebbero essere responsabili di "persone" in generale, "persone" di Google o "persone" di qualcun altro come un regolatore indipendente?

In quest'ultimo caso, Google fornirà l'algoritmo per l'analisi, correggerà eventuali errori e pagherà il risarcimento per eventuali danni causati?

Se gli algoritmi AI di Google concludono erroneamente che sono un terrorista e poi trasmetto queste informazioni alle agenzie di sicurezza nazionali che usano le informazioni per arrestarmi, trattenermi in incommunicado e interrogarmi, Google sarà ritenuta responsabile per la sua negligenza o per contribuire al mio falso imprigionamento? Come sarà responsabile? Se non sono soddisfatto della versione di responsabilità di Google, a chi faccio appello per ottenere giustizia?

L'etica utile implica la responsabilità

L'etica si occupa dei principi morali che influenzano il modo in cui le persone prendono decisioni e il modo in cui conducono le loro vite.

L'etica è stata studiata e discussa per eoni. All'interno delle tradizioni occidentali, l'etica è ricondotta a Socrate. Includono posizioni filosofiche come l'etica deontologica (basata sul dovere), il consequenzialismo, l'utilitarismo e l'esistenzialismo, per citarne solo alcuni. Non sorprende che nessuno di questi generi le stesse risposte alle domande su ciò che un individuo deve fare in determinate circostanze.

"Etica applicata" mira a portare i principi dell'etica a sopportare situazioni di vita reale. Ci sono numerosi esempi.

L'etica del settore pubblico è regolata dalla legge. Ci sono conseguenze per coloro che li violano, comprese le misure disciplinari, la cessazione del rapporto di lavoro e talvolta le sanzioni penali. Per diventare un avvocato, ho dovuto fornire prove a un tribunale che sono una "persona adatta e corretta". Per continuare a praticare, sono tenuto a rispettare i requisiti dettagliati stabiliti nelle Regole di condotta dei solicitors australiani. Se li infrango, ci sono delle conseguenze.

Le caratteristiche dell'etica applicata sono che sono specifiche, ci sono cicli di feedback, è disponibile una guida, sono integrati nella cultura organizzativa e professionale, c'è una corretta supervisione, ci sono conseguenze quando vengono violati e ci sono meccanismi di applicazione indipendenti e rimedi reali . Fanno parte di un apparato normativo e non solo di "sentirsi bene".

Feelgood, i principi di etica dei dati di alto livello non sono adatti allo scopo di regolamentare la grande tecnologia. L'etica applicata può avere un ruolo da svolgere, ma poiché sono occupazione o disciplina specifica, non possono essere fatti valere per fare tutto, o anche la maggior parte, il sollevamento pesante.

I danni legati alla grande tecnologia possono essere affrontati solo da una regolamentazione adeguata.The Conversation

Circa l'autore

David Watts, professore di diritto e politica dell'informazione, La Trobe University

Questo articolo è ripubblicato da The Conversation sotto una licenza Creative Commons. Leggi il articolo originale.

Libri correlati:

{amazonWS: searchindex = Libri; parole chiave = monopoli digitali; maxresults = 3}

enafarZH-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

segui InnerSelf su

facebook-icontwitter-iconrss-icon

Ricevi l'ultimo tramite e-mail

{Emailcloak = off}