Perché è un errore celebrare il crollo sui siti web di odio

Perché è un errore celebrare il crollo sui siti web di odio Le compagnie private controllano l'odio online senza una supervisione o regolamentazione indipendente, che ha implicazioni serie e pone dei rischi per i diritti umani e le libertà fondamentali. (Shutterstock)

La marcia delle fiaccole dei bianchi supremacisti armati di recente a Charlottesville, in Virginia, continua a generare dibattiti su come i gruppi di odio dovrebbero essere regolamentati. Tra la crescente pressione dell'opinione pubblica in seguito alla marcia, le aziende di internet si sono affrettate a rimuovere dai loro siti web le piattaforme che abbracciavano violenti discorsi di incitamento all'odio.

Vai papà terminato i suoi servizi di dominio al sito web neo-nazista The Daily Stormer, come ha fatto Google. Cloudflare, una società che protegge anche i siti Web dagli attacchi online vietato il sito web di odio dalla sua piattaforma. La Russia ha ordinato il blocco del sito da essere ospitato nel paese.

La mia ricerca e il mio libro Chokepoints: Global Private Regulation su Internet Dimostrare che molte società di Internet rimuovono già i contenuti e vietano gli utenti "volontariamente", cioè in assenza di leggi o processi giudiziari. I principali intermediari tra cui Google, PayPal, GoDaddy, Twitter e Facebook gestiscono volontariamente le loro piattaforme per il contenuto di abusi sessuali su minori, l'estremismo e il traffico illecito di merci contraffatte.

Molte persone applaudono comprensibilmente questi sforzi per eliminare i discorsi di incitamento all'odio e altri contenuti discutibili. Tuttavia, gli sforzi delle aziende internet come regolatori di fatto de facto sollevano seri interrogativi: come dovrebbero essere regolamentati i contenuti online? Da chi?

Non appoggio i suprematisti bianchi e non sto discutendo contro un controllo di tali discorsi. Piuttosto, sto dicendo che dobbiamo considerare seriamente come regolare i contenuti online in quanto il prossimo caso potrebbe non essere così chiaro.

Ci sono problemi significativi nel fare affidamento su potenti aziende per sorvegliare Internet perché le loro pratiche di applicazione sono estremamente opache e soggette a interpretazione arbitraria.

Precedente preoccupante

In un sobrio contrasto con il tifo delle compagnie internet per la loro opposizione pubblica al Daily Stormer, il CEO di Cloudflare Matthew Prince ha offerto una prospettiva sfumata e cauta, avvertendo che il ritiro dei servizi da gruppi di odio in risposta alla pressione pubblica crea un preoccupante precedente .

In un post sul blog Spiegando le azioni di Cloudflare contro il Daily Stormer, Prince ha affermato che la società considera il processo dovuto un "principio più importante" della libertà di parola. Il giusto processo, ha detto, significa che "dovresti essere in grado di conoscere le regole che un sistema seguirà se partecipi a quel sistema". Questa affermazione giustamente coglie i problemi inerenti agli intermediari che operano come regolatori de facto dei contenuti e del comportamento online.

All'inizio di quest'anno, Shopify dipendenti e centinaia di migliaia di persone sollecitato e petizione la piattaforma di commercio online per smettere di ospitare l'archivio internet di Breitbart Media. Reintegrato presidente esecutivo Stephen Bannon chiamate Breitbart "la piattaforma per l'alt-destra". Il cosiddetto "alt-right" - un termine reso popolare da Richard Bertrand Spencer - copre un misto di ideologie conservatrici di supremazia bianca, separatista, neonazista, fascista, razzista, antisemita, islamofoba e populista.

Il CEO di Shopify, Tobias Lütke, ha detto che difende la libertà di parola come la società di Ottawa ha continuato a ospitare il negozio online Breitbart sotto minaccia di dipendenti che si dimettono. Dopo pubblico pressione e una campagna di base soprannominata #DeleteShopify portato ad un esame che ha rivelato di più affari discutibiliEra Shopify forzato adottare un "Politica di utilizzo accettabile".

Gli esempi contrastanti di The Daily Stormer e la sua cancellazione da parte delle società Internet, e il costante supporto di Shopify per Breitbart, dimostrano gli estremi di un dilemma che promette solo di intensificare.

Politiche arbitrarie, regolamento

Gli intermediari di Internet possono essere potenti regolatori su una vasta gamma di questioni perché possono agire rapidamente e senza ordini di tribunale. È importante sottolineare che hanno la possibilità di censurare qualsiasi contenuto o vietare gli utenti in base ai loro accordi sui termini di servizio.

PayPal si riserva il diritto di interrompere i suoi servizi agli utenti "per qualsiasi motivo e in qualsiasi momento, "Linguaggio che riecheggia negli accordi di servizio della maggior parte degli intermediari. La capacità di una regolamentazione arbitraria è quindi infornata nelle regole interne degli intermediari.

Il principe ha ammonito che l'azione di Cloudflare nei confronti del Daily Stormer crea un precedente per gli intermediari nel discorso della polizia senza che gli ordini del tribunale richiedano che lo facciano.

Questi intermediari agiscono spesso per volere di governi che preferiscono che le aziende siano il volto pubblico (ma in gran parte inspiegabile) della regolamentazione di Internet. Ma queste imprese sono generalmente mal equipaggiate per distinguere la legalità dall'illegalità, causando rotture errate e bersagliati erroneamente al comportamento legale.

Altrettanto problematico: i processi di applicazione degli intermediari sono spesso opachi poiché i loro moderatori dei contenuti interpretano arbitrariamente le loro regole interne complesse e in rapida evoluzione. Questi problemi sono aggravati dal crescente uso di strumenti automatizzati da parte degli intermediari per identificare e rimuovere il contenuto problematico sulle loro piattaforme.

Vi è anche la preoccupazione del cosiddetto "creep di missione" quando le regole introdotte per la prima volta contro l'abuso o il terrorismo - catalizzatori degni di nota per l'azione coercitiva - sono successivamente applicate ad altre questioni meno dannose, come il download non autorizzato di contenuti protetti da copyright.

Il futuro distopico è qui

Gli sforzi regolatori si espandono comunemente dalla censura di discorsi di incitamento violento ad altri discorsi che possono essere considerati controversi da alcuni, come quello di Black Lives Matter. Inoltre, i governi di tutto il mondo sottopongono regolarmente gli intermediari a pressione censura e traccia critici e oppositori politici.

Quando i principali intermediari diventano regolatori go-to responsabili dei contenuti di polizia per conto dei governi o in risposta a proteste di alto profilo, la loro già considerevole potenza aumenta. Le aziende Internet statunitensi dominano già molti settori industriali, tra cui ricerca, pubblicità, registrazione di domini, pagamento e social media. Il principe di Cloudflare giustamente avvertito che dipendendo da "poche reti giganti", un "piccolo numero di aziende determinerà in gran parte ciò che può e non può essere online".

Questo futuro distopico è già qui.

Il takedown del Daily Stormer rende senza dubbio il mondo un posto migliore. Ma vogliamo davvero che aziende come Facebook e Twitter decidano - indipendentemente, arbitrariamente e segretamente - a che contenuto possiamo accedere e condividere?

Dati questi problemi apparentemente intrattabili, cosa possiamo fare? Innanzitutto, dovremmo evitare di governare sulla base di proteste o pressioni dei media. Anziché, abbiamo bisogno di un chiaro insieme di regole consentire agli intermediari di rispondere in modo coerente, trasparente e rispettoso del giusto processo, come raccomandato da Prince.

I governi dovrebbero chiarire la natura e, soprattutto, i limiti delle responsabilità normative degli intermediari. Infine, dobbiamo smettere di governare in risposta a crisi specifiche - le cosiddette "false notizie", gruppi terroristici e di odio - e invece di pensare in modo critico su come possiamo e dovremmo governare Internet.The Conversation

Circa l'autore

Natasha Tusikov, ricercatrice, criminologia, dipartimento di scienze sociali, Università di York, Canada

Questo articolo è ripubblicato da The Conversation sotto una licenza Creative Commons. Leggi il articolo originale.

libri correlati

{amazonWS: searchindex = Libri; parole chiave = incitamento all'odio; maxresults = 3}

enafarZH-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

segui InnerSelf su

facebook-icontwitter-iconrss-icon

Ricevi l'ultimo tramite e-mail

{Emailcloak = off}