I ricercatori hanno creato un modello per prevedere quali conversazioni online civili potrebbero prendere una svolta e far deragliare.

Dopo aver analizzato centinaia di scambi tra i redattori di Wikipedia, i ricercatori hanno sviluppato un programma per computer che analizza i segnali di pericolo nella lingua dei partecipanti all'inizio di una conversazione, come ripetute domande dirette o l'uso della parola "tu", per prevedere quale inizialmente le conversazioni civili andrebbero male. (Nota di Edtor: per informazioni sul quiz online, vedere la fine di questo articolo.) ("Indovina quale conversazione andrà storta" quiz online: http://awry.infosci.cornell.edu/)

I primi scambi che includevano saluti, espressioni di gratitudine, siepi come "sembra" e le parole "io" e "noi" erano più propensi a rimanere civili, lo studio ha rilevato.

"Ci sono milioni di discussioni del genere che si svolgono ogni giorno e non è possibile monitorarle tutte dal vivo. Un sistema basato su questa scoperta potrebbe aiutare i moderatori umani a dirigere meglio la loro attenzione ", afferma Cristian Danescu-Niculescu-Mizil, assistente professore di scienze dell'informazione presso la Cornell University e coautore di la carta.

"Noi, come esseri umani, abbiamo un'intuizione sul fatto che una conversazione stia per andare male, ma spesso è solo un sospetto. Non possiamo farlo 100 per cento delle volte. Ci chiediamo se possiamo costruire sistemi per replicare o addirittura andare oltre questa intuizione ", afferma Danescu-Niculescu-Mizil.

Il modello computerizzato, che considerava anche Google's Perspective, uno strumento di apprendimento automatico per valutare la "tossicità", era corretto intorno alla percentuale di 65 del tempo. Gli umani hanno indovinato correttamente 72 per cento delle volte.

Le persone possono testare la propria capacità di indovinare quali conversazioni faranno deragliare in un quiz online.

Lo studio ha analizzato le conversazioni di 1,270 che sono iniziate civilmente ma degenerate in attacchi personali, abbattute da 50 milioni di conversazioni su 16 milioni di pagine di "talk" di Wikipedia, in cui gli editori discutono di articoli o altri problemi. Hanno esaminato gli scambi a coppie, confrontando ogni conversazione che si è conclusa male con quella che è riuscita sullo stesso argomento, quindi i risultati non sono stati distorti da argomenti sensibili come la politica.

I ricercatori sperano che questo modello possa essere utilizzato per salvare conversazioni a rischio e migliorare il dialogo online, piuttosto che per vietare utenti specifici o censurare determinati argomenti. Alcuni manifesti online, come i non madrelingua inglesi, potrebbero non rendersi conto che potrebbero essere percepiti come aggressivi, e i suggerimenti di un tale sistema potrebbero aiutarli ad autoregolarsi.

"Se ho strumenti che trovano attacchi personali, è già troppo tardi, perché l'attacco è già avvenuto e la gente lo ha già visto", dice il coautore Jonathan P. Chang, uno studente di dottorato in Cornell. "Ma se capisci che questa conversazione sta andando in una cattiva direzione e poi agisci, potrebbe rendere il posto un po 'più accogliente."

Il documento, scritto insieme a collaboratori aggiuntivi a Jigsaw e alla Wikimedia Foundation, farà parte della riunione annuale dell'Associazione per la Linguistica Computazionale (luglio 2018) a Melbourne, in Australia.

*****

Indovina quale conversazione andrà male!

Istruzioni per il quiz online:

In questa attività, ti verranno mostrate coppie di conversazioni 15. Per ogni conversazione, vedrai solo i primi due commenti nella conversazione. Il tuo compito è di indovinare, sulla base di questi avviatori di conversazione, che è più probabile che la conversazione alla fine porterà ad un attacco personale da uno dei due utenti iniziali. 

Dopo aver risposto a ciascuna domanda, riceverai un riscontro immediato se la tua risposta è stata corretta (indicata con il verde) o errata (indicata con il rosso).

Maggiori dettagli:

Nel fare la tua ipotesi, dovresti usare la seguente definizione di attacco personale come riferimento:

A attacco personale è un commento scortese, offensivo o irrispettoso verso una persona / gruppo o verso le azioni e / o il lavoro di quella persona / gruppo.

Tieni presente che non stai cercando attacchi personali nei commenti che sono mostrato. Piuttosto, dovresti usare la tua intuizione delle dinamiche sociali per decidere quale scambio è più probabile che porti uno dei partecipanti a postare un attacco personale (che non ti viene mostrato). 

A volte, sembra che nessuna delle due quote possa condurre ad un attacco, o che entrambe sembrano ugualmente probabili. Tuttavia, tieni presente che le conversazioni all'origine sono già state annotate dagli esseri umani e in effetti si verifica un attacco personale. Fai del tuo meglio per "recuperare" quelle etichette esistenti! 

Questo non è un compito facile e potrebbe richiedere un paio di minuti per rispondere a ciascuna domanda. Poiché questo è un compito difficile, le prime tre domande sono domande di "riscaldamento" che non influenzeranno il tuo punteggio; sono lì per aiutarti a "calibrare" il tuo senso di quali fattori sono suscettibili di segnalare attacchi futuri. Ma ricorda, il tuo compito è recuperare più etichette che puoi. 

A causa della natura dell'attività, alcuni di questi commenti potrebbero contenere contenuti offensivi. Ci dispiace per quello.

Clicca qui per il quiz online.

Fonte: Cornell University

libri correlati

at InnerSelf Market e Amazon