I motori di ricerca spesso offrono una miscela distorta di informazioni e disinformazione. Crispin la valiente / Moment via Getty Images, CC BY-ND

I motori di ricerca sono uno dei principali punti di accesso della società alle informazioni e alle persone, ma sono anche canali di disinformazione. Simile a algoritmi problematici dei social media, i motori di ricerca imparano a fornirti ciò su cui tu e gli altri avete fatto clic in precedenza. Poiché le persone sono attratte dal sensazionale, questa danza tra algoritmi e natura umana può favorire la diffusione della disinformazione.

Le società di motori di ricerca, come la maggior parte dei servizi online, guadagnano non solo vendendo annunci, ma anche monitorando gli utenti e vendendo i loro dati tramite offerte in tempo reale su di essa. Le persone sono spesso portate alla disinformazione dal desiderio di notizie sensazionali e divertenti, nonché di informazioni controverse o che confermano le loro opinioni. Uno studio ha rilevato che i video di YouTube sul diabete più popolari lo sono meno probabilità di avere informazioni valide dal punto di vista medico rispetto ai video meno popolari sull'argomento, ad esempio.

I motori di ricerca basati sulla pubblicità, come le piattaforme di social media, sono progettati per premiare i clic su link allettanti perché aiutano le società di ricerca a migliorare le loro metriche di business. Come ricercatore che studia i sistemi di ricerca e raccomandazione, Io ei miei colleghi dimostriamo che questa pericolosa combinazione di motivazione del profitto aziendale e suscettibilità individuale rende il problema difficile da risolvere.

In che modo i risultati di ricerca vanno male

Quando fai clic su un risultato di ricerca, l'algoritmo di ricerca apprende che il link su cui hai fatto clic è pertinente per la tua query di ricerca. Questo è chiamato feedback sulla pertinenza. Questo feedback aiuta il motore di ricerca a dare maggiore peso a quel link per quella query in futuro. Se un numero sufficiente di persone fa clic su quel collegamento un numero sufficiente di volte, fornendo così un feedback di forte rilevanza, il sito Web inizia a comparire più in alto nei risultati di ricerca per quello e le query correlate.

Le persone sono è più probabile che faccia clic sui link visualizzati più in alto nell'elenco dei risultati di ricerca. Ciò crea un ciclo di feedback positivo: più in alto viene visualizzato un sito Web, maggiori sono i clic e ciò a sua volta fa spostare il sito Web più in alto o mantenerlo più in alto. Le tecniche di ottimizzazione dei motori di ricerca utilizzano questa conoscenza per aumentare la visibilità dei siti web.

Ci sono due aspetti di questo problema di disinformazione: come viene valutato un algoritmo di ricerca e come gli umani reagiscono a titoli, titoli e frammenti. I motori di ricerca, come la maggior parte dei servizi online, vengono giudicati utilizzando una serie di metriche, una delle quali è il coinvolgimento degli utenti. È nell'interesse delle società di motori di ricerca darti cose che desideri leggere, guardare o semplicemente fare clic. Pertanto, poiché un motore di ricerca o qualsiasi sistema di raccomandazione crea un elenco di elementi da presentare, calcola la probabilità che tu faccia clic sugli elementi.

Tradizionalmente, questo aveva lo scopo di far emergere le informazioni che sarebbero state più rilevanti. Tuttavia, la nozione di pertinenza è diventata confusa perché le persone hanno utilizzato la ricerca per trovare risultati di ricerca divertenti e informazioni veramente pertinenti.

Immagina di cercare un accordatore per pianoforte. Se qualcuno ti mostra il video di un gatto che suona il pianoforte, ci cliccheresti? Molti lo farebbero, anche se questo non ha nulla a che fare con l'accordatura del piano. Il servizio di ricerca si sente convalidato con un feedback positivo sulla pertinenza e apprende che va bene mostrare un gatto che suona un pianoforte quando le persone cercano accordatori per pianoforte.

In effetti, in molti casi è anche meglio che mostrare i risultati rilevanti. Alle persone piace guardare video divertenti di gatti e il sistema di ricerca ottiene più clic e coinvolgimento degli utenti.

Potrebbe sembrare innocuo. E se le persone di tanto in tanto si distraggono e fanno clic su risultati non pertinenti alla query di ricerca? Il problema è che le persone sono attratte da immagini eccitanti e titoli sensazionali. Essi tendono a fare clic su teorie del complotto e notizie sensazionalistiche, non solo gatti che suonano il piano, e lo fanno più che fare clic su notizie reali o informazioni pertinenti.

Ragni famosi ma falsi

Nel 2018, le ricerche di "new deadly spider" puntato su Google a seguito di un post su Facebook in cui si afferma che un nuovo ragno mortale ha ucciso diverse persone in più stati. I miei colleghi e io abbiamo analizzato i primi 100 risultati della ricerca su Google per "nuovo ragno mortale" durante la prima settimana di questa query di tendenza.

Le prime due pagine dei risultati di ricerca di Google per il `` nuovo ragno mortale '' nell'agosto 2018 (area ombreggiata) erano correlate al post originale di notizie false su quell'argomento, non a smascherare o altrimenti informazioni fattuali. Chirag Shah, CC BY-ND

È venuta fuori questa storia era falso, ma le persone che lo cercavano erano in gran parte esposte a informazioni errate relative al post falso originale. Mentre le persone continuavano a fare clic e condividere quella disinformazione, Google ha continuato a fornire quelle pagine nella parte superiore dei risultati di ricerca.

Questo modello di storie elettrizzanti e non verificate che emergono e le persone che fanno clic su di esse continuano, con le persone apparentemente indifferenti alla verità o convinte che se un servizio affidabile come Ricerca Google sta mostrando loro queste storie, le storie devono essere vere. Più recentemente, a rapporto smentito affermando che la Cina ha lasciato che il coronavirus trapelato da un laboratorio abbia guadagnato trazione sui motori di ricerca a causa di questo circolo vizioso.

Individua la disinformazione

Per verificare quanto bene le persone discriminano tra informazioni accurate e disinformazione, abbiamo progettato un semplice gioco chiamato "Google oppure no. " Questo gioco online mostra due serie di risultati per la stessa query. L'obiettivo è semplice: scegli il set che è affidabile, degno di fiducia o più pertinente.

Nei test, circa la metà delle volte le persone non sono in grado di distinguere tra i risultati di ricerca di Google contenenti informazioni errate e quelli con risultati affidabili. Chirag Shah, CC BY-ND

Uno di questi due set ha uno o due risultati che vengono verificati ed etichettati come disinformazione o una storia smascherata. Abbiamo reso il gioco disponibile pubblicamente e pubblicizzato attraverso vari canali di social media. In totale, abbiamo raccolto 2,100 risposte da oltre 30 paesi.

Quando abbiamo analizzato i risultati, lo abbiamo scoperto circa la metà delle volte le persone hanno erroneamente scelto come affidabile il set con uno o due risultati di disinformazione. I nostri esperimenti con centinaia di altri utenti in molte iterazioni hanno portato a risultati simili. In altre parole, circa la metà delle volte le persone scelgono risultati che contengono teorie del complotto e notizie false. Man mano che sempre più persone scelgono questi risultati imprecisi e fuorvianti, i motori di ricerca apprendono che questo è ciò che le persone vogliono.

A parte le questioni di regolamentazione e autoregolamentazione Big Tech, è importante che le persone capiscano come funzionano questi sistemi e come fanno soldi. Altrimenti le economie di mercato e la naturale inclinazione delle persone ad essere attratte da legami accattivanti manterranno il circolo vizioso.

Circa l'autore

Chirag Shah, Professore Associato di Scienza dell'Informazione, Università di Washington

Questo articolo è ripubblicato da The Conversation sotto una licenza Creative Commons. Leggi il articolo originale.