Guglielmo Perugini/Shutterstock

Tra i tanti”profondi rischi per la società e l’umanità” che ha preoccupato gli esperti di tecnologia riguardo all'intelligenza artificiale (AI), la diffusione di immagini false è un fenomeno con cui gli utenti di Internet di tutti i giorni avranno familiarità.

I deepfake – video o fotografie in cui il viso o il corpo di qualcuno sono stati alterati digitalmente in modo che sembri che stiano facendo qualcosa che non stanno facendo – sono già stati utilizzati per diffondersi disinformazione politica ed pornografia falsa.

Queste immagini sono in genere dannose e vengono utilizzate per screditare l'argomento. Quando si tratta di pornografia deepfake, il la stragrande maggioranza delle vittime sono donne. L’intelligenza artificiale generativa, la tecnologia utilizzata per creare testo, immagini e video, lo è già facendo l’abuso sessuale basato sull’immagine è più facile da perpetrare.

Una nuova insieme di leggi nel Regno Unito, criminalizzerà la condivisione di materiale pornografico deepfake. Ma con l’attenzione rivolta all’intelligenza artificiale e ai deepfake, non possiamo dimenticare come la tecnologia meno sofisticata possa essere utilizzata come strumento di abuso, con conseguenze devastanti per le vittime.

Tecnologia e controllo

Quando ho iniziato la mia ricerca sulla tecnologia nelle relazioni violente, i deepfake erano solo un segnale all’orizzonte. Il mio lavoro si è concentrato su ruolo degli smartphone nell’abuso di donne fuggite da relazioni di controllo. Ho scoperto che gli autori di abusi domestici utilizzavano la tecnologia per estendere la portata del loro potere e controllo sui loro partner, una versione moderna delle tattiche di abuso utilizzate molto prima gli smartphone erano in ogni tasca.

I telefoni cellulari possono essere utilizzati direttamente per monitorare e controllare, utilizzando il tracciamento GPS o bombardando una vittima con messaggi, video e chiamate vocali. Un partecipante al mio ricerca in 2019 ha spiegato come il suo partner violento utilizzasse il suo telefono per accedere ai social media, inviandole foto offensive tramite Instagram e messaggi WhatsApp persistenti e offensivi.

Quando era fuori con i suoi amici, lui prima le mandava messaggi, squillava e poi le videochiamava costantemente per controllare dove fosse e con chi fosse. Quando la partecipante ha spento il telefono, il suo compagno di allora ha contattato i suoi amici, bombardandoli di messaggi e chiamate.

Questa partecipante si sentiva troppo imbarazzata per prendere accordi per incontrare il suo gruppo di pari e quindi ha smesso di uscire. Altri in situazioni simili potrebbero essere esclusi dai piani sociali, se gli amici vogliono evitare di essere contattati dall'aggressore del loro amico. Tale isolamento sociale è una parte frequente degli abusi domestici e un indicatore importante del controllo delle relazioni.

Secondo l’organizzazione benefica Refuge contro la violenza domestica, più di 72% delle persone che utilizzano i suoi servizi segnalano abusi che coinvolgono la tecnologia.

I telefoni cellulari sono un gateway verso altri gadget, tramite “l’internet delle cose” – dispositivi connessi al web e in grado di scambiare dati. Questi strumenti possono anche essere utilizzati come armi dagli autori di abusi. Ad esempio, utilizzando i telefoni cellulari per modificare le impostazioni della temperatura su un termostato domestico, creando estremi da un'ora all'altra.

Confuse da questo, le persone cercano spiegazioni dal proprio partner solo per sentirsi dire che questo deve essere frutto della loro immaginazione. Tecniche di illuminazione a gas come questo fanno sì che le vittime mettano in dubbio la propria sanità mentale, il che mina la loro fiducia nel proprio giudizio.

Un moderno panopticon

Con il semplice clic di un pulsante, i telefoni cellulari consentono una sorveglianza senza precedenti degli altri. Nelle tasche dell'autore del reato possono essere utilizzati per tenere d'occhio i partner attuali ed ex in qualsiasi momento, in qualsiasi luogo e, segnale permettendo, ovunque. Ciò dà agli autori del reato a potere di onnipotenza, lasciando le vittime credere di essere osservate anche quando non lo sono.

Ciò ricorda l’opera del filosofo del XVIII secolo Jeremy Bentham, che introdusse il concetto di “panopticon”. Bentham propose un sistema carcerario “perfetto”, in cui al centro si trova una torre di guardia, circondata da singole celle.

Isolati gli uni dagli altri, i prigionieri vedrebbero solo la torre, un promemoria costante che sono permanentemente sorvegliati, anche se non possono vedere la guardia al suo interno. Bentham credeva che una struttura del genere avrebbe comportato l'autosorveglianza dei prigionieri finché alla fine non sarebbero state più necessarie serrature o sbarre.

La mia ricerca più recente mostra che i cellulari hanno creato dinamiche simili all’interno delle relazioni violente. I telefoni assumono il ruolo della torre e gli autori del reato le guardie al suo interno.

In questo moderno panopticon, le vittime possono essere in giro, visibili a estranei, amici e familiari. Tuttavia, a causa della presenza del telefono, sentono di essere ancora osservati e controllati dai loro partner violenti.

Come ha detto un partecipante: “Senti che non c'è libertà anche quando sei fuori. Ti senti come se fossi rinchiuso da qualche parte, non hai libertà, qualcuno ti sta controllando.

I sopravvissuti agli abusi continuano a controllarsi anche quando gli autori non sono presenti. Agiscono in modi che credono possano compiacere (o almeno non far arrabbiare) i loro aggressori.

Questo comportamento è spesso visto dagli altri come strano e troppo facilmente liquidato come paranoia, ansia o problemi di salute mentale più seri. L'attenzione si concentra sul comportamento della vittima e si ignora la causa: comportamento offensivo o criminale da parte del partner.

Man mano che la tecnologia diventa più sofisticata, gli strumenti e le strategie a disposizione degli autori di abusi continueranno ad evolversi. Ciò amplierà la portata degli autori di reati e presenterà nuove opportunità di sorveglianza, inganno e abusi.

Fino a quando le aziende tecnologiche non prenderanno in considerazione le esperienze delle vittime di abusi domestici e non integreranno meccanismi di sicurezza nella progettazione dei loro prodotti, gli abusi continueranno a persistere nascosto in bella vista.

Tirion Havard, Professore Associato di Servizio Sociale, London South Bank University

Questo articolo è ripubblicato da The Conversation sotto una licenza Creative Commons. Leggi il articolo originale.