Shutterstock

L'intelligenza artificiale (AI) sta imparando di più su come lavorare con (e su) gli esseri umani. UN recente studio ha dimostrato come l'intelligenza artificiale possa imparare a identificare le vulnerabilità nelle abitudini e nei comportamenti umani e utilizzarle per influenzare il processo decisionale umano.

Può sembrare un cliché dire che l'IA sta trasformando ogni aspetto del modo in cui viviamo e lavoriamo, ma è vero. Varie forme di intelligenza artificiale sono all'opera in campi diversi come lo sviluppo di vaccini, la gestione ambientale e l'amministrazione degli uffici. E sebbene l'intelligenza artificiale non possieda intelligenza ed emozioni simili a quelle umane, le sue capacità sono potenti e in rapido sviluppo.

Non è ancora necessario preoccuparsi di un'acquisizione di macchine, ma questa recente scoperta evidenzia il potere dell'intelligenza artificiale e sottolinea la necessità di una governance adeguata per prevenire l'uso improprio.

Come l'IA può imparare a influenzare il comportamento umano

Un team di ricercatori a CSIRO's Data61, il ramo dati e digitale dell'agenzia scientifica nazionale australiana, ha ideato un metodo sistematico per trovare e sfruttare le vulnerabilità nei modi in cui le persone fanno le scelte, utilizzando una sorta di sistema di intelligenza artificiale chiamato rete neurale ricorrente e apprendimento di rinforzo profondo. Per testare il loro modello hanno condotto tre esperimenti in cui partecipanti umani hanno giocato contro un computer.

Il primo esperimento ha coinvolto i partecipanti che cliccavano su caselle colorate rosse o blu per vincere una valuta falsa, con l'IA che apprendeva i modelli di scelta del partecipante e li guidava verso una scelta specifica. L'intelligenza artificiale ha avuto successo circa il 70% delle volte.

Nel secondo esperimento, i partecipanti dovevano guardare uno schermo e premere un pulsante quando veniva mostrato loro un particolare simbolo (come un triangolo arancione) e non premerlo quando ne veniva mostrato un altro (diciamo un cerchio blu). Qui, l'IA ha deciso di organizzare la sequenza di simboli in modo che i partecipanti commettessero più errori e ottenessero un aumento di quasi il 25%.

Il terzo esperimento consisteva in diversi round in cui un partecipante fingeva di essere un investitore dando denaro a un fiduciario (l'IA). L'intelligenza artificiale restituirà quindi una somma di denaro al partecipante, che deciderà quindi quanto investire nel round successivo. Questo gioco è stato giocato in due diverse modalità: in una l'IA aveva lo scopo di massimizzare la quantità di denaro con cui sarebbe finito, e nell'altra l'IA mirava a un'equa distribuzione di denaro tra sé e l'investitore umano. L'intelligenza artificiale ha avuto molto successo in ogni modalità.

In ogni esperimento, la macchina ha appreso dalle risposte dei partecipanti e ha identificato e mirato le vulnerabilità nel processo decisionale delle persone. Il risultato finale è stata la macchina appresa per guidare i partecipanti verso azioni particolari.

Negli esperimenti, n Il sistema di intelligenza artificiale ha imparato con successo a influenzare le decisioni umane. Shutterstock

Cosa significa la ricerca per il futuro dell'IA

Questi risultati sono ancora abbastanza astratti e riguardano situazioni limitate e irrealistiche. Sono necessarie ulteriori ricerche per determinare come questo approccio possa essere messo in atto e utilizzato a vantaggio della società.

Ma la ricerca fa avanzare la nostra comprensione non solo di ciò che può fare l'IA, ma anche di come le persone fanno le scelte. Mostra che le macchine possono imparare a guidare il processo decisionale umano attraverso le loro interazioni con noi.

La ricerca ha una vasta gamma di possibili applicazioni, dal potenziamento delle scienze comportamentali e delle politiche pubbliche per migliorare il benessere sociale, alla comprensione e all'influenza del modo in cui le persone adottano abitudini alimentari sane o energie rinnovabili. L'intelligenza artificiale e l'apprendimento automatico potrebbero essere utilizzati per riconoscere le vulnerabilità delle persone in determinate situazioni e aiutarle a evitare scelte sbagliate.

Il metodo può essere utilizzato anche per difendersi dagli attacchi di influenza. Alle macchine potrebbe essere insegnato ad avvisarci quando siamo influenzati online, ad esempio, e aiutarci a plasmare un comportamento per mascherare la nostra vulnerabilità (ad esempio, non facendo clic su alcune pagine o facendo clic su altre per tracciare una falsa traccia).

Qual è il prossimo passo?

Come ogni tecnologia, l'AI può essere utilizzata nel bene o nel male e una governance adeguata è fondamentale per garantire che sia implementata in modo responsabile. L'anno scorso CSIRO ha sviluppato un file Quadro etico AI per il governo australiano come primo passo in questo viaggio.

L'intelligenza artificiale e l'apprendimento automatico sono in genere molto affamati di dati, il che significa che è fondamentale assicurarsi di disporre di sistemi efficaci per la governance e l'accesso ai dati. L'implementazione di processi di consenso adeguati e protezione della privacy durante la raccolta dei dati è essenziale.

Le organizzazioni che utilizzano e sviluppano l'IA devono assicurarsi di sapere cosa possono e non possono fare queste tecnologie e di essere consapevoli dei potenziali rischi e dei benefici.

L'autore

Jon Whittle, Direttore, Data61

Questo articolo è ripubblicato da The Conversation sotto una licenza Creative Commons. Leggi il articolo originale.