L'informazione è un bene prezioso. E grazie alla tecnologia ci sono milioni di terabyte di esso in linea.
Strumenti di intelligenza artificiale (AI) come ChatGPT ora gestiscono queste informazioni per nostro conto, raccogliendole, riassumendole e presentandole di nuovo.
Ma questo “esternalizzare” la gestione delle informazioni all’intelligenza artificiale – per quanto conveniente – comporta delle conseguenze. Può influenzare non solo che cosa pensiamo, ma potenzialmente anche come pensiamo.
Cosa succede in un mondo in cui gli algoritmi di intelligenza artificiale decidono quali informazioni vengono perpetuate e quali vengono lasciate nel dimenticatoio?
L’ascesa dell’intelligenza artificiale personalizzata
Gli strumenti di intelligenza artificiale generativa si basano su modelli addestrati su centinaia di gigabyte di dati dati preesistenti. Da questi dati imparano come creare autonomamente testi, immagini, contenuti audio e video e possono rispondere alle domande degli utenti mettendo insieme la risposta “più probabile”.
ChatGPT è utilizzato da milioni di persone, nonostante sia stato rilasciato pubblicamente meno di un anno fa. Nel mese di giugno, l'aggiunta di risposte personalizzate ha reso il già impressionante chatbot ancora più utile. Questa funzionalità consente agli utenti di salvare istruzioni personalizzate che spiegano per cosa stanno utilizzando il bot e come vorrebbero che rispondesse.
Questo è uno dei numerosi esempi di “intelligenza artificiale personalizzata”: una categoria di strumenti di intelligenza artificiale che generano contenuti per soddisfare le esigenze e le preferenze specifiche dell’utente.
Un altro esempio è Meta lanciato di recente assistente virtuale, MetaAI. Questo chatbot può conversare, generare immagini ed eseguire attività sulle piattaforme di Meta tra cui WhatsApp, Messenger e Instagram.
Mustafa Suleyman, ricercatore di intelligenza artificiale e co-fondatore di DeepMind, descrive L’intelligenza artificiale personalizzata è più una relazione che una tecnologia:
È un amico. […] Sarà davvero sempre presente e accanto a te, vivrà con te – fondamentalmente nella tua squadra. Mi piace pensarlo come se avessi un grande allenatore al tuo fianco.
Ma queste tecnologie sono anche controverse e sollevano preoccupazioni proprietà dei dati, pregiudizio ed disinformazione.
Le aziende tecnologiche stanno cercando di trovare modi per combattere questi problemi. Ad esempio, Google ha aggiunto collegamenti di origine ai riepiloghi di ricerca generati dall'intelligenza artificiale Cerca esperienza generativa (SGE), che è stato criticato all'inizio di quest'anno per offrendo risposte imprecise e problematiche.
La tecnologia ha già cambiato il nostro modo di pensare
In che modo gli strumenti di intelligenza artificiale generativa, e in particolare quelli personalizzati per noi, cambieranno il modo in cui pensiamo?
Per capirlo, rivisitiamo i primi anni '1990, quando Internet è entrato per la prima volta nelle nostre vite. Le persone potevano improvvisamente accedere a informazioni praticamente su qualsiasi cosa, che si trattasse di operazioni bancarie, pasticceria, insegnamento o viaggi.
Quasi 30 anni dopo, gli studi hanno dimostrato come essere connessi a questa “mente alveare” globale abbia cambiato la nostra cognizione, memoria e creatività.
Ad esempio, avere accesso istantaneo all'equivalente di 305.5 miliardi di pagine di informazioni ha aumentato il numero delle persone meta-conoscenza – cioè la loro conoscenza sulla conoscenza. Un impatto di ciò è il “Effetto Google”: un fenomeno in cui la ricerca online aumenta la nostra capacità di trovare informazioni, ma riduce la nostra memoria di cosa fossero quelle informazioni.
Da un lato, è stato dimostrato che scaricare il nostro pensiero sui motori di ricerca libera le nostre riserve mentali problem solving e pensiero creativo. D'altro canto, è stato associato un aumento del recupero delle informazioni online distraibilità e dipendenza.
La ricerca mostra anche che la ricerca online, indipendentemente dalla quantità o qualità delle informazioni recuperate, aumenta la nostra autostima cognitiva. In altre parole, aumenta la nostra fiducia nella nostra “intelligenza”.
Abbina questo al fatto che mettere in discussione le informazioni è faticoso – e che più ci fidiamo del nostro motore di ricerca, meno lo consideriamo critico impegnarsi con i suoi risultati – e puoi capire perché avere accesso a quantità di informazioni senza precedenti non ci rende necessariamente più saggi.
Dovremmo “esternalizzare” il nostro pensiero?
Gli strumenti di intelligenza artificiale generativa di oggi vanno molto oltre la semplice presentazione dei risultati di ricerca. Individuano le informazioni per noi, le valutano, le sintetizzano e ce le presentano.
Quali potrebbero essere le implicazioni di ciò? Senza spingere per un controllo di qualità condotto dall’uomo, le prospettive non sono promettenti.
La capacità dell’intelligenza artificiale generativa di produrre risposte che sembrano familiari, obiettive e coinvolgenti significa che ci rende più vulnerabili distorsioni cognitive.
I bias di automazione, ad esempio, è la tendenza umana a sopravvalutare l’integrità delle informazioni provenienti dalle macchine. E il mera esposizione L'effetto è quando è più probabile che ci fidiamo delle informazioni presentate come familiari o personali.
La ricerca sui social media può aiutarci a comprendere l’impatto di tali pregiudizi. In uno studio del 2016, gli utenti di Facebook hanno riferito sentirsi più "informato" in base alla quantità di contenuti di notizie pubblicati online e non a quanto di essi effettivamente leggono.
Sappiamo anche che”bolle di filtro" creati dagli algoritmi dei social media, in cui i nostri feed vengono filtrati in base ai nostri interessi, limitano la diversità dei contenuti a cui siamo esposti.
È stato dimostrato che questo processo di restringimento delle informazioni aumenta polarizzazione ideologica riducendo la propensione delle persone a considerare prospettive alternative. È stato anche dimostrato che aumenta la nostra probabilità di esserne esposti notizie false.
Usare l'intelligenza artificiale per diventare saggi e non per stupidi
L’intelligenza artificiale generativa è, senza dubbio, una forza rivoluzionaria con il potenziale per fare grandi cose per la società. Potrebbe rimodellare il nostro sistema educativo fornendo contenuto personalizzato, cambiare le nostre pratiche di lavoro accelerando scrittura e analisi delle informazioni, e allargare le frontiere del scoperta scientifica.
Ha anche il potenziale di alterare positivamente le nostre relazioni aiutandoci a comunicare e a connetterci con gli altri e può, a volte, funzionare come un forma di compagnia sintetica.
Ma se il nostro unico modo per giudicare il futuro è guardare al passato, forse ora è il momento di riflettere su come sia Internet che i social media hanno cambiato la nostra cognizione, e applicare alcune misure precauzionali. Sviluppando Alfabetizzazione sull’intelligenza artificiale è un buon punto di partenza, così come lo è progettare strumenti di intelligenza artificiale che incoraggino l’autonomia umana e il pensiero critico.
Alla fine, dovremo capire entrambi i nostri e i punti di forza e di debolezza dell'intelligenza artificiale per garantire che questi compagni “pensanti” ci aiutino a creare il futuro che desideriamo – e non quello che sembra essere in cima alla lista.
Sarah Vivienne Bentley, Ricercatore, Innovazione Responsabile, Dati61, CSIRO; Chiara Massone, Principale ricercatore scientifico, CSIROe Einat Grimberg, ricercatore post-dottorato in tecnologia e scienze sociali, CSIRO
Questo articolo è ripubblicato da The Conversation sotto una licenza Creative Commons. Leggi il articolo originale.
