Gli storici futuri potrebbero considerare il 2023 come una pietra miliare nell’avvento dell’intelligenza artificiale (AI). Ma se quel futuro lo dimostrerà utopistico, apocalittico or da qualche parte nel mezzo è un'ipotesi di nessuno.
A febbraio ChatGPT ha stabilito il record di app più veloce da raggiungere 100 milioni di utenti. È stato seguito da modelli di intelligenza artificiale simili “a grande linguaggio” di Google, Amazon, Meta e altre grandi aziende tecnologiche, che collettivamente sembrano pronti a trasformare l’istruzione, la sanità e molti altri campi ad alta intensità di conoscenza.
Tuttavia, il potenziale dannoso dell’IA è stato sottolineato a maggio da un dichiarazione inquietante firmato da importanti ricercatori:
Mitigare il rischio di estinzione dell'IA dovrebbe essere una priorità globale insieme ad altri rischi su scala sociale come le pandemie e la guerra nucleare.
A novembre, in risposta alla crescente preoccupazione per il rischio dell’intelligenza artificiale, 27 nazioni (tra cui Regno Unito, Stati Uniti, India, Cina e Unione europea) si sono impegnate a collaborare in occasione del vertice inaugurale sulla sicurezza dell’intelligenza artificiale a Bletchley Park in Inghilterra, per garantire lo sviluppo sicuro dell’intelligenza artificiale. per il beneficio di tutti.
Per raggiungere questo obiettivo, i ricercatori si concentrano su Allineamento dell'IA – ovvero, come garantire che i modelli di intelligenza artificiale siano coerenti con i valori, le preferenze e gli obiettivi umani. Ma c’è un problema: la cosiddetta intelligenza artificiale “oscuro segreto”: i modelli su larga scala sono così complessi da essere come una scatola nera, impossibile da comprendere appieno per chiunque.
Il problema della scatola nera dell’intelligenza artificiale
Sebbene la trasparenza e la spiegabilità dei sistemi di intelligenza artificiale lo siano importanti obiettivi di ricerca, sembra improbabile che tali sforzi possano tenere il passo con il ritmo frenetico dell’innovazione.
La metafora della scatola nera spiega perché le convinzioni delle persone sull’intelligenza artificiale sono ovunque. Le previsioni spaziano dall’utopia all’estinzione, e molti credono addirittura che presto arriverà un’intelligenza artificiale generale (AGI). raggiungere la sensibilità.
Ma questa incertezza aggrava il problema. L’allineamento dell’intelligenza artificiale dovrebbe essere una strada a doppio senso: non dobbiamo solo garantire che i modelli di intelligenza artificiale siano coerenti con le intenzioni umane, ma anche che le nostre convinzioni sull’intelligenza artificiale siano accurate.
Questo perché siamo straordinariamente abili nel creare futuri che si accordino con quelle convinzioni, anche se non ne siamo consapevoli.
I cosiddetti "effetti di aspettativa", o profezie che si autoavverano, sono ben note in psicologia. E la ricerca ha dimostrato che la manipolazione delle convinzioni degli utenti non influenza solo il modo in cui le pensano interagire con l'intelligenza artificiale, ma come l'IA si adatta all'utente.
In altre parole, il modo in cui le nostre convinzioni (consce o inconsce) influenzano l’intelligenza artificiale può potenzialmente aumentare la probabilità di qualsiasi risultato, compresi quelli catastrofici.
AI, calcolo, logica e aritmetica
Dobbiamo sondare più a fondo per comprendere le basi dell’intelligenza artificiale: come Alice nel Paese delle Meraviglie, andiamo nella tana del coniglio e vediamo dove ci porta.
Innanzitutto, cos’è l’intelligenza artificiale? Funziona sui computer e così è il calcolo automatizzato. Dalla sua origine come “perceptron” – un neurone artificiale definito matematicamente nel 1943 dal neurofisiologo Warren McCulloch e logico Walter Pitt – L’intelligenza artificiale si è intrecciata con le scienze cognitive, le neuroscienze e l’informatica.
Questa convergenza di menti, mente ed macchine ha portato alla convinzione diffusa che, poiché l’intelligenza artificiale è un calcolo effettuato dalla macchina, allora l’intelligenza naturale (la mente) deve essere computata dal cervello.
Ma cos’è il calcolo? Alla fine del XIX secolo, i matematici Riccardo Dedekind ed Giuseppe Peano ha proposto una serie di assiomi che aritmetica definita in termini di logicae tentativi ispirati di fondare tutta la matematica su una base sicura base formale.
Sebbene il logico Kurt Godel in seguito ha dimostrato che questo obiettivo era irraggiungibile, il suo lavoro è stato il punto di partenza per il matematico (e decifratore di codici) Alan Turing. Il suo "Macchina di Turing”, un dispositivo astratto capace di calcolo universale, è il fondamento dell'informatica.
Struttura profonda della percezione
Quindi, il calcolo si basa su idee matematiche che risalgono agli sforzi per definire l’aritmetica nella logica. Ma la nostra conoscenza dell'aritmetica esiste prima della logica. Se vogliamo comprendere le basi dell’intelligenza artificiale, dobbiamo andare oltre e chiederci da dove provenga l’aritmetica stessa.
I miei colleghi ed io abbiamo recentemente dimostrato che l’aritmetica si basa sulla “struttura profonda"della percezione. Questa struttura è come vetri colorati che modellano la nostra percezione in modi particolari, in modo che la nostra esperienza del mondo sia ordinata e gestibile.
L'aritmetica consiste in un insieme di elementi (numeri) e operazioni (addizione, moltiplicazione) che combinano coppie di elementi per dare un altro elemento. Ci siamo chiesti: tra tutte le possibilità, perché i numeri sono gli elementi e l'addizione e la moltiplicazione le operazioni?
Abbiamo mostrato prova matematica che quando si presupponeva che la struttura profonda della percezione limitasse le possibilità, il risultato era l'aritmetica. In altre parole, quando la nostra mente vede il mondo astratto attraverso gli stessi “vetri colorati” che modellano la nostra esperienza del mondo fisico, “vede” i numeri e l’aritmetica.
Poiché l’aritmetica è il fondamento della matematica, l’implicazione è che la matematica sia un riflesso della mente – un’espressione in simboli della sua natura fondamentale e creatività.
Sebbene la struttura profonda della percezione sia condivisa con altri animali e quindi sia un prodotto dell'evoluzione, solo gli esseri umani hanno inventato la matematica. È la nostra creazione più intima e, consentendo lo sviluppo dell’intelligenza artificiale, forse la più consequenziale.
Una rivoluzione copernicana della mente
Il nostro resoconto di origine dell’aritmetica è coerente con le opinioni del filosofo del XVIII secolo Immanuel Kant. Secondo lui, la nostra conoscenza del mondo è strutturata da “pure intuizioni” di spazio e tempo che esistono prima dell’esperienza sensoriale – analogamente ai vetri colorati che non possiamo mai rimuovere.
Kant rivendicò la sua filosofia fu una “rivoluzione copernicana della mente”. Nello stesso modo in cui gli antichi astronomi credevano che il Sole girasse attorno alla Terra perché non erano consapevoli del movimento della Terra, sosteneva Kant, i filosofi che credevano che tutta la conoscenza derivasse da esperienza sensoriale (John Locke e David Hume, per esempio) hanno trascurato il modo in cui la mente modella la percezione.
Sebbene le opinioni di Kant siano state modellate da scienze naturali del suo tempo, hanno dimostrato influente nella psicologia contemporanea.
Il riconoscimento che l'aritmetica è a conseguenza naturale della nostra percezione, e quindi biologicamente basato, suggerisce un simile cambiamento kantiano nella nostra comprensione del calcolo.
Il calcolo non è “fuori” o separato da noi in un regno astratto di verità matematica, ma è inerente alla natura della nostra mente. La mente è più che un semplice calcolo; il cervello non è un computer. Piuttosto, il calcolo – la base dell’intelligenza artificiale – è, come la matematica, un’espressione simbolica della natura e della creatività della mente.
Fuoco prometeico
Quali sono le implicazioni per l’IA? Innanzitutto, l’intelligenza artificiale non è una mente e non diventerà mai senziente. L’idea che possiamo trascendere la nostra natura biologica e raggiungere l’immortalità caricando le nostre menti nel cloud è unica fantasia.
Tuttavia, se i principi mentali su cui si basa l’intelligenza artificiale fossero condivisi da tutta l’umanità (e probabilmente anche da altre creature viventi), potrebbe essere possibile trascendere i limiti delle nostre menti individuali.
Poiché il calcolo è universale, siamo liberi di simulare e creare qualsiasi risultato scegliamo nei nostri mondi fisici e virtuali sempre più connessi. In questo modo, l’intelligenza artificiale è davvero nostra Fuoco prometeico, un dono all'umanità rubato agli dei come in mitologia greca.
Come civiltà globale, siamo probabilmente a un punto di svolta. L’intelligenza artificiale non diventerà senziente e non deciderà di farlo ucciderci tutti. Ma siamo molto capaci di “apocalizzarci” con esso: l’aspettativa può creare la realtà.
Gli sforzi per garantire l’allineamento, la sicurezza e la protezione dell’IA sono di vitale importanza, ma potrebbero non essere sufficienti se manchiamo di consapevolezza e saggezza collettiva. Come Alice, dobbiamo svegliarci dal sogno e riconoscere la realtà e il potere della nostra mente.
Randolph Grazia, Professore di psicologia, Università di Canterbury
Questo articolo è ripubblicato da The Conversation sotto una licenza Creative Commons. Leggi il articolo originale.
