In che modo l'intelligenza artificiale ha il potenziale per rivoluzionare l'assistenza sanitaria
Getty Images

L'Intelligenza Artificiale (AI) si sta muovendo rapidamente e diventerà un importante strumento di supporto nell'assistenza clinica. La ricerca suggerisce che gli algoritmi di intelligenza artificiale possono essere precisi individuare i melanomi ed prevedere futuri tumori al seno.

Ma prima che l'intelligenza artificiale possa essere integrata nell'uso clinico di routine, dobbiamo affrontare la sfida del bias algoritmico. Gli algoritmi di intelligenza artificiale possono avere pregiudizi intrinseci che potrebbero portare a discriminazioni e problemi di privacy. I sistemi di intelligenza artificiale potrebbero anche prendere decisioni senza la necessaria supervisione o input umano.

 Un esempio degli effetti potenzialmente dannosi dell'IA viene da an progetto internazionale che mira a utilizzare l'intelligenza artificiale per salvare vite umane sviluppando trattamenti medici innovativi. In un esperimento, il team ha invertito il proprio modello di intelligenza artificiale "buono" per creare opzioni per un nuovo modello di intelligenza artificiale per fare "danni".

In meno di sei ore di addestramento, l'algoritmo di intelligenza artificiale invertita ha generato decine di migliaia di potenziali agenti di guerra chimica, molti dei quali più pericolosi degli attuali agenti di guerra. Questo è un esempio estremo riguardante i composti chimici, ma serve come campanello d'allarme per valutare le conseguenze etiche note e plausibilmente inconoscibili dell'IA.

AI nella cura clinica

In medicina, abbiamo a che fare con i dati più privati ​​delle persone e spesso con decisioni che cambiano la vita. Solidi quadri etici per l'IA sono imperativi.

Le Progetto australiano sull'epilessia mira a migliorare la vita delle persone e a rendere più ampiamente disponibili le cure cliniche. Sulla base dell'imaging cerebrale avanzato, delle informazioni genetiche e cognitive di migliaia di persone con epilessia, prevediamo di utilizzare l'IA per rispondere a domande attualmente senza risposta.


innerself iscriviti alla grafica


Le convulsioni di questa persona continueranno? Quale medicina è più efficace? La chirurgia cerebrale è un'opzione terapeutica praticabile? Queste sono domande fondamentali che la medicina moderna fatica ad affrontare.

In qualità di responsabile dell'IA di questo progetto, la mia preoccupazione principale è che l'IA si stia muovendo rapidamente e che la supervisione normativa sia minima. Questi problemi sono il motivo per cui abbiamo recentemente istituito un quadro etico per l'utilizzo dell'IA come strumento di supporto clinico. Questo quadro intende garantire che le nostre tecnologie di intelligenza artificiale siano aperte, sicure e affidabili, promuovendo al contempo l'inclusività e l'equità nell'assistenza clinica.

Quindi, come implementiamo l'etica dell'IA in medicina per ridurre i pregiudizi e mantenere il controllo sugli algoritmi? Il principio dell'informatica "spazzatura dentro, spazzatura fuori" si applica all'IA. Supponiamo di raccogliere dati distorti da piccoli campioni. I nostri algoritmi di intelligenza artificiale saranno probabilmente distorti e non replicabili in un altro contesto clinico.

Esempi di pregiudizi non sono difficili da trovare nei modelli di intelligenza artificiale contemporanei. I popolari modelli di linguaggi di grandi dimensioni (ChatGPT ad esempio) e i modelli di diffusione latente (DALL-E e Stable Diffusion) mostrano come pregiudizi espliciti riguardo al genere, all'etnia e allo stato socioeconomico possono verificarsi.

I ricercatori hanno scoperto che i semplici suggerimenti dell'utente generano immagini che perpetuano stereotipi etnici, di genere e di classe. Ad esempio, una richiesta per un medico genera principalmente immagini di medici uomini, il che è incoerente con la realtà poiché circa la metà di tutti i medici nei paesi OCSE sono donne.

Implementazione sicura dell'IA medica

La soluzione per prevenire pregiudizi e discriminazioni non è banale. Consentire l'uguaglianza della salute e promuovere l'inclusività negli studi clinici sono probabilmente tra i soluzioni primarie alla lotta contro i pregiudizi nell'IA medica.

In modo incoraggiante, la Food and Drug Administration degli Stati Uniti ha recentemente proposto rendere obbligatoria la diversità negli studi clinici. Questa proposta rappresenta un passo verso studi clinici meno distorti e basati sulla comunità.

Un altro ostacolo al progresso è il limitato finanziamento della ricerca. Gli algoritmi AI in genere richiedono notevoli quantità di dati, che possono essere costosi. È fondamentale stabilire meccanismi di finanziamento potenziati che forniscano ai ricercatori le risorse necessarie per raccogliere dati clinicamente rilevanti appropriati per le applicazioni di intelligenza artificiale.

Sosteniamo inoltre che dovremmo sempre conoscere il funzionamento interno degli algoritmi di intelligenza artificiale e capire come giungono alle loro conclusioni e raccomandazioni. Questo concetto viene spesso definito "spiegabilità" nell'IA. Si riferisce all'idea che gli esseri umani e le macchine debbano lavorare insieme per ottenere risultati ottimali.

Preferiamo vedere l'implementazione della previsione nei modelli come intelligenza "aumentata" piuttosto che "artificiale": gli algoritmi dovrebbero far parte del processo e le professioni mediche devono mantenere il controllo del processo decisionale.

Oltre a incoraggiare l'uso di algoritmi spiegabili, sosteniamo la trasparenza e la scienza aperta. Gli scienziati dovrebbero pubblicare i dettagli dei modelli di intelligenza artificiale e la loro metodologia per migliorare la trasparenza e la riproducibilità.

Di cosa abbiamo bisogno ad Aotearoa in Nuova Zelanda per garantire l'implementazione sicura dell'IA nelle cure mediche? Le preoccupazioni sull'etica dell'IA sono guidate principalmente da esperti del settore. Tuttavia, le normative AI mirate, come quelle basate sull'UE Legge sull'intelligenza artificiale sono state proposte, affrontando queste considerazioni etiche.

La legge europea sull'IA è accolta con favore e proteggerà le persone che lavorano all'interno di "IA sicura". Il governo del Regno Unito ha recentemente rilasciato il loro approccio proattivo alla regolamentazione dell'IA, che funge da modello per altre risposte del governo alla sicurezza dell'IA.

In Aotearoa, sosteniamo l'adozione di una posizione proattiva piuttosto che reattiva nei confronti della sicurezza dell'IA. Stabilirà un quadro etico per l'utilizzo dell'IA nell'assistenza clinica e in altri campi, producendo un'IA interpretabile, sicura e imparziale. Di conseguenza, la nostra fiducia aumenterà nel fatto che questa potente tecnologia avvantaggia la società salvaguardandola dai danni.The Conversation

Circa l'autore

Mangor Pedersen, Professore Associato di Psicologia e Neuroscienze, Auckland University of Technology

Questo articolo è ripubblicato da The Conversation sotto una licenza Creative Commons. Leggi il articolo originale.

Libri correlati:

Il corpo tiene il punteggio: cervello mente e corpo nella guarigione del trauma

di Bessel van der Kolk

Questo libro esplora le connessioni tra trauma e salute fisica e mentale, offrendo spunti e strategie per la guarigione e il recupero.

Clicca per maggiori informazioni o per ordinare

Respiro: la nuova scienza di un'arte perduta

di Giacomo Nestore

Questo libro esplora la scienza e la pratica della respirazione, offrendo approfondimenti e tecniche per migliorare la salute fisica e mentale.

Clicca per maggiori informazioni o per ordinare

Il paradosso delle piante: i pericoli nascosti negli alimenti "sani" che causano malattie e aumento di peso

di Steven R. Gundry

Questo libro esplora i collegamenti tra dieta, salute e malattia, offrendo spunti e strategie per migliorare la salute e il benessere generale.

Clicca per maggiori informazioni o per ordinare

Il codice di immunità: il nuovo paradigma per la salute reale e l'antietà radicale

di Joel Green

Questo libro offre una nuova prospettiva sulla salute e l'immunità, attingendo ai principi dell'epigenetica e offrendo intuizioni e strategie per ottimizzare la salute e l'invecchiamento.

Clicca per maggiori informazioni o per ordinare

La guida completa al digiuno: guarisci il tuo corpo attraverso il digiuno intermittente, a giorni alterni e prolungato

del dottor Jason Fung e Jimmy Moore

Questo libro esplora la scienza e la pratica del digiuno offrendo spunti e strategie per migliorare la salute e il benessere generale.

Clicca per maggiori informazioni o per ordinare

che