L’intelligenza artificiale (Ia) potrebbe fornire soluzioni ad alcuni dei problemi più pressanti della medicina e dei servizi sanitari. L’uso di modelli sempre più sofisticati promette di accelerare la ricerca biomedica, potenziare i nostri mezzi diagnostici e rendere più equo l’accesso alle cure, riducendo al contempo i costi e, teoricamente, lasciando più spazio alla comunicazione e al contatto umano con i pazienti.
La crescente capacità di dirimere la complessità dell’immensa mole di dati a nostra disposizione porta con sé molte speranze, soprattutto in un periodo storico caratterizzato da problemi sanitari così sistemici da apparire irrisolvibili. Tuttavia, questo positivismo tecnologico che permea le conversazioni sull’Ia rischia di nascondere le sfumature di una realtà ben più complessa. Se vogliamo cogliere appieno il potenziale di questa innovazione, è necessario abbandonare la narrazione della “salvezza tecnologica” e abbracciare lo spazio dell’incertezza, analizzando come questi strumenti impatteranno realmente sul futuro della sanità.
È necessario abbandonare la narrazione della “salvezza tecnologica” e abbracciare lo spazio dell’incertezza.
Innanzitutto, è bene ricordare che le fondamenta su cui poggia questa innovazione sono meno solide di quanto appaiano. L’Ia non è magia, ma statistica e informatica applicate a enormi dataset, e se i dati sanitari storici contengono pregiudizi o non sono sufficientemente integrati il risultato non potrà che essere viziato. I bias presenti nei dati di addestramento rischiano di essere non solo replicati, ma amplificati e automatizzati dagli algoritmi, creando nuove forme di disuguaglianze sotto una patina di oggettività matematica. Inoltre, calare questi strumenti avanzati in contesti ospedalieri e di sanità territoriale, caratterizzati da una digitalizzazione frammentata e processi spesso non sufficientemente integrati, potrebbe non portare alla semplificazione sperata, ma aggiungere un ulteriore strato di complessità, trasformando l’innovazione in una nuova incombenza mal integrata e in un ulteriore peso per i professionisti sanitari.
Anche la narrazione che vede l’Ia come liberatrice del tempo medico va maneggiata con cura. Esiste il rischio concreto di un progressivo deskilling del personale sanitario: affidarsi eccessivamente al supporto decisionale delle macchine potrebbe, nel lungo termine, deteriorare le competenze cliniche e il pensiero critico che nascono dall’esperienza diretta e dalla gestione dell’incertezza. Invece di rafforzare il medico, la tecnologia potrebbe renderlo dipendente, inserendosi in processi di cura dove la comunicazione e l’empatia rischiano di essere mediate o ostacolate da interfacce digitali. Abbiamo già visto come gli algoritmi dei social media abbiano agito da motori e amplificatori di disinformazione, erodendo la fiducia tra cittadini e istituzioni sanitarie. Similmente, i modelli linguistici (large language model, Llm) stanno diventando di uso comune tra i pazienti, inserendosi di fatto già nella comunicazione sanitaria, e in un contesto segnato da disuguaglianze socioeconomiche e scarsa alfabetizzazione digitale, specialmente tra gli anziani, l’introduzione acritica di nuovi strumenti tecnologici potrebbe allargare il divario, invece di colmarlo.
Il rischio concreto è che la ricerca di domani si trovi a navigare in un mare di contenuti sintetici dove la verità scientifica diventa più difficile da isolare.
Nel campo della ricerca scientifica, il contributo dell’Ia si sta rivelando un’arma a doppio taglio. Se da un lato gli Llm sono assistenti validissimi in tante applicazioni, dalla ricerca bibliografica all’estrazione di dati, dall’altro stanno accelerando la sovrapproduzione di letteratura scientifica di valore talvolta discutibile. L’inflazione di pubblicazioni mette a dura prova la tenuta del sistema della peer review, un meccanismo di controllo ormai scricchiolante e che fatica sempre più a filtrare l’innovazione reale dal rumore di fondo. Si evidenzia anche l’uso dell’Ia come mezzo di screening e di review delle pubblicazioni, una pratica che non risolve i problemi sottostanti e che mina ulteriormente la fiducia tra ricercatori, che è alla base dell’intero sistema della peer review. Il caso di vari paper sottoposti con prompt nascosti nel testo, per spingere un revisore Ia a dare una valutazione positiva, è emblematico dell’erosione di questa fiducia. Il rischio concreto è che la ricerca di domani si trovi a navigare in un mare di contenuti sintetici dove la verità scientifica diventa più difficile da isolare, minando alla base la stessa evoluzione della conoscenza medica.
Non c’è alcuna garanzia che l’Ia ci conduca verso un futuro radioso.
Non c’è alcuna garanzia che l’Ia ci conduca verso un futuro radioso. Questa incertezza non è un difetto del sistema, ma la caratteristica intrinseca di ogni grande cambiamento che ci chiama a una responsabilità diretta. Riconoscere che le soluzioni tecnologiche possono essere parziali e che è necessario istruire, comunicare e costruire fiducia per assicurare un’implementazione positiva è il presupposto necessario per governare la tecnologia anziché subirla. L’innovazione poggia sempre sull’uso che se ne fa: l’Ia avrà un impatto positivo solo se saremo disposti a compiere uno sforzo che non è tecnologico, ma etico, politico e profondamente umano. Ci viene richiesto di trasformare l’incertezza del domani non in paura, ma in un progetto consapevole, dove la tecnologia rimane uno strumento al servizio di una cura più giusta e attenta.
L’Ia avrà un impatto positivo solo se saremo disposti a compiere uno sforzo che non è tecnologico, ma etico, politico e profondamente umano.
Vedi anche
Oltre l’algoritmo: il domani della cura
Nel 2023, quando pubblicammo il numero dedicato a ChatGPT, l’Organizzazione mondiale della sanità guardava con un misto di “ottimismo e cautela” allo straordinario progresso dell’intelligenza artificiale applicata alla salute globale. Nel riflettere sul potenziale dei grandi modelli linguistici, Sameer Pujari e colleghi ricordavano che, “affinché l’impatto sia positivo, è necessario porre i diritti dei cittadini, l’equità e la trasparenza al centro della progettazione tecnologica” [1]. Non è solo una questione di efficienza tecnica, ma di governance: “La velocità di applicazione è maggiore della capacità regolatoria e di valutazione della maggior parte delle agenzie incaricate di tutelare la salute pubblica e di fornire una supervisione delle tecnologie applicate alla salute e al benessere”.
Questa necessità di una guida non riguarda però solo la gestione dei processi, ma tocca l’essenza stessa della pratica clinica. Luciano Floridi sottolineava – in un’intervista di alcuni anni prima, pubblicata sul numero di Forward dedicato proprio all’intelligenza artificiale – che “la dignità umana, fondamento della dichiarazione dei diritti universali dell’uomo, è e resta il punto centrale di tutta l’etica medica, tanto più in un contesto in cui i dati possono essere molto sensibili e l’individuo tipizzato, trasformato in un numero. Noi abbiamo l’opportunità, oggi, di fare ciò che la medicina ha sempre voluto fare: ‘sartorializzare’ la cura sull’individuo” [2].
Nel solco di questa responsabilità si inserisce il dibattito emerso durante la seconda riunione annuale 4words 2018 dedicata, tra le altre parole chiave, all’intelligenza artificiale. Ziad Obermeyer, portando ad esempio alcuni casi osservati in pronto soccorso, evidenziava come l’intelligenza artificiale possa essere d’aiuto per superare i limiti cognitivi della mente umana nelle scelte cliniche difficili – grazie al potere predittivo del machine learning. Mentre, Federico Cabitza metteva in guardia dal proiettare aspettative e abilità su sistemi che di fatto non sono intelligenti ma semplicemente in grado di leggere i dati che generano. La tecnologia, infatti, “dovrebbe farci vedere più lontano e più in profondità, ma lasciare a noi l’interpretazione di cosa vediamo” [3].
D’altronde, come sottolineava Carlo Alberto Avizzano, sempre nell’approfondimento “Intelligenza artificiale”, dietro ogni robot c’è sempre l’uomo che lo programma e ne detta regole e limiti. Il robot non è un pericolo autonomo, ma uno strumento che riflette le scelte economiche e politiche della società che lo accoglie [4]. In definitiva, la sfida non è tra l’uomo e la macchina, ma tra la consapevolezza e la distrazione prodotta dall’hype tecnologico. Douglas Rushkoff, in una sua riflessione pubblicata nel numero “ChatGPT”, invitava a superare il binomio tra panico e ottimismo acritico: “Invece di farci prendere dal panico per le macchine pensanti, dovremmo iniziare a pensare in modo intelligente a quali valori umani vorremmo fossero amplificati dalla tecnologia – e poi iniziare a perseguirli, insieme” [5]. In questo equilibrio tra entusiasmo e pragmatismo torna attuale la riflessione di Kathrin Cresswell, pubblicata nel dicembre 2019 sul numero “(R)evolution”, che ci ricorda come la trasformazione digitale non sia un’avventura lineare: “Sono molti i bisogni primari che potrebbero meritare delle risorse, ma questi non ricevono dalla politica gli stessi onori: per esempio in molte realtà del National health service si usano ancora i fax, tuttavia questi non sembrano essere così seducenti come i nuovi robot basati sull’intelligenza artificiale che forniscono assistenza” [6].
Bibliografia
[1] Pujari S, Reis A, Zhao Y, et al. Intelligenza artificiale e la salute globale: ottimismo e cautela. Recenti Prog Med 2023;Suppl Forward30;S15-6.
[2] Floridi L. Mandare il futuro nella giusta direzione. Recenti Prog Med 2018;Suppl Forward8:S8-S9.
[3] Intelligenza artificiale. Recenti Prog Med 2018;109:16-9. Disponibile su: https://forward.recentiprogressi.it/it/convegni/4words-2018/intelligenza-artificiale/
[4] Avizzano CA. Non saranno i robot intelligenti a decidere il nostro futuro. Recenti Prog Med 2018;Suppl Forward8:S15-6.
[5] Rushkoff D. AI panic = AI hype. Recenti Prog Med 2023;Suppl Forward30;S14.
[6] Cresswell K. Trasformazione digitale: non sarà un’avventura. Recenti Prog Med 2020;Suppl Forward16;S29.
© 