Intelligenza artificiale è un’espressione che fu scelta con la spavalda incoscienza tipica di quei ragazzi che, nel seguire la propria stella, non si curano troppo delle conseguenze delle loro esplorazioni. Intelligenza artificiale fu infatti l’etichetta che un gruppo di giovani e brillanti ricercatori (molti dei quali non ancora trentenni) scelsero, in un’estate del 1956, per denotare evocativamente gli interessi che li appassionavano e organizzare intorno a essi una nuova comunità scientifica, tesa a capire come l’attività della mente potesse essere descritta in maniera logico-formale, e quindi simulata da programmi eseguibili da una macchina.
La scelta di giustapporre questi due concetti – intelligenza e artificialità – spiega in larga parte la presa di questa espressione sul grande pubblico, ma anche molti dei fraintendimenti che essa può ingenerare. È storia poco nota che quello stesso gruppo di ricercatori considerò anche un nome alternativo per la sua disciplina: “machine intelligence”, intelligenza delle macchine. Per almeno un motivo questa espressione sarebbe stata migliore: essa non ispira, infatti, l’idea che macchine e uomini debbano competere tra loro, come copia e modello fanno in chi li confronta per capire quanto una si avvicina al secondo, oppure maestro e allievo, per capire se il secondo abbia superato in abilità e destrezza il primo.
Intelligenza delle macchine: se citiamo l’intelligenza dei gatti o l’intelligenza dei cani, ci riferiamo a un insieme di comportamenti che reputeremmo scorretto giudicare sulla base di un metro umano. Gatto e cane esibiscono intelligenze che non fatichiamo ad ammirare per come li rendono adatti al proprio ambiente, capaci di evitare i pericoli, procurarsi da vivere e stringere rapporti complessi con i propri simili e con noi. Allo stesso modo, una macchina può sorprenderci per la sua organizzazione e autonomia nell’esprimere una funzione complessa. Al contrario, quando ci riferiamo all’erba o alla luce artificiale siamo portati a immaginare qualcosa che può sostituire la versione “naturale” simulandone le caratteristiche più utili per un determinato scopo.
La colonizzazione dell’immaginario
La contrapposizione tra “umano” e “fatto dall’uomo”, tra naturale e artificiale, e il confronto competitivo tra questi due tipi di intelligenza non è solo un fenomeno di costume utilizzato da giornalisti e saggisti per intrigare il grande pubblico, o una strategia commerciale con cui le aziende produttrici di sistemi di intelligenza artificiale promuovono le proprie capacità di sviluppo (si pensi al battage pubblicitario di “imprese” quali quelle del computer Deep Blue dell’Ibm contro il campione di scacchi Garry Kasparov; del sistema Watson, sempre dell’Ibm, contro i campioni di Jeopardy! Ken Jennings e Brad Rutter; o del sistema AlphaGo, sviluppato da Google DeepMind, contro i campioni del mondo di go, Lee Sedol e KeJie). Siamo invece di fronte a quello che non esito a definire un processo di progressiva “colonizzazione dell’immaginario”, al cui interno diviene naturale confrontare esseri umani e sistemi di intelligenza artificiale sul piano della performance – secondo metriche che non sarebbero neppure concepibili se non fossero state istituzionalizzate negli ultimi cent’anni dalla speculazione intellettuale taylorista. È quindi divenuto usuale osservare come l’intelligenza artificiale sia raccontata persino negli articoli scientifici come “qualcosa” in grado di superare (outperform) le abilità diagnostiche di patologi, radiologi, oncologi e cardiologi. Di converso, quanti studi scientifici apparsi negli ultimi anni sulle riviste di medicina, più prestigiose e influenti, confrontano la performance di un gruppo di medici che utilizza un sistema di intelligenza artificiale con quella di un gruppo di medici similmente assortito che non adotta un tale sistema, con lo scopo di valutare il numero di prestazioni svolte, gli esiti clinici e la soddisfazione degli utenti coinvolti? Molto pochi, finora.
Inserita in reti di attori e pratiche umane, l’intelligenza artificiale le influenza e riconfigura.
Punti di vista diversi
La visione oggettivista dell’intelligenza artificiale, che la considera come qualcosa dotato di capacità autonoma e contrapposta a quella umana, si impone concretamente nell’immaginario collettivo, sebbene le aziende produttrici cerchino talora di presidiare anche immagini meno conflittuali, proponendo l’idea di “augmentazione” (amplificazione) delle capacità umane, in una riedizione surrettizia della cosiddetta “medicina eroica”. A tale visione, a mio parere va contrapposta una visione alternativa che cerchi di decolonizzare la nostra cultura da immagini competitive (addirittura sostitutive) e oggettiviste dell’intelligenza artificiale, per presentarla invece come elemento che, inserito in reti preesistenti di attori e pratiche umane, le influenza e riconfigura in vista di nuovi obiettivi e priorità. In tale visione, intelligenza artificiale è una semplice etichetta, che può denotare non tanto il sogno di accendere la scintilla dell’umano nell’inanimato quanto, più prosaicamente ma a mio parere più fedelmente, l’Automazione di compiti Intelligenti (per mantenere l’acronimo AI, Artificial Intelligence), cioè l’esecuzione da parte di macchine (robot o programmi software) di compiti che, se svolti da un essere umano, penseremmo gli richiedano un certo grado di competenza, esperienza e intelligenza. Interpretare l’intelligenza artificiale come automazione la riconduce a un terreno meno visionario ma più frequentato da esseri umani reali, persone impegnate nel loro lavoro, un luogo dove ha senso chiedersi: automazione di cosa? Automazione per quale motivo? Automazione nell’interesse di chi?
A differenza di chi trova affinità tra l’amplificazione sensoriale, che certe tecnologie (quali microscopi, stetoscopi ed elettrocardiografi) hanno garantito al medico, e l’amplificazione cognitiva, che l’intelligenza artificiale potrebbe fornire in futuro, mi sento di escludere che l’automazione di compiti cognitivi corrisponda a una amplificazione cognitiva. Mentre lo stetoscopio amplifica il suono del cuore e la radiografia amplifica (nel senso di renderlo visibile) un segnale elettromagnetico che attraversa un corpo per porre dinnanzi al medico un segno clinico nuovo dove c’è un elemento radio-opaco, il computer “intelligente” potrebbe piuttosto divenire la “protesi” che porta all’indebolimento della funzione organica originaria, che è cognitiva e interpretativa nel caso dell’intelligenza artificiale, presentando risposte già pronte a domande predefinite o, peggio, nascondendo bias cognitivi e algoritmici nell’oggettività del numero e delle alternative categoriche.
L’intelligenza artificiale ha bisogno di dati validati e interpretati. Da persone.
Maneggiare con cura
Molti commentatori illustrano un futuro in cui macchine intelligenti potranno sollevare i medici da compiti routinari così da lasciare loro più tempo per il rapporto con il paziente. Storicamente però, l’automazione è stata sempre volta ad un “efficientamento” degli ambienti produttivi laddove la volontà di introdurla e la perseveranza di diffonderla si sono affermate. Se è vero che viviamo in un periodo di graduale riduzione della forza lavoro medica e al tempo stesso di inesorabile aumento delle prestazioni richieste, l’automazione può essere una risposta ovvia a questo stato di cose che sarebbe vano contrastare. Sarebbe però ingenuo pensare che l’automazione, per dispiegare il suo ruolo produttivo, non richiederà sempre più dati che, se anche il medico non dovesse più aver l’onere di inserire, qualcuno dovrà pur validare e interpretare. Parimenti, sarebbe ingenuo pensare che affiancare al medico un “oracolo digitale” in grado di dare la risposta corretta in 19 casi su 20 non condizionerà il modo in cui gli specializzandi e i giovani medici apprenderanno gli elementi più taciti della loro pratica professionale (il saper fare), o la fiducia nella propria intuizione o caparbietà, o la capacità di riprendere il timone quando il “pilota automatico” si spegne – ad esempio perché manca la corrente oppure cade la rete di comunicazione dati – o la capacità di decifrare l’essere umano al cui capezzale i medici sono accorsi.
Ogni tecnologia che gli si metta tra le mani e che il medico decide di impiegare non dovrà mai distrarlo dalla sua missione principale: non nuocere a chi cerca il suo aiuto.
Condivido quindi gli appelli alla comunità medica a rendersi protagonista nel processo di trasformazione della propria professione che sollecita la nuova disponibilità alluvionale di dati sui e “dai” loro pazienti. Farlo è vitale, non tanto per governare o legittimare un processo di innovazione inevitabile, quanto piuttosto per difendere l’irriducibilità della condizione di bisogno di un malato alla dimensione codificata o quantitativa del dato e alla dimensione deterministica e predeterminata dell’algoritmo. Medico è un termine dall’origine antica la cui radice indica tanto colui che misura attentamente, quanto colui che pondera ciò che vede e medita sulle conseguenze delle proprie azioni. Ogni tecnologia che gli si metta tra le mani e che il medico decide di impiegare non dovrà mai distrarlo dalla sua missione principale: non nuocere a chi cerca il suo aiuto perché malato e, nel dare il suo aiuto, attenersi alla propria scienza e coscienza.
© 