(R)evolution Interviste

Rivoluzione digitale tra enfasi e distopia

Corriamo verso una nuova società feudale, con pochi Signori che si affiancano allo Stato di diritto. Serve una più acuta capacità critica che costruisca una cittadinanza consapevole.

Intervista a Jean-Gabriel Ganascia

Presidente Comité d'éthique Centre national de la recherche scientifique, Université Pierre et Marie Curie

By Dicembre 2019Luglio 24th, 2020No Comments

Da settembre a dicembre 2019, l’Ambasciata di Francia in Italia e l’Institut français d’Italie hanno organizzato una serie di iniziative con l’obiettivo di rendere omaggio a Leonardo da Vinci. Abbiamo incontrato Jean-Gabriel Ganascia in occasione di un incontro a Palazzo Farnese dedicato all’intelligenza delle macchine. Con Ganascia, era anche Luisa Damiano, docente di filosofia all’università di Messina e autrice con Paul Dumouchel del libro Vivere con i robot, pubblicato da Raffaello Cortina. Dalla riflessione sulle inquietudini suscitate dagli interventi dei relatori, è nato questo dialogo che sintetizza alcuni dei temi discussi nell’approfondimento di Forward sulla “rivoluzione digitale”, che è portatrice di grandi opportunità e di rischi.

Si parla sempre di più di rivoluzione digitale, sebbene sembri piuttosto una rivoluzione dell’informazione: come possiamo sopravvivere al sovraccarico di informazioni da cui siamo raggiunti?
Potrebbero esserci molti termini diversi per caratterizzare la rivoluzione digitale: è contemporaneamente una rivoluzione tecnologica conseguente all’uso massiccio delle tecnologie dell’informazione e della comunicazione – la information and communication technology – ma anche una rivoluzione dei dati, causata da quello che la gente chiama “diluvio di dati”, vale a dire la generazione, l’archiviazione e lo sfruttamento con tecnologie di intelligenza artificiale di un’enorme mole di dati che non siamo stati in grado di produrre e gestire in passato, e infine una trasformazione della società. Per essere più precisi, dobbiamo dire che il concetto di “rivoluzione digitale” è apparso all’inizio del nuovo millennio, nel momento in cui la società intera si era ritrovata a essere totalmente mediata dal web e dall’uso dei social network. Questa è la dimensione sociale, che è essenziale. In questo senso, questa rivoluzione è posteriore allo sviluppo delle tecnologie dell’informazione e della comunicazione, che corrispondevano alla forte evoluzione dei computer e al loro uso quotidiano in molte nostre attività.

In questo contesto, una delle principali sfide da affrontare riguarda le nostre capacità cognitive, non sufficienti per interpretare le enormi quantità di informazioni che ci troviamo di fronte. Di conseguenza, la nostra comprensione è offuscata dai dati, il che è paradossale perché le informazioni dovrebbero informarci consentendoci una migliore comprensione. Per superare questa “informazione travolgente”, dobbiamo essere in grado di elaborare smisurate quantità di dati avvicinandoci a una comprensione del loro significato. Tra gli strumenti a disposizione, ci sono molte tecniche di intelligenza artificiale, ma non solo; ad esempio le tecniche di visualizzazione possono essere utili se utilizzate correttamente. Inoltre, alcune delle tecniche di intelligenza artificiale, nonostante siano molto efficienti, non forniscono una migliore comprensione; possono essere usate in qualche contesto, ma con cautela, perché a volte ci portano verso direzioni sbagliate. Questo è particolarmente vero con le tecniche di deep learning, che possono essere molto utili, ma anche fonte di problemi.

Perché ritiene così importanti le capacità di valutazione critica?
È sempre buona cosa sviluppare una capacità di valutazione critica, perché consente di comprendere meglio le situazioni, con acutezza e in modo nitido, e di conseguenza permette di adattare il nostro comportamento per renderlo più appropriato. Tuttavia, nella situazione attuale, è più cruciale che mai a causa delle incessanti sollecitazioni e del carico di informazioni che tende a confondere le nostre opinioni e a indurre degli automatismi nel nostro modo di ragionare. Uno degli atteggiamenti più pericolosi di oggi è certamente quello di reagire in maniera semplice e stereotipata a situazioni complesse, tenendo conto solo degli aspetti più superficiali dei problemi, senza indagare a fondo. Sfortunatamente, questo succede assai spesso. Per evitarlo, dobbiamo sviluppare capacità critiche per riuscire a distinguere ciò che merita di essere distinto e avvicinarci alla comprensione del mondo attuale che è così diverso dal precedente. In assenza, corriamo il rischio molto forte di agire in modo inappropriato.

“Per arginare la narrativa distopica sull’intelligenza artificiale è necessario distinguere il mito dal logos.”

Come spiega nel suo recente libro Le mythe de la Singularité1, siamo circondati da una prevalente narrativa distopica sulla trasformazione digitale. Come possiamo dare valore all’innovazione positiva introdotta dall’intelligenza artificiale?
Il concetto di “intelligenza artificiale” è confuso. Copre almeno tre cose.

  1. Una disciplina scientifica, che è stata fondata nel 1956 negli Stati Uniti d’America, con l’obiettivo di comprendere meglio cos’è l’intelligenza decomponendola in funzioni cognitive e simulandola con i computer.
  2. Le tecnologie basate sulla simulazione al computer di diverse funzioni cognitive, come percezione, ragionamento, traduzione, rappresentazione della conoscenza, apprendimento, ecc. Ad esempio, le tecnologie di riconoscimento facciale consentono di discernere i volti in modo più accurato rispetto agli umani. Questa tecnologia è nata dall’intelligenza artificiale, il cui obiettivo iniziale era quello di imitare le nostre capacità di riconoscere il nostro consimile. Tuttavia, oggi, il riconoscimento facciale può anche essere integrato in molti dispositivi, ad esempio per sbloccare il telefono, per garantire che le persone che desiderano accedere a un sito web siano autorizzate a farlo o a identificare le persone per strada.
  3. Il terzo significato, che è purtroppo il più popolare, si ricollega al significato letterale della parola: “intelligenza artificiale”. Corrisponderebbe a un’intelligenza costruita artificialmente, cioè dalle capacità umane. Molti temono questa eventualità perché immaginano che una tale intelligenza possa diventare autonoma per poi superare la nostra. Sotto questo aspetto la macchina potrebbe ribellarsi contro di noi, come esseri umani, e ridurre l’umanità alla schiavitù. Tale narrativa distopica è più immaginaria che reale, poiché l’idea dell’intelligenza artificiale non corrisponde né a una tecnologia efficiente e ben definita né a una scienza, ma solo a finzioni. Per essere chiari, le macchine non sono di per sé intelligenti; siamo noi, come umani, a proiettare su delle macchine funzioni cognitive umane, conoscenza e intelligenza. Senza di noi, eseguiranno solo sequenze insignificanti di operazioni elementari.

Di conseguenza, dobbiamo distinguere chiaramente questi tre livelli: il livello dell’immaginazione, che è classico nella fantascienza, ma non corrisponde a nulla di tangibile, il livello dell’indagine scientifica, che modella le diverse funzioni cognitive e si confronta il modello alla realtà e, infine, il livello delle tecnologie, utili nella società digitale, poiché molti dispositivi possono integrare la simulazione di diverse funzioni cognitive, per esempio il riconoscimento vocale per migliorare l’interazione uomo-computer o il ragionamento automatico per aiutare in modo efficiente il recupero informazioni in enormi basi di dati, ecc. Più in generale, è essenziale dissociare il “mito” e il “logos”, poiché la confusione può avere conseguenze tragiche.

L’idea emergente è che la proprietà è assoluta e che gli Stati stanno diventando superflui.

Ad ogni modo: parlando dei principali attori come Google, Amazon, Facebook nel suo libro ha citato una sorta di “società feudale” nella quale saremmo oggi immersi. Può spiegare questo concetto?
Dall’inizio dello Stato di diritto, lo Stato centrale e l’idea di sovranità nazionale regolano la politica, almeno nel mondo occidentale. Anche le regole internazionali si basavano su questa idea almeno negli ultimi due secoli e mezzo. Un assioma implicito ha dominato questa concezione: la co-estensione del territorio e dello Stato. Significava che, una volta definiti, i confini non solo delimitavano l’estensione dell’amministrazione statale, ma proibivano, almeno teoricamente, l’interferenza di altri Stati. Significava che nessuno Stato straniero doveva inviare informazioni o vendere beni a persone che vivevano in un territorio, senza il permesso dello Stato da cui dipendeva questo territorio. Sembra chiaro, con la rete, che i confini nazionali degli Stati democratici sono ora permeabili. È possibile inviare messaggi, acquistare beni, trasmettere informazioni, influenzare i cittadini da un altro territorio, che si trova al di fuori del campo di applicazione dello Stato e, di conseguenza, che non è sottoposto alla legislazione dello Stato. Ad esempio, esiste una forte regolamentazione sui giochi. Tuttavia, al giorno d’oggi, chiunque può giocare sul web, senza rispettare le proprie normative nazionali.

Ganascia Jean-Gabriel. Le mythe de la Singularité. Paris: Éditions du Seuil, 2018.

I giganti del web, che raccolgono enormi quantità di dati, ora stanno dominando gli Stati nazionali sotto molti aspetti. Riescono a sfuggire parzialmente alle leggi nazionali, ad esempio, non pagano sempre le tasse nazionali, più precisamente giocano con le leggi nazionali e le pagano negli Stati che riducono le imposte, come l’Irlanda nell’Unione europea. Propongono inoltre agli Stati di assumere, al loro posto, alcuni attributi di sovranità nazionale, ad esempio una prerogativa sovrana come la moneta (pensiamo ai bitcoin), sicurezza interna, giustizia, censura o altro. Oppure altri attributi come la salute, l’istruzione e potremmo continuare. L’ideologia dominante dei proprietari di queste aziende è il libertarianismo, che non è né il liberalismo né l’anarchia, ma l’idea che la proprietà è assoluta e che gli Stati stanno diventando superflui, poiché gli attori privati possono assumere tutte le funzioni che erano tradizionalmente attribuite allo Stato. Per la loro potenza, queste aziende influenzano già fortemente le istituzioni nazionali e internazionali, ad esempio la Commissione europea e il Parlamento europeo, che fornisce loro un forte potere a scapito degli Stati nazionali. Poiché nessuno di essi è totalmente dominante, è molto probabile che non si scontreranno per ottenere un potere assoluto, ma vorranno condividerlo, dominando ciascuna alcune regioni virtuali del mondo. In questo senso, il nuovo regime sarà una sorta di feudalesimo, inteso come un potere distribuito tra diversi attori e definito da una serie di reciproci obblighi legali e materiali tra le diverse entità, per esempio Stato nazionale, grandi società tecnologiche, organizzazioni non governative, Stati sovranazionali, regioni, e così via.

 

In una recente intervista, ha spiegato che esiste un’enorme differenza tra “essere popolare” e “avere qualità”. Come possiamo sovvertire questa equazione pericolosa?
Il mondo tradizionale era principalmente organizzato gerarchicamente e questa organizzazione era più o meno “aristocratica”, nel senso che esisteva una stratificazione sociale basata su qualità presunte o reali, vuoi personali, dovute ad azioni passate o ad attestati, vuoi ereditate. Oggi il mondo è orizzontale, nel senso che non esistono gerarchie reali tra gli umani. Ciò non significa che non vi siano relazioni di potere, ma che queste relazioni possono evolversi rapidamente con il tempo cambiando e ricostruendosi. Di conseguenza, le qualità personali dovute all’esperienza e alla competenza personale possono essere messe in discussione da chiunque. Pensiamo per esempio alle vaccinazioni o al cambiamento climatico: le persone più informate devono discutere con portavoce di organizzazioni che non propongono argomenti scientifici, ma solo punti di vista emotivi che soddisfano in modo più immediato le esigenze dei media.

È possibile sovvertire questa equazione pericolosa, dove i meno esperti hanno a loro disposizione i vantaggi sia della naturalezza sia della semplicità, che rivestono un’importanza cruciale sulla scena mediatica? Questa è una domanda aperta. Non ho una bacchetta magica per invertire la tendenza, ma penso che l’educazione e gli sforzi di spiegare le cose siano fondamentali. Gli scienziati devono spiegare senza stancarsi come sta cambiando il mondo, che non ci attende un destino inevitabile e che la cosa più importante è progettare collettivamente un futuro più desiderabile. Ciò che mi fa sperare è che, nonostante la tendenza generale a deprezzare sistematicamente le qualità umane, un numero sempre maggiore di persone capisce che la società sta cambiando e che dobbiamo ricostruirla su nuove basi.

Lascia un commento