Alle ore 12.00 di oggi, nell’Aula Giovanni Paolo II della Sala Stampa della Santa Sede, ha luogo una Conferenza Stampa di presentazione del Workshop e della Assemblea della Pontificia Accademia per la Vita sul tema The “good” Alghoritm? Artificial Intelligence: Ethics, Law, Health che ha luogo presso l’Aula Nuova del Sinodo in Vaticano il 26 e 27 febbraio 2020. Intervengono: S.E. Mons. Vincenzo Paglia, Presidente della Pontificia Accademia per la Vita; il Rev.do Padre Paolo Benanti, T.O.R., Accademico della Pontificia Accademia per la Vita; e la Prof.ssa Maria Chiara Carrozza, Professore Ordinario di Bioingegneria Industriale, Scuola Superiore Sant’Anna di Pisa. Ne riportiamo di seguito gli interventi:
Intervento di S.E. Mons. Vincenzo Paglia
Siamo in un tempo di cambiamento di epoca, come ama dire Papa Francesco. È un passaggio inedito che sta cambiando in profondità l’umanità e il suo futuro. Per la prima volta nella storia l’uomo ha il potere di distruggersi: prima con l’esplosione nucleare, dopo con quella ecologica ed ora con quella tecnologica, una «esplosione di intelligenza».
Papa Francesco, con la Lettera Humana Communitas, ha invitato la Pontificia Accademia per la Vita ad allargare i suoi orizzonti, a rivisitare il significato stesso del termine «vita umana»: non si tratta di un concetto astratto; la vita è la realtà di ogni singola persona e dell’intera famiglia umana. Papa Francesco chiede all’Accademia di «sviluppare la riflessione» sul versante «delle nuove tecnologie oggi definite emergenti e convergenti», come le tecnologie dell’informazione e della comunicazione, le biotecnologie, le nanotecnologie, la robotica. Con i risultati ottenuti dalla fisica, dalla genetica e dalle neuroscienze, come pure della capacità di calcolo di macchine sempre più potenti, è oggi possibile intervenire in profondità nell’umano. L’innovazione digitale infatti, tocca tutti gli aspetti della vita, sia quelli personali che sociali; incide sul nostro modo di comprendere non solo il mondo, ma anche noi stessi. Le decisioni, anche le più importanti come quelle in ambito medico, economico o sociale, sono oggi il frutto di volere umano e di una serie di contributi algoritmici. La vita umana viene a trovarsi al punto di convergenza tra l’apporto propriamente umano e il calcolo automatico, cosicché risulta sempre più complesso comprenderne l’oggetto, prevederne gli effetti, definirne le responsabilità.
L’Accademia si è inoltrata in questo campo, senza abbandonare i territori tradizionali come le questioni relative alla nascita (aborto, diagnosi prenatale…) e il fine vita (l’eutanasia, il suicidio assistito, le cure palliative), lo sviluppo delle cellule staminali. Nel 2017 è stato affrontato il tema della tutela e promozione della vita umana nell’era tecnologica e quindi nell’orizzonte della bioetica globale. L’anno scorso la riflessione si è diretta sulle questioni etiche poste dalla robotica (la cosiddetta “roboetica”) e quest’anno, in continuità, affronteremo il tema dell’etica e dell’intelligenza artificiale. In realtà siamo anche stati sollecitati o, se volete, invitati a trattare questi temi dai diretti interessati. È questo l’orizzonte nel quale si colloca questa Assemblea Generale e in particolare l’evento del 28 febbraio al termine del quale è prevista la firma di una Call che poi presenteremo a Papa Francesco.
C’è bisogno di una forte ambizione morale per umanizzare la tecnica e non tecnologizzare l’umano. La Rome Call for AI Ethics non è un testo ufficiale dell’Accademia ma un documento di impegni condiviso, da noi proposto, in cui, in forma breve e sintetica, si offrono alcune linee per un’etica dell’Intelligenza Artificiale e si formulano alcuni impegni, legati fondamentalmente a tre capitoli: etica, diritto, educazione. Con questo gesto, l’Accademia non avvia esclusivi partnership industriali, né sponsorizza alcunché, né viene sponsorizzata, ma condivide, senza ingenuità, tratti di cammino con quanti hanno un desiderio serio di comprendere meglio come promuovere il bene dell’umanità e di compiere alcuni passi in questa direzione, verificando le proprie pratiche e nella disponibilità a pagare anche i costi che ne possono derivare.
L’intento della Call è dar vita a un movimento che si allarghi e coinvolga altri soggetti: istituzioni pubbliche, ONG, industrie e gruppi per produrre un indirizzo nello sviluppo e nell’utilizzo delle tecnologie derivate dall’IA. Da questo punto di vista possiamo dire che la prima firma di questa call non è un punto di arrivo, ma un inizio per un impegno che appare ancora più urgente e importante di quanto fin qui fatto. Il documento sarà disponibile venerdì, dal momento della sua firma, sul sito dedicato www.romecall.org .
L’Accademia si sente chiamata ad approfondire l’impatto specifico che queste tecnologie hanno sul mondo medico sanitario e sulla cura e tutela della vita. L’attività umana in questi settori appare sempre più scomposto in molteplici elementi non facilmente riconducibili al controllo o alla volontà di singoli soggetti. Questa nuova modalità in cui si svolge l’agire personale in un contesto strutturato sfida particolarmente le professioni mediche e sanitarie che hanno come oggetto valori così fondamentali come quelli connessi alla corporeità e alla vita umane. L’innovazione tecnologica ci sfida come Accademia e come Chiesa, la PAV inizia così a prendere posizione e parte in un contesto storico e sociale in profonda e continua trasformazione.
*
Intervento del Rev.do Padre Paolo Benanti, T.O.R.
Oggi ci troviamo di fronte a una quarta rivoluzione industriale legata al diffondersi pervasivo di una nuova forma di tecnologia: l’intelligenza artificiale o AI. Come l’elettricità e l’elettronica, l’AI non serve per fare una cosa specifica; è destinata piuttosto a cambiare il modo con cui faremo tutte le cose. Come è possibile?
Negli ultimi anni, grazie a computer sempre più potenti, è stata generata una enorme capacità di calcolo, disponibile a prezzi sempre più bassi. Contemporaneamente abbiamo iniziato ad ammassare una quantità di dati che continua a crescere a ritmi vertiginosi: negli ultimi due anni è stato creato il 90% dei dati mai generati nell’intera storia dell’uomo. Questi due fattori hanno reso funzionanti alcune famiglie di algoritmi che danno luogo al complesso mondo delle AI – un mondo sul quale gli scienziati ragionavano, almeno in forma teorica, fin dagli anni Sessanta. Cosa cambierà tutto questo?
La prima e la seconda rivoluzione industriale (rispettivamente con carbone e vapore, e con elettricità e petrolio) ci hanno fornito forme di energia alternative ai muscoli; la terza ha prodotto macchine automatiche, stravolgendo il concetto di catena di montaggio e di operaio; quella che sta per verificarsi rischia di automatizzare non la forza, non il lavoro bensì la nostra cognizione. I sistemi di AI sono capaci di adattarsi e adeguarsi alle mutevoli condizioni in cui operano, simulando ciò che farebbe una persona. In altri termini, oggi la macchina può spesso surrogare l’uomo nel prendere decisioni e nel compiere delle scelte. Se le altre rivoluzioni industriali riguardavano i colletti blu, quella che sta avvenendo riguarda soprattutto i colletti bianchi. Le AI non porteranno all’apocalisse, ma possono portare alla fine della middle class.
Oggi algoritmi di machine learning e altre forme di AI riescono a fare diagnosi mediche con una percentuale di esattezza che in alcuni casi supera quella di un medico medio (almeno in alcune discipline o con alcune patologie); possono prevedere chi potrà ripagare un prestito in maniera molto più accurata di un direttore di banca; secondo alcuni sviluppatori, possono capire meglio di noi se esiste un’affinità affettiva con la persona che ci troviamo davanti. Le AI acquisiscono sempre più capacità predittiva. Tuttavia, di fronte a tali accuratezze, non godono di altrettanta capacità esplicativa: gli algoritmi più efficienti sono quelli che meno capiamo, rispetto ai quali siamo meno in grado di dire perché la macchina indica tale risultato. A questo livello si apre una grande questione. Nel momento in cui la macchina surroga l’uomo nel prendere decisioni, che tipo di certezze dovremmo avere per lasciare che sia la macchina a scegliere chi deve essere curato e come? In base a cosa dovremmo permettere a una macchina di designare chi di noi è degno di fiducia e chi no? E che fine fa l’amore, quella ricerca unica che ha mosso generazioni di donne e uomini prima di noi?
Se con un computer possiamo trasformare i problemi umani in statistiche, grafici ed equazioni, creiamo l’illusione che questi problemi siano risolvibili con i computer. Non è così. L’utilizzo dei computer e delle tecnologie informatiche nello sviluppo tecnologico di fatto mette in evidenza una sfida linguistica che avviene al confine tra uomo e macchina. Nel processo di interrogazione reciproca tra uomo e macchina sorgono proiezioni e scambi, finora impensati: la macchina si umanizza mentre l’uomo si macchinizza. Cosa vuol dire allora umanizzare la tecnica e non macchinizzare l’uomo?
Quando compie delle scelte, l’essere umano conosce una qualifica profonda e radicale delle sue azioni: il bene e il male. L’uomo scopre con la propria libertà un senso di responsabilità che la nostra tradizione occidentale ha chiamato etica. L’etica caratteristica squisitamente umana, ci rende unici e si fonda sui valori. Anche la macchina sceglie su dei valori – ma sono i valori numerici dei dati. Se vogliamo che la macchina sia di supporto all’uomo e al bene comune, senza mai sostituirsi all’essere umano, allora gli algoritmi devono includere valori etici e non solo numerici. In sostanza, abbiamo bisogno di poter indicare i valori etici attraverso i valori numerici che nutrono l’algoritmo. L’etica ha bisogno di contaminare l’informatica. Abbiamo bisogno di un’algor-etica, ovvero di un modo che renda computabili le valutazioni di bene e di male. Solo in questo modo potremo creare macchine che possono farsi strumenti di umanizzazione del mondo. Dobbiamo codificare principi e norme etiche in un linguaggio comprensibile e utilizzabile dalle macchine. Perché quella delle AI sia una rivoluzione che porta a un autentico sviluppo, è tempo di pensare un’algor-etica.
Il 28 febbraio la Roma Call segnerà un importante passo in questa direzione: due dei maggiori produttori di AI, IBM e Microsoft, con la Pontificia Accademia per la Vita firmeranno questo appello affinché alcuni principi etici siano presenti nei prodotti di AI che si sviluppano, vendono e implementano. La Call, una struttura aperta, vuole essere l’inizio di un movimento che porti insieme gli uomini di buona volontà a cooperare perché scelte etiche, paradigmi giuridici e adeguate azioni educative rendano la società civile capace di affrontare questa nuova stagione.
*
Intervento della Prof.ssa Maria Chiara Carrozza
L’Intelligenza Artificiale (IA) è una delle tecnologie abilitanti che caratterizzano la quarta rivoluzione industriale, ma la sua influenza andrà ben oltre il mondo della produzione di beni e della offerta di servizi, perché avrà un impatto sociale e culturale dirompente attraverso la pervasività con cui entrerà nel nostro futuro mutando il nostro rapporto con la società. La comprensione del fenomeno legato alla diffusione dell’IA diviene quindi fondamentale affinché si possa governare il cambiamento ad essa connesso ed orientarlo verso il bene comune, in uno scenario di riferimento geopolitico e istituzionale profondamente intrecciato con lo sviluppo ed il ‘possesso’ delle diverse tecnologie.
Uno degli ambiti di riferimento a maggior impatto per lo sviluppo dell’IA è senza dubbio la medicina a partire dalla cosiddetta ‘trasformazione digitale’ incentrata sull’utilizzo dei dati disponibili attraverso opportune infrastrutture. Il buon esito dell’utilizzo dell’IA nei molteplici campi in cui essa può trovare sviluppo passa certamente dalla capacità di selezionare efficacemente i dati che andranno ad alimentare l’algoritmo alla base del funzionamento dei meccanismi di IA. I dati possono essere generati da diverse fonti, in particolare: dagli esseri umani, dalle macchine, da organizzazioni o dal mix di questi attori. Le possibilità di ottenere dati stanno aumentando in maniera esponenziale grazie all’utilizzo di svariate tecnologie nel mondo della ‘Internet Of Things’.
Vi sono difatti numerosissime possibilità di impiegare algoritmi di IA nella medicina: dalla sperimentazione e ricerca traslazionale, alla medicina personalizzata, dalla diagnostica al rapporto medico-paziente, dalla tele-assistenza e tele-riabilitazione alla chirurgia robotica, dal virtual coaching alla predictive medicine, dal supporto fino al potenziamento funzionale del paziente mediante robotica e sensori indossabili o impiantabili nel corpo umano.
All’interno dei singoli ambiti di applicazione l’IA può assumere differenti ruoli che possono variare secondo il tipo di diagnosi da fare, la natura ospedaliera o territoriale della cura, il carattere acuto o cronico della patologia. Inoltre, a seconda del settore di applicazione i meccanismi di AI possono dare risultati più o meno attendibili, e devono quindi essere sottoposti a diverse forme di validazione a garanzia dei diritti del paziente. Il punto di forza della raccolta delle informazioni nei database è che, contenendo un gran numero di informazioni, è possibile cercare relazioni tra i vari set di dati per trovare correlazioni. Questo tipo di analisi ha un importante valore predittivo, il suo utilizzo in medicina può permettere di prevedere condizioni, situazioni e avvenimenti del futuro, con previsioni statistiche a livello di popolazione o anche in modo puntuale a livello di singolo individuo (la ‘medicina personalizzata’).
I dati rappresentano il flusso di carburante mediante il quale l’IA può consentire analisi e decisioni sempre più efficaci anche in clinica, ma è compito delle istituzioni garantire ai cittadini che i processi siano comunque fondati su metodologie basate sull’evidenza scientifica e sul rispetto dei principi etici. Si possono dunque individuare una serie di principi chiave di natura etica in grado di costituire una sorta di cornice all’applicazione dell’IA in medicina: – La medicina è una prerogativa umana; l’IA è uno strumento che può affiancare il professionista con maggiore o minore intensità a seconda dell’ambito coinvolto.
Occorre una riflessione sul rapporto medico-paziente perché l’IA non può rappresentare un elemento di possibile de-responsabilizzazione del medico.
– Un intervento umano significativo è comunque necessario anche perché le applicazioni della AI alla medicina, a differenza di quanto può essere talvolta percepito, non sono neutre. La programmazione della AI presuppone scelte discrezionali che possono avere conseguenze molto importanti anche in termini di salute e che dovrebbero essere fatte sulla base di un confronto interdisciplinare fra competenze diverse.
– È importante che la AI sia progettata in modo da rispondere a principi etici ben definiti che definiscano i contorni del rapporto fra paziente e tecnologia e fra paziente e medico, ispirandosi ad una strada già tracciata con il la legge sul ‘consenso informato’.
– Fondamentale è anche la necessità di una formazione specifica in ambito di IA, necessariamente interdisciplinare e continua, che accompagni dunque il professionista durante tutto il suo percorso e che sia in grado di seguire costantemente i mutamenti globali. L’applicazione della IA in ambito medico ha avuto delle ricadute anche in termini di scelte di mercato promuovendo diverse realtà di imprese che hanno portato dell’innovazione in campo healthcare. Per esempio, nel contesto europeo stanno emergendo le cosiddette ‘terapie digitali’ che dimostrano come sia possibile un buon utilizzo dell’IA somministrando terapie integrate che possono cambiare la vita e migliorare le condizioni anche in presenza di gravi malattie croniche, guidando i pazienti verso comportamenti ottimizzati a seconda delle loro condizioni fisiologiche e cognitive.
L’accesso alle terapie potrà avvenire attraverso opportune piattaforme che si presenteranno come applicazioni sugli smartphone. In questo scenario l’IA diventa uno strumento di sviluppo che deve garantire un utilizzo etico dei dati in una economia che tuteli il singolo individuo nella collettività, in relazione al giro di affari che si crea intorno al dato ed alle piattaforme che sfruttano gli algoritmi, e quindi l’etica dell’AI si confronta con il rispetto dei diritti fondamentali del paziente. Si tratta di un quadro in evoluzione dalle enormi potenzialità ma anche caratterizzato da grandi rischi di iniquità e sfruttamento, occorre cogliere la sfida di costituire un’etica della IA ispirandosi al principio universale di uguaglianza. La disponibilità di tecnologie per pochi non crea valore anzi al contrario genera disvalore e disuguaglianza. L’impegno è dunque quello di rendere queste tecnologie fruibili a tutti, a prescindere dalla provenienza geografica o dalle condizioni economiche di ciascuno. Per la pubblica amministrazione ed in generale per tutti gli stakeholders, i principi di uguaglianza e di equità dovrebbero essere le bussole per lo sviluppo dell’IA in medicina.
Vorrei concludere il mio intervento riprendendo le parole recentemente espresse Presidente della Commissione europea, Ursula von der Leyen, in occasione della presentazione della strategia digitale Ue: “Oggi stiamo presentando la nostra ambizione di modellare il futuro digitale dell’Europa. La strategia copre tutto, dalla sicurezza informatica alle infrastrutture critiche, dall’istruzione digitale alle competenze, dalla democrazia ai media. Voglio che l’Europa digitale rifletta il meglio dell’Europa: aperta, equa, diversificata, democratica e sicura di sé”. E anche io, come la Presidente (cito dal suo profilo twitter) “Sono un’ottimista della tecnologia. Credo nella tecnologia come in una forza per il bene” purché regolamentata e dotata di un apparato imprescindibile di valori etici.
