Di Nicolò de Trizio, Comitato di condotta Slow Food Bologna e medico

2020. Ho divorato recentemente un libro molto interessante,di cui consiglio vivamente la lettura: Il confine del futuro. Possiamo fidarci dell’intelligenza artificiale? di Francesca Rossi. Si tratta di una piccola opera divulgativa (non arriva a 120 pagine) di una valente scienziata italiana, ma assai poco conosciuta nel nostro Paese, il cui tema è lo stato dell’arte nel campo dell’intelligenza artificiale (I.A.).

Nonostante l’autrice sia una delle personalità più esperte nel campo ed i temi estremamente tecnici, la lettura è piacevole ed ha reso evidenti le capacità dell’autrice di presentare in modo elementare concetti che ai più potrebbero risultare indigesti. Ad esempio è estremamente divertente come l’autrice spiega cos’è un algoritmo equiparandolo ad una ricetta culinaria.

Sono consapevole dei forti pregiudizi e della diffidenza che mi porto addosso sull’argomento, frutto di ampia letteratura e cinematografia fantascientifica che mi ha seguito per tutta la vita, in cui si evocano i fantasmi di HAL 9000 o Terminator o anche solo i robot di Asimov. Il libro di Francesca Rossi serve a informarsi sull’effettivo stato delle conoscenze e dell’operatività dell’I.A. con occhio storico ed oggettivo.
Prima di tutto dal testo emerge che la tecnologia dell’I.A. è estremamente avanzata: i computer in questo campo hanno avuto negli ultimi decenni una crescita esponenziale nella velocità di elaborazione e nella capacità di memoria, sicchè ora le macchine hanno abilità molto superiori a quelle umane.

Come si fa a definire intelligente una macchina o un sistema tecnologico?

La risposta si fonda sul concetto di agente razionale, rappresentato da un sistema capace di raggiungere un obiettivo o risolvere un problema in maniera ottimale analizzando i dati e valutando l’impatto nel contesto in cui si opera: in pratica si tratta di una sorta di capacità di ragionamento logico. In passato una macchina dell’IBM riuscì a battere a scacchi Kasparov, campione mondiale dell’epoca. Oggi se noi digitiamo su un motore di ricerca una o più parole il sistema ci offre tutto lo scibile su quell’argomento; oppure se cerchiamo sul nostro navigatore satellitare una destinazione, lo stesso ci indica il percorso migliore e più veloce per raggiungerla; oppure possiamo ricevere un messaggio telefonico dalla nostra banca che ci avvisa di una transazione sospetta sulla nostra carta di credito perché il sistema di I.A. ha individuato con tempestività una possibile frode. In tutti questi casi i sistemi di I.A., sulla base di algoritmi preimpostati, sono in grado di risolvere in tempi brevissimi i problemi posti.

Su questo punto mi preme precisare che l’I.A. viene largamente utilizzata nel campo finanziario non solo per lo studio del profilo di ogni cliente, ma anche nell’ambito macroeconomico allo scopo di stimare l’andamento presente e futuro dei flussi finanziari, quindi sono indubbie le possibilità di condizionamento in questo campo.

Algoritmi che sbagliano

Gli algoritmi, però, non sono in grado di raggiungere sempre risultati soddisfacenti ed anzi, sovente sono fonte di errori. Sappiamo tutti che la consultazione di Dott. Google per ottenere una diagnosi della nostra malattia inserendo unicamente l’elenco dei nostri sintomi fornirà risultati scadenti, per l’elevata probabilità di errore diagnostico; questo è dovuto alla totale mancanza di esperienza del sistema di I.A. nel campo sanitario.
Da alcuni anni sono stati creati i cosiddetti machine learning in cui le macchine riescono a risolvere i problemi con grande accuratezza attingendo ad una grandissima quantità di esempi di soluzioni del medesimo problema; oserei definirla una specie di esperienza indotta. Grazie a questo metodo i sistemi di traduzione linguistica negli ultimi anni sono diventati molto più precisi, oltre che veloci. Anche per questi tipi di I.A. ci sono possibilità di errore, ma l’evoluzione tecnologica consentirà di ridurre progressivamente i margini di inesattezza.

Il tema etico dell’I.A.

La parte più interessante di questo libro è nelle pagine finali, in cui si affrontano i temi etici legati all’utilizzo dell’I.A. Infatti, per poterci fidare realmente della I.A. dobbiamo avere la certezza che essa persegua i nostri stessi valori morali.
Nelle odierne applicazioni pratiche non siamo sicuri che la gestione dei dati personali sia esente da utilizzi impropri, anzi negli ultimi anni le notizie in tal senso ci forniscono dati preoccupanti. Le problematiche etiche sono emergenti pure in altre applicazioni della I.A, da quelle nel mondo del lavoro a quelle relative agli armamenti ed ai mezzi militari. Inoltre l’avanzamento progressivo della tecnologia in questo settore fa sorgere il sospetto che in futuro una Super I.A. potrebbe avere la capacità di autoapprendere e superare la capacità umana di ragionare e risolvere problemi; pertanto si aprono scenari inquietanti nei quali potremmo non essere in grado di controllare un’entità più intelligente di noi.

In effetti devo ammettere che, pur nella mia esperienza molto limitata di cittadino e lavoratore, ho sperimentato situazioni, per certi versi angoscianti, in cui ho avuto la sensazione di un non perfetto controllo da parte degli operatori di sistemi che utilizzano metodologie di I.A. oppure condizioni in cui gli operatori di sistema devono adottare strategie al limite delle regole per poter continuare a operare in ambienti condizionati dai rigidi sistemi tecnologici.