Ho divorato recentemente un libro molto interessante, di cui consiglio
vivamente la lettura: “Il confine del futuro. Possiamo fidarci dell’intelligenza artificiale?” di Francesca Rossi.
Si tratta di una piccola opera divulgativa (non arriva a 120 pagine) di una
valente scienziata italiana, ma assai poco conosciuta nel nostro Paese, il cui tema è lo stato dell’arte nel campo dell’intelligenza artificiale (I.A.). Nonostante l’autrice sia una delle personalità più esperte nel campo ed i temi estremamente tecnici, la lettura è piacevole ed ha reso evidenti le capacità dell’autrice di presentare in modo elementare concetti che ai più potrebbero risultare indigesti. Ad esempio è estremamente divertente come l’autrice spiega cos’è un algoritmo equiparandolo ad una ricetta culinaria.

Sono consapevole dei forti pregiudizi e della diffidenza che mi porto addosso sull’argomento, frutto di ampia letteratura e cinematografia fantascientifica che mi ha seguito per tutta la vita, in cui si evocano i fantasmi di HAL 9000 o Terminator o anche solo i robot di Asimov. Il libro di Francesca Rossi serve a informarsi sull’effettivo stato delle conoscenze e dell’operatività dell’I.A. con occhio storico ed oggettivo.
Prima di tutto dal testo emerge che la tecnologia dell’I.A. è estremamente
avanzata: i computer in questo campo hanno avuto negli ultimi decenni una crescita esponenziale nella velocità di elaborazione e nella capacità di memoria, sicchè ora le macchine hanno abilità molto superiori a quelle umane. Ma questo non basta: come si fa a definire intelligente una macchina od un sistema tecnologico?

La risposta si fonda sul concetto di “agente razionale”, rappresentato da un sistema capace di raggiungere un obiettivo o risolvere un problema in maniera ottimale analizzando i dati e valutando l’impatto nel contesto in cui si opera: in pratica si tratta di una sorta di capacità di ragionamento logico. In passato una macchina dell’IBM riuscì a battere a scacchi Kasparov, campione mondiale dell’epoca. Oggi se noi digitiamo su un
motore di ricerca una o più parole il sistema ci offre tutto lo scibile su
quell’argomento; oppure se cerchiamo sul nostro navigatore satellitare una destinazione, lo stesso ci indica il percorso migliore e più veloce per raggiungerla; oppure possiamo ricevere un messaggio telefonico dalla nostra banca che ci avvisa di una transazione sospetta sulla nostra carta di credito perché il sistema di I.A. ha individuato con tempestività una possibile frode. In tutti questi casi i sistemi di I.A., sulla base di algoritmi preimpostati, sono in grado di risolvere in tempi brevissimi i problemi posti. Su questo punto mi preme precisare che l’I.A. viene largamente
utilizzata nel campo finanziario non solo per lo studio del profilo di ogni cliente, ma anche nell’ambito macroeconomico allo scopo di stimare l’andamento presente e futuro dei flussi finanziari, quindi sono indubbie le possibilità di condizionamento in questo campo.

Gli algoritmi, però, non sono in grado di raggiungere sempre risultati
soddisfacenti ed anzi, sovente sono fonte di errori. Sappiamo tutti che la
consultazione di DOTT. GOOGLE per ottenere una diagnosi della nostra malattia inserendo unicamente l’elenco dei nostri sintomi fornirà risultati scadenti, per l’elevata probabilità di errore diagnostico; questo è dovuto alla totale mancanza di esperienza del sistema di I.A. nel campo sanitario.
Da alcuni anni sono stati creati i cosiddetti machine learning in cui le macchine riescono a risolvere i problemi con grande accuratezza attingendo ad una grandissima quantità di esempi di soluzioni del medesimo problema; oserei definirla una specie di esperienza indotta. Grazie a questo metodo i sistemi di traduzione linguistica negli ultimi anni sono diventati molto più precisi, oltre che veloci. Anche
per questi tipi di I.A. ci sono possibilità di errore, ma l’evoluzione tecnologica consentirà di ridurre progressivamente i margini di inesattezza.
La parte più interessante di questo libro è nelle pagine finali, in cui si
affrontano i temi etici legati all’utilizzo dell’I.A. Infatti, per poterci fidare realmente della I.A. dobbiamo avere la certezza che essa persegua i nostri stessi valori morali.
Nelle odierne applicazioni pratiche non siamo sicuri che la gestione dei dati personali sia esente da utilizzi impropri, anzi negli ultimi anni le notizie in tal senso ci forniscono dati preoccupanti. Le problematiche etiche sono emergenti pure in altre applicazioni della I.A, da quelle nel mondo del lavoro a quelle relative agli armamenti ed ai mezzi militari. Inoltre l’avanzamento progressivo della tecnologia in questo settore fa sorgere il sospetto che in futuro una Super I.A. potrebbe avere la capacità di autoapprendere e superare la capacità umana di ragionare e risolvere problemi; pertanto si aprono scenari inquietanti nei quali potremmo non essere in grado di controllare un’entità più intelligente di noi.
In effetti devo ammettere che, pur nella mia esperienza molto limitata di
cittadino e lavoratore, ho sperimentato situazioni, per certi versi angoscianti, in cui ho avuto la sensazione di un non perfetto controllo da parte degli operatori di sistemi che utilizzano metodologie di I.A. oppure condizioni in cui gli operatori di
sistema devono adottare strategie al limite delle regole per poter continuare a operare in ambienti condizionati dai rigidi sistemi tecnologici.