Comanderà ancora l’uomo o la macchina, con la sua “intelligenza” artificiale?

Il tema del rapporto tra l’uomo e l’intelligenza artificiale è di grande attualità.

Paolo Benanti è frate del Terzo Ordine Regolare e professore straordinario di teologia morale presso la Pontificia Università Gregoriana. Ha fatto parte del gruppo di trenta esperti del Ministero dello Sviluppo economico per l’elaborazione della Strategia italiana per l’intelligenza artificiale (cfr. www.paolobenanti.com).

In questo suo libro, l’ultimo di una lunga serie di scritti, affronta con competenza il tema della algoretica, cioè la governance delle intelligenze artificiali.

In informatica, loop indica successione di operazioni che vengono eseguite ripetutamente dal calcolatore nello stesso ordine, ogni volta con modifiche degli operandi, finché non sia soddisfatta qualche condizione prefissata.

Il titolo allude all’intrappolamento dell’uomo nel circolo di un algoritmo, fino a quando non soddisfa le operazioni programmate.

La prima parte, Out of the Loop, mostra prima di tutto come l’uomo oggi si pensi fuori dal giro, cioè dalla possibilità di non considerarsi più al vertice e al compimento della natura, poiché l’intelligenza artificiale sembra sopravanzarla in molti campi che riteneva esclusivi e propri dell’umanità.

In un secondo capitolo Benanti spiega con chiarezza, senza entrare nei dettagli tecnici di un algoritmo, cosa è e come funziona l’intelligenza artificiale che sembra simulare la mente umana.

Nel terzo capitolo l’autore ci racconta la parabola dell’intelligenza artificiale e i suoi principali attori: come è nata nel 1956, come sia stata accolta con grande entusiasmo, come sia finita nel congelatore perché non rispondente alle grandi aspettative suscitate, come sia rinata dal 2010 grazie alla potenza di calcolo e alla esplosione di questi mesi.

L’idea che una macchina possa ragionare come una persona, crea timori e fascinazione – come fosse una cosa sacra (R. Otto, Il Sacro: l’irrazionale nella idea del divino e la sua relazione al razionale, Zanichelli, Bologna 1926).

Ma le IA (intelligenze artificiali) non ragionano come le persone. Esse utilizzano una grande quantità di dati (data base), compiono delle operazioni tramite la correlazione tra dati simili e forniscono risposte utilizzando – di fatto – la statistica. Un algoritmo così fatto non è mai affidabile al 100% e questo è un problema per il loro utilizzo.

Dunque, non c’è ragionamento, non c’è coscienza di ciò che sta compiendo, non c’è creatività, anche se una IA che si scusa per aver dato una risposta sbagliata fa impressione.

La seconda parte, Keeping man in the Loop (restare nel giro), affronta invece le questioni etiche che avvolgono le intelligenze artificiali.

Esse sono chiamate da Benanti: algoretica, etica dell’algoritmo.

Un primo aspetto è quello dell’etica di chi le produce, dai committenti, ai finanziatori, ai programmatori.

Il commitente/finanziatore vuole una certa risposta dall’algoritmo, e già qui c’è una questione etica. Ad esempio: il riconoscimento facciale per quale scopo viene richiesto?

Molto dipende anche da come è costruito il data base da cui l’algoritmo trae le correlazioni statistiche. Dato che la scelta dei dati è fatta da persone in carne e ossa, dipende dalle loro scelte etiche la qualità delle risposte. Il governo olandese di Rutte è caduto perché un algoritmo utilizzato per scovare frodi fiscali non era imparziale rispetto al genere.

Chi costruisce l’algoritmo poi può introdurre, anche inconsapevolmente dei suoi pregiudizi che possono minare la credibilità delle risposte.

Se l’algoritmo produce danni a una persona, chi ne risponde: il proprietario, il programmatore, nessuno?

In tutto questo non esiste ancora una regolamentazione legislativa che aiuti a orientare l’utilizzo di questi strumenti per il bene delle comunità e delle persone.

Da ultimo c’è la questione che questi algoritmi usano una quantità enorme di energia per poter essere utilizzati.

Benanti pone 18 domande cui è necessaria una risposta di regolamentazione.

La questione di fondo sono i possibili livelli di comprensione di cosa sia una tecnica:

• La tecnica come mezzo per raggiungere uno scopo
• La tecnica come capacità di trasformare aree della vita umana
• La tecnica esprime un atteggiamento di base degli esseri umani verso il mondo
• La tecnica implica decisioni aziendali che devono seguire le evoluzioni del settore tecnologico, le sensibilità sociali e le effettive opportunità.

Tutto questo richiede una cultura che, come sempre di fronte all’evoluzione tecnologica, metta al centro la persona, a cui la tecnica offre un supporto in alcuni compiti della vita, mentre può accadere – come è già successo nel passato – che l’uomo diventi succube o schiavo della tecnica.

Un antico dibattito cui Benanti offre elementi concreti per prendere decisioni che siano di valore umano.

Paolo Benanti, Human in the loop. Decisioni umane e intelligenze artificiali, Mondadori, Milano 2022, pp 161, euro12,00