"Non solo algoritmi, il futuro delle banche è nella fiducia tra umani"

Meglio un algoritmo capace di prevedere i rischi finanziari o un dipendente in carne e ossa in grado di stabilire un rapporto di fiducia coi clienti? L’avanzata delle nuove tecnologie digitali non è soltanto un gradino in più verso il futuro ma un rovesciamento di vecchi paradigmi, un uragano di nuovi modelli che investono ogni aspetto del vivere concreto. Per disegnare le coordinate di questo mondo inedito, spesso scivoloso, con i suoi linguaggi e la sua cultura ancora da decifrare, può essere d’aiuto la voce di uno studioso che ha la rara dote di coniugare le domande ultime della spiritualità umana con le ultime risposte dell’intelligenza artificiale. Classe 1973, romano, frate francescano, docente di Etica delle tecnologie all’Università Gregoriana di Roma, Paolo Benanti ha appena pubblicato “Digital Age. Teoria del cambio d'epoca. Persona, famiglia e società”. Lo abbiamo intervistato.

La sfida principale degli istituti di credito è quella degli algoritmi, i codici d’intelligenza artificiale che sono già oggi in grado di surrogare il percorso decisionale umano. Grazie a questi nuovi programmi si possono automatizzare processi di alto livello. E ciò è un dato positivo. Non dobbiamo però dimenticarci cosa dice il paradosso di Moravec sull’intelligenza artificiale: ossia, che è molto più facile far fare alla macchina un compito cognitivo alto che non uno elementare. Per cui sono capace di far fare a una calcolatrice la radice cubica di 27 ma è molto difficile programmare una mano robotica che afferri una maniglia. Di contro, un bambino di due anni sa aprire la porta senza problemi ma non riesce a fare la radice cubica di 27. Cosa vuol dire questo applicato al mondo del lavoro? Che l’impatto più devastante dell’automazione sarà soprattutto su quei lavori che hanno una dose elevata di cognitività.

Per rispondere bisogna partire da un’altra domanda. Vale a dire, questo tipo di sostituzione, che il mondo algoritmico riesce a fare nei confronti del lavoratore umano, è un rimpiazzo integrale, nel senso che l’apporto del lavoratore umano nel processo bancario è solo un contributo funzionale come può essere quello di una calcolatrice, oppure c’è un di più che il digitale non riesce a dislocare? Questo è il punto. E la grande sfida a cui è chiamato il settore bancario è proprio capire qual è lo specifico umano nell’esecuzione dei processi decisionali.

A quel punto è evidente che non ha molto senso assumere persone capaci di calcoli e valutazioni che l’algoritmo sa fare meglio, ma che si cercheranno figure in grado di coprire quel di più insurrogabile dalla macchina. Ma questo richiede di trasformare il lavoro con formule più agili e con un vero smart working, perché l’umano sia messo nelle condizioni di offrire quell’eccellenza che la macchina non può dare.

Per esempio, le profilazioni dei clienti. Per conoscere a fondo gli utenti di una banca si può ricorrere alle linee di codice di un algoritmo oppure a catene di fiducia che vedono nel fattore umano un di più. Se però la fiducia viene completamente surrogata dal calcolo dei fattori di rischio, nell’immediato si potrà avere anche un beneficio, ma si è destinati a perdere quella fidelizzazione che è la chiave del mercato bancario. Se si interviene sulla struttura organizzativa della banca per sostituirla con un’intelligenza artificiale, chi ti fornisce il servizio acquisisce un potere assoluto sul prezzo ed è poi troppo tardi per tornare indietro. Se oggi il risparmio è 100, domani sarà 90, dopodomani 80, fino a scomparire del tutto. Questo sta succedendo in tutti i settori che affidano all’esterno la digitalizzazione del processo. Dunque il mio consiglio è sempre di scegliere soluzioni non in base al risparmio immediato ma guardando alla sostenibilità sul lungo termine.

Diciamo che noi umani ci distinguiamo da tutti gli altri esseri viventi perché stiamo in relazione al mondo mediante artefatti tecnologici. E già nella preistoria ci siamo resi conto che una clava o un osso potevano essere uno strumento magnifico o un’arma contro qualcuno: la relazione tra uomo e tecnologia è sempre stata ambigua. Però, a un certo punto della nostra storia, ci sono state alcune tecnologie che non sono servite solo per fare qualcosa meglio di prima, ma che hanno cambiato radicalmente il modo con cui si sta al mondo e con cui lo si guarda o lo si pensa. Le più vicine a noi sono state l’elettricità e il vapore: innovazioni che non si sono limitate a offrirci qualche strumento in più, ma che hanno introdotto forme nuove di organizzazione dei gruppi sociali, modi nuovi di fare politica, capacità nuove di capire la scienza. Oppure pensiamo a quello che è successo con la lente convessa, col telescopio e col microscopio, che hanno cambiato la nostra posizione nel cosmo e la comprensione di noi stessi. Ecco, la stessa cosa succede ora col computer, grazie alla sua capacità di lavorare i dati.

Prima dell’era digitale eravamo abituati a chiederci personalmente qual era il senso delle nostre scelte. Ora invece abbiamo scoperto un nuovo attore sociale, che i matematici chiamano appunto algoritmo, che è in grado di leggere dentro le nostre vite quelle parti numeriche che sono i dati da noi prodotti online. E la macchina, processando l’insieme di questi dati con velocità ed efficienza fuori dalla nostra portata, è in grado di suggerirci delle corrispondenze, dei legami tra gruppi di dati che a noi sfuggirebbero. A un certo punto ci siamo detti che, siccome in alcuni casi il calcolo funziona meglio delle nostre intuizioni, spesso errate e causa di sofferenze, tanto vale ricorrere sempre a queste correlazioni matematiche, che da religioso chiamerei ironicamente divinazioni. Ci stiamo cioè convincendo sempre di più che la macchina ci conosce meglio di noi stessi.  Il che per alcuni versi sembra funzionare molto bene. C'è un però. Perché tutto quello che tocca l'algoritmo è in realtà, non un qualcosa di neutro, ma qualcosa che è stato programmato a tavolino da chi è in possesso dei codici. Non solo: quei dati che servono per conoscerci danno anche un enorme potere alle grandi compagnie che li generano e li accumulano. Ecco il passaggio d’epoca: stiamo trasformando non solo la parte più intima di noi stessi ma anche il modo con cui possiamo venire gestiti, capiti e anticipati nelle nostre scelte.

Diciamo che questo è il problema di sempre. Da quando abbiamo alzato la prima pietra e l’abbiamo potuta usare per aprire una noce di cocco o per spaccare la testa a qualcuno. Non c'è una risposta facile. Penso a una notizia di qualche tempo fa, la scoperta di una pillola che permette di non di dimenticare. Supponiamo che la prenda una ragazza che sta preparando un esame e che stasera vada a una festa perché tanto ha letto con la pillola e non ha bisogno di ripassare. Bene, se qualche male intenzionato si approfitta di lei, cosa succede? Stiamo condannando la ragazza a ricordare per tutta la vita un trauma terribile. Come in un racconto di Borges, con il protagonista che è incapace di dimenticare ogni piccolo dettaglio della sua vita al punto di rimanere saturato dai ricordi. Ragionare sull’etica delle tecnologie significa riflettere sulla natura profonda dell’uomo. In questo caso, occorre riconoscere che la nostra memoria non è statica come quella di un computer, noi siamo fatti per reinterpretare i ricordi in modo dinamico, per elaborarli grazie alla nostra sensibilità, ai nostri affetti e alla nostra cultura. Quindi non è solo un problema dei limiti della tecnologia, ma è una questione di fare la domanda giusta. Ossia, cosa significa essere umani?

Tutto ciò che è studio e conoscenza fa bene all’uomo. Ma con il nostro sapere, per esempio, sono state create armi molto potenti che poi abbiamo dovuto regolamentare: perché a volte quelle armi salvano vite, a volte uccidono brutalmente. Quindi è ovvio che le decisioni ultime non possono spettare solo agli ingegneri e ai programmatori. C’è bisogno della filosofia. E di una politica autentica, capace di discutere i veri problemi dei nostri tempi.