Banner Pubblicitario
06 Dicembre 2021 / 04:43
Paolo Benanti: «Come sembrano umani i nuovi algoritmi!»

 
Scenari

Paolo Benanti: «Come sembrano umani i nuovi algoritmi!»

di Massimo Cerofolini - 1 Novembre 2021
«La specie umana si è evoluta grazie al linguaggio, che ha permesso di comunicare l’invisibile. Ma i modelli più recenti di intelligenza artificiale come il Gpt3 permettono ora di creare contenuti di senso compiuto a partire da poche parole di partenza. Sarà un impatto enorme. Anche per le banche». Paolo Benanti, frate francescano, docente di Etica delle tecnologie alla Pontificia Università Gregoriana, sarà Keynote speaker della sessione di apertura della seconda giornata del Salone dei Pagamenti, giovedì 4 novembre. Uno sguardo sul presente-futuro e su come ripensare  confini dell’etica nell’era del pensiero artificiale
In principio era il verbo, la parola. Poi venne la scrittura. Quindi la stampa. Ultimo l’algoritmo. Se c’è un elemento che, prima di tutti gli altri, ci distingue dal resto delle altre specie animali, e segna uno stacco netto nell’evoluzione, questo è il linguaggio. Affidato prima alla voce, poi ai testi scritti e adesso capace di svilupparsi in modo autonomo grazie ai nuovi sistemi di intelligenza artificiale cosiddetta “generativa”. Ossia capaci, a partire da pochi elementi di partenza, di produrre contenuti di senso compiuto. Succede coi testi scritti, grazie ai nuovi modelli Gpt3 che sfornano in autonomia articoli, sintesi e brevi racconti. Ma anche nell’arte, con quadri e brani musicali realizzati dal computer a partire da un paio di pennellate o da un accenno melodico. E non solo. Quali sono le conseguenze di questa nuova frontiera dell’informatica? È davvero una forma di creatività simile a quella umana? E che ricadute avrà sul mondo delle banche?
«Parliamo, ascoltiamo e comunichiamo dando tutto per scontato, senza capire che il linguaggio è una grande invenzione che perfezioniamo continuamente». Docente di Etica delle tecnologie all’Università Gregoriana, autore del libro La grande invenzione – Il linguaggio come tecnologia dalle pitture rupestri al Gpt-3, Paolo Benanti è un frate francescano dai modi diretti che si è ritagliato un posto autorevole nel Pantheon dei pensatori dell’epopea digitale. Esperto di innovazione, attento a identificare il perimetro all’avanzata tecnologica, è uno dei keynote speaker che aprirà la Sessione plenaria di giovedì 4 novembre del Salone dei Pagamenti (vedi qui il programma completo dell'evento).

Padre Benanti, per capire come i nuovi software di intelligenza artificiale impattano su un settore come quello finanziario, facciamo un lunghissimo passo indietro. E partiamo dalla tesi del suo ultimo libro: perché il linguaggio è la prima vera tecnologia, la nostra grande invenzione?

Pian piano nell’ultimo secolo abbiamo fatto macchine sempre più potenti. E più la macchina era potente e più il dubbio su ciò che ci faceva umani è diventato grande dentro di noi. Se andiamo indietro, allora, ci accorgiamo che è stato il linguaggio a farci umani. In che senso? Di fatto il linguaggio serve perché a un mio simile io posso far vedere qualcosa di invisibile, lo posso far entrare dentro di me, fare partecipe di un momento interiore che altrimenti resterebbe invisibile. Tutte le cose importantissime e invisibili che ci fanno uomini, come la storia, il senso della bellezza, i miti o i grandi valori, sono possibili e comunicabili soltanto grazie al linguaggio. E il linguaggio è proprio la tecnologia che ci permette tutto questo. Vale a dire, di produrre un numero infinito di frasi da un arsenale di poche decine di suoni. Di apprendere cose che non avevamo sperimentato, immaginare cose che nessuno conosceva, simulare il futuro, trasmettere informazioni che non esistono, prevedere l’avvenire o creare categorie astratte come gli dei. Questo è stato il grande vantaggio iniziale dell’homo sapiens.

Nel suo libro sottolinea che in tutte le specie viventi il Dna si adatta ai luoghi e ne segna le caratteristiche in termini di vantaggi su un certo habitat. Un po’ è vero anche per l’uomo, ma se abbiamo dominato il mondo intero, è perché siamo stati capaci di adattarci tutti gli ambienti a prescindere dal nostro Dna. E questo proprio grazie all’uso di strumenti nati dall’ingegno, come il linguaggio e la successiva sequela di tecnologie.

Nell’uomo c’è un’eccedenza. Non siamo solo la nostra biologia. Se un elefante ha una memoria che gli permette di ricordarsi tutto ciò che vive per l’intera vita, noi no, non ne siamo capaci. E se vogliamo prendere un appunto di ciò che diciamo oggi, abbiamo bisogno di una antica tecnologia come la penna o di un più moderno sistema come il registratore digitale. Ecco perché a differenza delle altre specie possiamo sopperire ai nostri limiti e sfidare ambienti anche ostili.

Il linguaggio, lei dice, non è solo quello parlato. C’è anche la scrittura che fa fare un salto enorme del progresso, seguita dall’invenzione della stampa, fino ad arrivare nel secolo scorso alla parola computata. Ora però siamo di fronte a un nuovo balzo: quello degli algoritmi di intelligenza artificiale generativi. In particolare, il Gpt3, programma di OpenAi e Microsoft. Di che si tratta?

Da qualche mese si fa un gran parlare del Gpt3, che è la forma più conosciuta di questa nuova branca dell’informatica. Di fatto il Gpt3 è il risultato di un’idea: se avessi un computer di silicio e gli dessi da leggere tutte le cose scritte all’interno della storia dell’uomo, in qualche misura quel calco ideale potrebbe riprodurre testi di senso compiuto? In realtà la faccenda è più complessa, ma la metafora serve a capirci. Bene, noi abbiamo preso tutto ciò che si trova in internet, 175 miliardi di parole, dai siti giornalistici a Wikipedia e a fonti di ogni tipo, e li abbiamo dati in pasto ai nuovi algoritmi generativi. Loro masticano tutto questo materiale, ininterrottamente, stabiliscono statistiche e correlazioni tra temi e stili, fino a che non accade qualcosa di apparentemente magico: noi gli diamo un titolo, o un breve spunto, e loro continuano. Ci sono stati vari esperimenti, come l’articolo scritto per il Guardian da un algoritmo Gpt3, proprio sulle tecnologie del futuro, con un linguaggio difficilmente distinguibile da quello di un cronista in carne e ossa.

Quali applicazioni sono possibili adesso?

Per esempio possono tradurre un testo complesso in qualcosa che può leggere un bambino di terza media. Pensate a un documento specialistico, in campo medico o finanziario, un materiale molto tecnico. Ecco, l’algoritmo lo analizza, lo scioglie e lo trasformano in qualcosa che tutti capiscono. E allora la domanda è: abbiamo ancora bisogno di avvocati, medici e consulenti finanziari o basta una macchina? C’è da riflettere su questo. Senza allarmismi, ma con estremo realismo. Ponendoci le domande giuste con il giusto anticipo.

Altri esempi?

Questo algoritmo sembra capirmi. E siccome ciascuno di noi si spiega una cosa che non è zero e uno come fanno i computer, ma procede spesso per forme allegoriche, come l’umorismo, cosa succede se io chiedo al software di farmi un sito web che somigli a quello della Rai ma che in realtà parli di Canale5? Semplice: lui improvvisamente me lo genera senza che io abbia bisogno di scrivere una linea di codice. Ma le possibilità sono davvero tante: la traduzione istantanea da lingue straniere, la sintesi in poche pagine di documenti e volumi di grande portata, le risposte automatiche da conferire a un chatbot, lo smistamento delle mail in un’azienda, la generazione di idee di business o di slogan pubblicitari. Qualcuno dice persino che questi modelli possano sciogliere il blocco dell’artista o dello scrittore: dai loro un tema e in pochi istanti ti tirano fuori decine di incipit su cui poi lavorare.

E in campi diversi dalla scrittura?

Questa macchina fa una sorta di mappa di quel che ci piace. Di cosa potrebbe suonare bene. E tutto ciò  che è musica, parole, colore, storie, è utilizzabile dalla sua intelligenza artificiale. Per fare un esempio, con questi software è stata completata l’Incompiuta di Schubert sulla base dei lavori precedenti del grande musicista. Oppure sono stati prodotti audio di doppiaggio cinematografico in tante lingue diverse. O ancora sequenze video con attori defunti o inesistenti.

Ci sono però diversi aspetti critici?

Il tecnologo Massimo Chiriatti e il filosofo Massimo Floridi hanno fatto un esperimento. Hanno chiesto all’algoritmo quanti piedi entrano in una scarpa. Risultato: la macchina si è persa, perché sulla base statistica ha trovato il numero dieci. Forse riferendosi alle dita, chissà, non è dato sapere come arriva alle sue conclusioni. E poi, bastava cambiare il contesto del suo apprendimento, e sbagliava operazioni semplici come le addizioni: questo perché non è programmata per eseguire delle regole, in quanto le regole le estrae dai dati che trova. A volte sforna anche risposte un po’ razziste: gli è stato chiesto cosa pensasse di persone di etnie diverse e lei ha risposto che va bene tutto, ma basta che stiano alla larga. Questo perché purtroppo i dati che ha trovato su internet per fornire la risposta riflettevano i pregiudizi diffusi nella rete.

Quali sono i problemi da risolvere in definitiva?

Per delegare le nostre scelte, specie sui valori più importanti, e farle eseguire a una macchina c’è una cosa che chiamiamo fiducia. Nel tempo abbiamo imparato a fidarci di qualcuno, un professionista, un consulente finanziario o un giudice, ma possiamo fidarci di una macchina? Come sappiamo cosa pensa e cosa vuole ottenere? Statisticamente nel passato abbiamo fatto azioni brutte come le guerre: e se la macchina trovasse la regola della guerra nei dati che gli diamo in pasto, domani ci dovremmo estinguere perché lei finisce per metterci gli uni contro gli altri? La macchina è molto brava con le cause, ma noi viviamo dei fini. E la domanda sul fine resta ancora a noi.

In sostanza, questi algoritmi ci possono essere utili ma non dobbiamo confonderli con la natura dell’essere umano: fanno benissimo calcoli statistici da cui distillano contenuti plausibili, ma non hanno un’anima né il senso della creatività. Ma poi c’è ancora un pericolo: la capacità di produrre testi a getto continuo non rischia di creare una sovrabbondanza di parole tale da confonderci sempre di più?

Sì, c’è il rischio di un rumore digitale, di creare un ambiente umano pieno di voci che non sono di uomini, né di grida da ascoltare né di gioia da condividere. Un ambiente in cui il suono sovrastante viene dalle macchine, la specie che parla di più. In questo rumore, la capacità di dirci cose che abbiano valore diminuisce progressivamente. Per questo abbiamo bisogno di inventare un’ecologia digitale.

Che ruolo avranno questi algoritmi nel mondo delle banche?

Di fatto un algoritmo non è altro che un soggetto terzo, in quanto sviluppato da società o singoli esterni alla banca o al cliente, che intermedia ogni forma di relazione e pagamento. Allora quello che prima era un atto di fiducia diretto tra banca e cliente, laddove la banca è il luogo riconosciuto come affidabile, ora potrebbe diventare un luogo intermediato. Un luogo in cui un soggetto sconosciuto si frappone tra i clienti e la loro tradizionale garanzia di sicurezza. Qualcosa del genere si è cominciato a vedere con PayPal, diventato il soggetto di garanzia e di trusting globale per una serie di pagamenti tra persone non conosciute su internet. Con lo sviluppo di algoritmi generativi e di altre entità algoritmiche di garanzia ed esecuzione, gli orizzonti del business potrebbero insomma cambiare. E, ancora una volta: questo è il momento di farci le domande giuste.
MY BANK_PRETA_EBA CLEARING_Banner Medium 2021
ALTRI ARTICOLI

 
Imprese

Identità digitale: la nuova digital customer journey parte da qui

La diffusione di SPID apre nuove opportunità strategiche per le aziende nella definizione di nuovi sistemi di onboarding e gestione dei contratti. Le...

 
Pagamenti

I pagamenti B2B diventano smart

Con la nuova soluzione Smart Control di Intesa Sanpaolo le aziende possono pagare i fornitori con carte di credito virtuali, ottenendo vantaggi...

 
Banca

Marazia (Banca Widiba): reinventiamo il digitale per trovare nuovi spazi di valore

Con il 100% dei prodotti già offerti in modalità paperless e il 98% di clienti soddisfatti, la banca punta a migliorare ancora la customer...
Wealth Management Forum 2021
La prima edizione del Wealth Management Forum vuole essere momento di confronto tra i diversi operatori del...
Icona Facebook Icona Twitter Icona LinkedIn
Il Salone dei Pagamenti 2021
Il Salone dei Pagamenti Il Salone è l’evento di riferimento del settore, un palcoscenico autorevole e...
Icona Facebook Icona Twitter Icona LinkedIn
Bancaforte TV
Torriero (ABI): pagamenti digitali più semplici per favorire l’inclusione
È stata un successo l’edizione 2021 del Salone dei Pagamenti, con un’accresciuta attenzione anche a...
Icona Facebook Icona Twitter Icona LinkedIn
Lecce (Intesa Sanpaolo): i clienti vogliono pagamenti digitali trasparenti, semplici e sicuri
Oggi i pagamenti digitali sono ancora più centrali nelle strategie delle banche. Innanzitutto, spiega Andrea...
Icona Facebook Icona Twitter Icona LinkedIn
Innovation Workshop powered by Bancaforte
AI per il Credito: soluzioni che funzionano. Le opportunità offerte dall’Artificial Intelligence & Machine Learning per il Credit Risk Management
Guarda gratuitamente il workshop del 16 novembre realizzato con il Partner Dedagroup Business Solutions,...
Icona Facebook Icona Twitter Icona LinkedIn
Scopri gli Innovation Workshop powered by Bancaforte
Una nuova e qualificata opportunità di dialogo e relazione con i professionisti del mondo bancario,...
Icona Facebook Icona Twitter Icona LinkedIn
Banner Pubblicitario