Paolo Benanti: «Come sembrano umani i nuovi algoritmi!»

In principio era il verbo, la parola. Poi venne la scrittura. Quindi la stampa. Ultimo l’algoritmo. Se c’è un elemento che, prima di tutti gli altri, ci distingue dal resto delle altre specie animali, e segna uno stacco netto nell’evoluzione, questo è il linguaggio. Affidato prima alla voce, poi ai testi scritti e adesso capace di svilupparsi in modo autonomo grazie ai nuovi sistemi di intelligenza artificiale cosiddetta “generativa”. Ossia capaci, a partire da pochi elementi di partenza, di produrre contenuti di senso compiuto. Succede coi testi scritti, grazie ai nuovi modelli Gpt3 che sfornano in autonomia articoli, sintesi e brevi racconti. Ma anche nell’arte, con quadri e brani musicali realizzati dal computer a partire da un paio di pennellate o da un accenno melodico. E non solo. Quali sono le conseguenze di questa nuova frontiera dell’informatica? È davvero una forma di creatività simile a quella umana? E che ricadute avrà sul mondo delle banche?

«Parliamo, ascoltiamo e comunichiamo dando tutto per scontato, senza capire che il linguaggio è una grande invenzione che perfezioniamo continuamente». Docente di Etica delle tecnologie all’Università Gregoriana, autore del libro La grande invenzione – Il linguaggio come tecnologia dalle pitture rupestri al Gpt-3, Paolo Benanti è un frate francescano dai modi diretti che si è ritagliato un posto autorevole nel Pantheon dei pensatori dell’epopea digitale. Esperto di innovazione, attento a identificare il perimetro all’avanzata tecnologica, è uno dei keynote speaker che aprirà la Sessione plenaria di giovedì 4 novembre del Salone dei Pagamenti (vedi qui il programma completo dell'evento).

Pian piano nell’ultimo secolo abbiamo fatto macchine sempre più potenti. E più la macchina era potente e più il dubbio su ciò che ci faceva umani è diventato grande dentro di noi. Se andiamo indietro, allora, ci accorgiamo che è stato il linguaggio a farci umani. In che senso? Di fatto il linguaggio serve perché a un mio simile io posso far vedere qualcosa di invisibile, lo posso far entrare dentro di me, fare partecipe di un momento interiore che altrimenti resterebbe invisibile. Tutte le cose importantissime e invisibili che ci fanno uomini, come la storia, il senso della bellezza, i miti o i grandi valori, sono possibili e comunicabili soltanto grazie al linguaggio. E il linguaggio è proprio la tecnologia che ci permette tutto questo. Vale a dire, di produrre un numero infinito di frasi da un arsenale di poche decine di suoni. Di apprendere cose che non avevamo sperimentato, immaginare cose che nessuno conosceva, simulare il futuro, trasmettere informazioni che non esistono, prevedere l’avvenire o creare categorie astratte come gli dei. Questo è stato il grande vantaggio iniziale dell’homo sapiens.

Nell’uomo c’è un’eccedenza. Non siamo solo la nostra biologia. Se un elefante ha una memoria che gli permette di ricordarsi tutto ciò che vive per l’intera vita, noi no, non ne siamo capaci. E se vogliamo prendere un appunto di ciò che diciamo oggi, abbiamo bisogno di una antica tecnologia come la penna o di un più moderno sistema come il registratore digitale. Ecco perché a differenza delle altre specie possiamo sopperire ai nostri limiti e sfidare ambienti anche ostili.

Da qualche mese si fa un gran parlare del Gpt3, che è la forma più conosciuta di questa nuova branca dell’informatica. Di fatto il Gpt3 è il risultato di un’idea: se avessi un computer di silicio e gli dessi da leggere tutte le cose scritte all’interno della storia dell’uomo, in qualche misura quel calco ideale potrebbe riprodurre testi di senso compiuto? In realtà la faccenda è più complessa, ma la metafora serve a capirci. Bene, noi abbiamo preso tutto ciò che si trova in internet, 175 miliardi di parole, dai siti giornalistici a Wikipedia e a fonti di ogni tipo, e li abbiamo dati in pasto ai nuovi algoritmi generativi. Loro masticano tutto questo materiale, ininterrottamente, stabiliscono statistiche e correlazioni tra temi e stili, fino a che non accade qualcosa di apparentemente magico: noi gli diamo un titolo, o un breve spunto, e loro continuano. Ci sono stati vari esperimenti, come l’articolo scritto per il Guardian da un algoritmo Gpt3, proprio sulle tecnologie del futuro, con un linguaggio difficilmente distinguibile da quello di un cronista in carne e ossa.

Per esempio possono tradurre un testo complesso in qualcosa che può leggere un bambino di terza media. Pensate a un documento specialistico, in campo medico o finanziario, un materiale molto tecnico. Ecco, l’algoritmo lo analizza, lo scioglie e lo trasformano in qualcosa che tutti capiscono. E allora la domanda è: abbiamo ancora bisogno di avvocati, medici e consulenti finanziari o basta una macchina? C’è da riflettere su questo. Senza allarmismi, ma con estremo realismo. Ponendoci le domande giuste con il giusto anticipo.

Questo algoritmo sembra capirmi. E siccome ciascuno di noi si spiega una cosa che non è zero e uno come fanno i computer, ma procede spesso per forme allegoriche, come l’umorismo, cosa succede se io chiedo al software di farmi un sito web che somigli a quello della Rai ma che in realtà parli di Canale5? Semplice: lui improvvisamente me lo genera senza che io abbia bisogno di scrivere una linea di codice. Ma le possibilità sono davvero tante: la traduzione istantanea da lingue straniere, la sintesi in poche pagine di documenti e volumi di grande portata, le risposte automatiche da conferire a un chatbot, lo smistamento delle mail in un’azienda, la generazione di idee di business o di slogan pubblicitari. Qualcuno dice persino che questi modelli possano sciogliere il blocco dell’artista o dello scrittore: dai loro un tema e in pochi istanti ti tirano fuori decine di incipit su cui poi lavorare.

Questa macchina fa una sorta di mappa di quel che ci piace. Di cosa potrebbe suonare bene. E tutto ciò  che è musica, parole, colore, storie, è utilizzabile dalla sua intelligenza artificiale. Per fare un esempio, con questi software è stata completata l’Incompiuta di Schubert sulla base dei lavori precedenti del grande musicista. Oppure sono stati prodotti audio di doppiaggio cinematografico in tante lingue diverse. O ancora sequenze video con attori defunti o inesistenti.

Il tecnologo Massimo Chiriatti e il filosofo Massimo Floridi hanno fatto un esperimento. Hanno chiesto all’algoritmo quanti piedi entrano in una scarpa. Risultato: la macchina si è persa, perché sulla base statistica ha trovato il numero dieci. Forse riferendosi alle dita, chissà, non è dato sapere come arriva alle sue conclusioni. E poi, bastava cambiare il contesto del suo apprendimento, e sbagliava operazioni semplici come le addizioni: questo perché non è programmata per eseguire delle regole, in quanto le regole le estrae dai dati che trova. A volte sforna anche risposte un po’ razziste: gli è stato chiesto cosa pensasse di persone di etnie diverse e lei ha risposto che va bene tutto, ma basta che stiano alla larga. Questo perché purtroppo i dati che ha trovato su internet per fornire la risposta riflettevano i pregiudizi diffusi nella rete.

Per delegare le nostre scelte, specie sui valori più importanti, e farle eseguire a una macchina c’è una cosa che chiamiamo fiducia. Nel tempo abbiamo imparato a fidarci di qualcuno, un professionista, un consulente finanziario o un giudice, ma possiamo fidarci di una macchina? Come sappiamo cosa pensa e cosa vuole ottenere? Statisticamente nel passato abbiamo fatto azioni brutte come le guerre: e se la macchina trovasse la regola della guerra nei dati che gli diamo in pasto, domani ci dovremmo estinguere perché lei finisce per metterci gli uni contro gli altri? La macchina è molto brava con le cause, ma noi viviamo dei fini. E la domanda sul fine resta ancora a noi.

Sì, c’è il rischio di un rumore digitale, di creare un ambiente umano pieno di voci che non sono di uomini, né di grida da ascoltare né di gioia da condividere. Un ambiente in cui il suono sovrastante viene dalle macchine, la specie che parla di più. In questo rumore, la capacità di dirci cose che abbiano valore diminuisce progressivamente. Per questo abbiamo bisogno di inventare un’ecologia digitale.

Di fatto un algoritmo non è altro che un soggetto terzo, in quanto sviluppato da società o singoli esterni alla banca o al cliente, che intermedia ogni forma di relazione e pagamento. Allora quello che prima era un atto di fiducia diretto tra banca e cliente, laddove la banca è il luogo riconosciuto come affidabile, ora potrebbe diventare un luogo intermediato. Un luogo in cui un soggetto sconosciuto si frappone tra i clienti e la loro tradizionale garanzia di sicurezza. Qualcosa del genere si è cominciato a vedere con PayPal, diventato il soggetto di garanzia e di trusting globale per una serie di pagamenti tra persone non conosciute su internet. Con lo sviluppo di algoritmi generativi e di altre entità algoritmiche di garanzia ed esecuzione, gli orizzonti del business potrebbero insomma cambiare. E, ancora una volta: questo è il momento di farci le domande giuste.