Verso un nuovo umanesimo per il rapporto uomo-macchina

Palazzo Montecitorio è la destinazione da cui scrivo queste pagine dei Diari del Fintech, appunti di viaggio intorno al mondo. Un gruppo di esperti internazionali si è dato appuntamento a Roma su invito della Fondazione Leonardo per discutere degli sviluppi della tecnologia digitale e dei suoi riflessi etici sulla società, partendo dalle applicazioni e dalle soluzioni di intelligenza artificiale dedicate al mondo dei servizi finanziari, della sicurezza, della salute e dei profili giuridici.

La corsa dell’economia digitale è inarrestabile nei paesi asiatici, soprattutto la Cina. Quest’anno nella giornata di saldi online cinese detta Single Day (11 novembre) la piattaforma di e-commerce Alibaba, il cui motore di raccomandazioni è gestito da algoritmi di intelligenza artificiale, ha battuto ogni record di vendite, sfiorando i 40 miliardi di dollari di controvalore in meno di 24 ore pari a quasi il doppio di quanto venduto negli Stati Uniti nella settimana del Black Friday. Sempre in Cina, nel 2018 sono stati eseguiti pagamenti digitali per 40.000 miliardi di dollari contro i 160 miliardi negli Usa. Tutto questo genera una colossale quantità di dati che proietta la Cina come il leader mondiale del Fintech e delle applicazioni AI. Affascinante sicuramente, ma anche un tema di doverosa riflessione per il mondo occidentale alla ricerca di un giusto equilibrio tra cambiamento tecnologico e progresso umano, mondo digitale e vita analogica.

Parlare di etica è quindi rilevante e centrale nel percorso di trasformazione della società e dell’economia, al fine di condividere approcci e linee guida che permettano di lanciare un nuovo “umanesimo digitale” in ottica di Industria 4.0.

È sicuramente possibile coniugare il cambiamento tecnologico con il bisogno di progresso sociale e ambientale, partendo dalla condivisione di principi fondamentali e dalla costruzione di un sistema poroso di garanzie che possa spingere l’innovazione pur guidandola trasparentemente in ottica di valore per la comunità (lavoratori, clienti e consumatori). Colgo quindi l’occasione per condividere su questo diario le mie riflessioni portate al gruppo di lavoro e arricchite dai numerosi e interessanti interventi, al fine di allargare il dibattito oltre le porte di Palazzo Montecitorio. L’obiettivo è contribuire a una riflessione pratica su come inquadrare il tema dell’etica e dell’AI, che possa tradursi in momenti di crescita aziendale e professionale per tutti, guardando non solo al mondo di oggi ma anche al lavoro di domani.

L’intelligenza artificiale è una tecnologia basata su modelli matematici che imparano dai dati per fornire delle indicazioni utili a prendere delle decisioni. Essa permette di automatizzare articolati processi di back-office e di ottimizzare l’accesso della clientela alle piattaforme digitali per le decisioni creditizie, assicurative o di investimento. Tali algoritmi non sono basati su regole “definite” ancorché complesse, come usualmente succede nei modelli statistici tradizionali, ma trovano realizzazione in un percorso che parte dai dati e arriva alle decisioni con una certa “libertà” di interpretazione da parte dei modelli preposti. Poiché gli algoritmi non possono “ragionare” (quantomeno ancora) ovvero spiegare con cognizione di causa le ragioni delle indicazioni fornite e delle decisioni prese o suggerite, è necessario occuparsi del tema della loro trasparenza e comprensione in ottica di premesse (qualità dei dati) e conseguenze (impatto sulle decisioni).

Come affrontare quindi il tema dell’etica con un approccio che sia aperto all’innovazione ma anche strutturato, per garantire un buon equilibrio nel rapporto uomo-macchina dal punto di vista delle interazioni e delle conseguenze? Come definire in modo coerente delle line guida etiche che permettano di organizzare il lavoro del Cda (o altro comitato preposto), la cui azione sappia avere un impatto positivo sia verso l’alto  (UN Sustainable Development Goals) sia verso il basso (strutture aziendali)? Penso che il lavoro si possa organizzare secondo lo schema qui riportato, fatto di due “contenitori” (analogico e digitale) e quattro “presidi” (dati, modelli, decisioni, risultati).

In primo luogo, il rapporto attuale tra uomo e macchina si compone ovviamente di un elemento digitale (AI) e uno analogico (persona), legati in modo circolare. L’elemento digitale risiede nella possibilità di “digitalizzare la conoscenza” tramite modelli matematici capaci di apprendere dai dati anche non strutturati, al fine renderla più facilmente fruibile ovvero di permettere maggiore velocità nel passaggio dalle “informazioni” alla “conoscenza” che è necessaria per le decisioni finali.

L’elemento analogico, invece, riguarda l’elemento umano di “creazione di consapevolezza”, ovvero di presa in carico da parte di soggetti professionali delle decisioni finali. Tale elemento di responsabilizzazione è un’attività ampiamente umana che si esprime in un atto di relazione etica tra azienda e clientela, tra Cda e lavoratori, tra organi di vigilanza e professionisti del settore. Il contenitore digitale e quello analogico non sono tuttavia perfettamente separati, in quanto l’elemento digitale comincia a guadagnare spazio nel contenitore analogico (come dimostrato dall’esperienza delle piattaforme cinesi), viste le capacità informatiche di prendere decisioni sempre più cognitive. Non bisogna anche dimenticare che esiste una interazione bi-direzionale umano e macchina, per cui noi stessi ci affidiamo sempre di più al supporto digitale come una sorta di “extended brain” (per esempio, le Google Maps per guidare nel traffico anziché memorizzare il percorso).

La creazione e la discussione di principi etici, che siano non solo di alto livello ma anche generatori di cultura aziendale aggregante e arricchente, richiedono quindi di calare il tema etico all’interno delle diverse componenti aziendali, in funzione di 4 sotto-contenitori: dati e modelli (presidi del contenitore digitale), decisioni e risultati (presidi del contenitore analogico).

I dati possono essere “biased” ovvero “un-biased” con impatto sulle tecniche di apprendimento dell’algoritmo. Per esempio, la storia dei dati creditizi di una popolazione può riflettere un bias storico a svantaggio della popolazione femminile, rendendo necessaria un’azione di “correzione” dei dati affinché l’algoritmo non impari una visione parziale dell’azione sociale ed economica. Pertanto, è doveroso definire delle linee guida per la presa in carico della cosiddetta Information Architecture (che precede e sostiene il lavoro della AI).

I modelli disponibili, ovvero gli algoritmi, tendono a imparare dai dati quale espressione di una realtà fattuale ma devono anche essere in grado di interagire con uno scenario desiderabile (per esempio, conformarsi a scelte strategiche del Consiglio di Amministrazione come l’allocazione del credito su settori / prenditori non economicamente ottimali). Ciò richiede la traduzione delle strategie aziendali (CdA o del comitato investimenti) in termine di “ethical guidance” per la gestione di modelli trasparenti in funzione di particolari correttivi di tipo “rule-based”.

La declinazione di principi etici non riguarda solo gli input/output degli algoritmi ma tutte le interazioni con qualunque centro decisionale dell’azienda. I principi di trasparenza (sugli incentivi e i costi delle azioni umane e digitali) favoriscono le tecniche di “explicability” (traduzione ideale delle applicazioni AI in termini di “what-if-then”), aiutando a definire un framework di controllo che non sia chiuso sulla declinazione di casi definiti (di difficile manutenzione) ma che sia aperto all’innovazione purché eticamente gestibile. Si richiede che la Information Architecure si coniughi con la Artificial Intelligence, in ottica di piattaforma enterprise wide per garantire piena interagibilità tra decisori finali ed elementi automatizzati, favorendo le verifiche ex-ante e gli stress test delle ipotesi.

L’analisi periodica delle conseguenze delle decisioni in termini di risultati finali sulla clientela e sugli stakeholders offre la possibilità di responsabilizzare azioni e correzioni tramite un feedback etico che diventi una tensione “on-going” positiva (non normativa) nell’interazione con i dati, nella calibrazione dei modelli, nella corrispondenza delle decisioni ai cambiamenti di contesto e delle strategie aziendali.

La trasparenza su incentivi, costi e conseguenze dell’azione sia umana che digitale consente di legare AI e persona in un percorso culturale aperto e sufficientemente flessibile da non essere “regola” ma “stile” aziendale. Questo diventa elemento comportamentale competitivo dell’organizzazione, che contribuisce a rafforzare le probabilità di successo delle azioni del Cda in ottica di sostenibilità delle strategie e degli impatti sociali (Sri) e ambientali (Esg). Questo è  il messaggio chiave di Financial Market Transparency, su cui ho recentemente scritto e il cui spirito ho portato alla Fondazione Leonardo presso Palazzo Montecitorio.