Benanti: “Per il Papa l’AI determina potere e va regolata”

Quando Papa Leone XIV ha firmato la Magnifica Humanitas, il 15 maggio 2026, ha scelto una data che non lascia spazio ai dubbi interpretativi: il 135° anniversario della Rerum Novarum, l'enciclica con cui Leone XIII, nel 1891, prese posizione sulla questione operaia e sui nuovi rapporti di forza nati dalla rivoluzione industriale. Il parallelo è esplicito e intenzionale. Allora il potere si concentrava nelle fabbriche e nei capitali. Oggi si concentra negli algoritmi, nei dati, nelle infrastrutture computazionali che decidono — spesso senza che nessuno se ne accorga — chi ottiene un posto letto, quale notizia circola, quale lavoratore viene considerato produttivo.

A spiegare il senso politico e culturale di quel documento è Paolo Benanti, francescano del Terzo Ordine Regolare, teologo e docente di etica delle tecnologie alla Pontificia Università Gregoriana, presidente della Commissione AI per l'informazione della Presidenza del Consiglio e membro dell'Advisory Body sull'AI delle Nazioni Unite. Quest'anno ha pubblicato per Laterza "La nuova logica del dominio. Potere computazionale, democrazia e condizione umana", un libro che sembra scritto in anticipo sull'enciclica, o forse insieme ad essa, tanto le due traiettorie si sovrappongono. La tesi di fondo, spiega a Bancaforte, è la stessa: il potere computazionale non si impone con la forza, ma attraverso la persuasione, la predizione e il controllo. Non risiede in un palazzo. Risiede in una rete.

Il cuore della Magnifica Humanitas non è tecnologico, ma politico. Leone XIV non chiede di rallentare l'innovazione, né di rinunciare all'efficienza. Chiede di capire chi esercita il potere che l'intelligenza artificiale concentra e ridistribuisce, e in nome di chi. È una domanda che la dottrina sociale della Chiesa pone da 135 anni, cambiando ogni volta l'oggetto ma mantenendo la stessa struttura: quando una tecnologia trasforma i rapporti sociali, bisogna chiedersi chi ne beneficia e chi ne paga i costi.

Benanti traduce questo in termini operativi: "Ogni tecnologia, quando entra in un contesto sociale, produce ordine e distribuisce potere. Non è mai solo uno strumento". Un algoritmo che valuta un credito, segnala un rischio o profila un cliente non è una scorciatoia tecnica. È una decisione che può cambiare la vita di una persona. E quella decisione la prende qualcuno, anche quando sembra che non la prenda nessuno.

Il Papa è esplicito su un punto che spesso il dibattito pubblico tende ad aggirare: non basta che le aziende si diano da sole principi etici. "Il dialogo con le imprese è importante - spiega Benanti - ma secondo il pontefice l'autocertificazione non basta. La democrazia ci insegna che le regole devono nascere da processi partecipati, capaci di garantire il ruolo dei cittadini. Servono guardrail democratici. Servono strutture di governance esterne, non codici di condotta interni". Nel libro, Benanti chiama questa distinzione con una formula precisa: l'etica della tecnologia non è un accessorio morale da aggiungere a posteriori. È la condizione necessaria perché il sistema funzioni. Prima che il modello finisca sul mercato.

Il mondo bancario conosce bene questa logica. La fiducia non nasce dall'autocertificazione: nasce da regole comuni, vigilanza, responsabilità. L'AI Act europeo — entrato in vigore nell'agosto 2024 e applicabile pienamente dall'agosto 2026 — segue esattamente questa impostazione, con attenzione specifica ai sistemi ad alto rischio, categoria in cui rientrano molte applicazioni finanziarie: scoring del credito, sorveglianza dei mercati, profilazione del rischio.

La domanda sulla competitività globale è quella che ritorna più spesso nei dibattiti tra regolatori e imprese. Se l'Europa si dà regole e gli Stati Uniti no, chi rallenta perde terreno. Benanti usa un'analogia elementare nella sua efficacia: il codice della strada non ha distrutto l'industria automobilistica. Ha costretto i costruttori a fare macchine che potessero stare in strada senza uccidere chi le guidava. La velocità priva di affidabilità non è un vantaggio; è un rischio sistemico. E nel credito, nel risparmio, nella gestione dei dati personali, il rischio sistemico non è un'astrazione: è la condizione in cui vivono le persone.

La stessa logica si applica alla disinformazione. Leone XIV chiede esplicitamente di contrastare le narrazioni distorte amplificate dai sistemi algoritmici. Negli Stati Uniti, le grandi piattaforme si difendono richiamando il Primo Emendamento. Benanti smonta l'argomento alla base: "La libertà di espressione - osserva - nasce come limite al potere dello Stato di condizionare il pensiero degli individui, non come schermo contro qualsiasi regolazione delle piattaforme. Una falsa notizia progettata per muovere i mercati o destabilizzare la reputazione di un istituto finanziario non è esercizio del libero pensiero. È un'arma cognitiva. E come tale può diventare, e lo è già in alcuni casi, un rischio operativo, reputazionale e sistemico per il sistema finanziario.

Sul lavoro, il Papa usa un'espressione che Benanti articola così: la dignità non è in opposizione all'efficienza. Nel settore della logistica americana, che impiega milioni di lavoratori a bassa qualifica, esistono due modelli radicalmente diversi. Uno punta all'automazione totale. L'altro ridisegna i processi lasciando all'essere umano le parti che generano valore. Nei casi documentati, il secondo modello produce produttività uguale o superiore. La conclusione che se ne trae è controintuitiva rispetto alla narrativa dominante: "Una dignità ben progettata produce spesso anche più efficienza". Per le banche questo significa non usare l'AI soltanto per comprimere i tempi o. efficientare i processi. Significa liberare competenze: meno lavoro ripetitivo, più capacità di giudizio, gestione delle eccezioni, relazione diretta con il cliente.

Il capitolo più scomodo dell'enciclica riguarda l'uso militare dell'intelligenza artificiale. Leone XIV considera non ammissibile delegare a sistemi autonomi decisioni letali. Benanti non si rifugia nelle buone intenzioni: riconosce che la tecnologia è già dispiegata, ma rifiuta il fatalismo, "il genio è uscito dalla lampada, non possiamo farci nulla", come una narrazione che giustifica la resa. La storia delle armi atomiche, delle mine antiuomo, dei trattati internazionali dimostra che anche le tecnologie più distruttive possono essere limitate quando c'è volontà politica. "Disarmare l'AI", l'espressione del Papa, non è una metafora. È un programma. E le tecnologie dual use, nate per usi civili e poi trasferite in ambito militare, mostrano che innovazione, sicurezza e geopolitica sono già intrecciate in modi che nessun investitore può permettersi di ignorare.

Ci sarà una reazione da parte delle grandi aziende tecnologiche americane e cinesi? Benanti indica un fatto strutturale spesso sottovalutato: le religioni rappresentano la maggioranza degli abitanti del pianeta. Google, Microsoft, Alibaba, OpenAI possono orientare i propri modelli come vogliono. Non possono prescindere dai miliardi di persone le cui visioni del mondo e della giustizia sono formate, anche, da tradizioni religiose. La Chiesa si presenta come interlocutore disponibile al dialogo, la stessa presentazione dell'enciclica ha visto la partecipazione di figure del mondo tecnologico, come il cofondatore di Anthropic Chris Olah, ma dialogo non significa accettazione passiva. "Bisogna negoziare", spiega il francescano.

Nel libro di Benanti, La nuova logica del dominio, la tesi finale è questa: se un tempo il potere era visibile — incarnato in monarchi, Stati, istituzioni — oggi si presenta come una forza disincarnata e onnipresente che non risiede in nessun palazzo, ma attraversa i confini nazionali e invade la sfera privata senza chiedere permesso. La Magnifica Humanitas non risolve questo problema. Lo nomina con una precisione che mancava al dibattito pubblico. E pone, al mondo bancario come a tutti gli altri, una domanda che non ammette risposte tecniche: che idea di persona, di lavoro e di società stiamo incorporando nei nostri algoritmi?