Nava (Berilo): “È fondamentale conoscere le nuove vulnerabilità aperte dall’IA”

Come tutte le innovazioni epocali, anche le tecnologie di Intelligenza artificiale mettono di fronte a una grande ambivalenza: aprono scenari nuovi e straordinari di sviluppo, ma il loro diffondersi produce anche nuovi fronti di incertezza rispetto ai quali ancora non esistono risposte consolidate. Questo avviene anche, stringendo il campo, nell'ambito delle applicazioni dell'IA nel settore finanziario: se da un lato queste tecnologie, nelle loro diverse declinazioni, consentono alti livelli di efficienza operativa, personalizzazione dei servizi e analisi predittive senza precedenti, la loro rapida adozione costringe anche a fare i conti con un panorama non ancora mappato di rischi emergenti e di modalità di frodi fino a ora inedite.  

"Sempre più spesso, infatti, gli attacchi informatici non sono più rivolti solo alle infrastrutture tradizionali, ma mirano a colpire e a penetrare gli stessi sistemi intelligenti sviluppati come strumenti di protezione. È evidente come questo "salto di qualità" della sfida cyber richieda non solo strumenti nuovi, ma una nuova - e diffusa - cultura della sicurezza", spiega Lorenzo Nava, Ceo di Berilo, azienda specializzata in cybersecurity e sistemi di vulnerability assessment.Un tema complesso, che costituisce uno dei principali filoni di ragionamento che verranno approfonditi il prossimo 27 e 28 maggio a Banche e Sicurezza, dove Nava sarà tra i relatori della sessione dal titolo "Lo scenario delle frodi nel settore finanziario" (martedì 27, alle ore 14.15).

"L'IA offre opportunità trasformative per il settore finanziario, ma navigare questa nuova era richiede una vigilanza costante. Proteggere i nostri istituti dalle frodi del futuro significa comprendere e contrastare attivamente le minacce IA di oggi", continua Nava, "In particolare, comprendere queste nuove minacce, mappate anche da iniziative come l'OWASP Top 10 for Large Language Model Applications, è cruciale per i nuovi manager al fine di prevenire danni finanziari, operativi e reputazionali significativi".

Secondo gli esperti di Berilo, in questo mutato scenario sono tre le vulnerabilità specifiche e il loro impatto diretto sulle frodi:

- Prompt Injection. Questa vulnerabilità permette a un malintenzionato di manipolare gli input forniti a un sistema IA (come un chatbot o un assistente virtuale) per fargli ignorare le istruzioni originali ed eseguire comandi dannosi. Immaginate un attaccante che "convince" la vostra IA a bypassare i controlli di sicurezza, estrarre dati sensibili dei clienti - come dettagli di transazioni o informazioni personali - o persino ad autorizzare operazioni fraudolente. Una semplice istruzione mascherata può diventare una chiave d'accesso non autorizzata ai vostri asset più preziosi.

- Deepfake Threat. Forse una delle minacce più tangibili e "cinematografiche". Sofisticate falsificazioni audio e video generate dall'IA possono impersonare dirigenti o clienti con un realismo sconcertante. Abbiamo già assistito a casi reali in cui deepfake sono stati usati per autorizzare trasferimenti di fondi fraudolenti per decine di milioni di dollari, aggirare sistemi di autenticazione biometrica (riconoscimento facciale/vocale) o orchestrare truffe di social engineering estremamente persuasive, facendo leva sulla fiducia. Qui, l'identità stessa diventa un vettore d'attacco.

- Model Inversion. Meno appariscente ma altrettanto pericolosa, questa tecnica consente agli attaccanti, attraverso prompt mirati, di ricostruire parti dei dati sensibili su cui il modello IA è stato addestrato. Nel contesto finanziario, ciò potrebbe tradursi nell'esposizione di profili cliente dettagliati, pattern di transazioni confidenziali, strategie di investimento proprietarie o algoritmi di rischio, aprendo la porta a frodi altamente mirate, insider trading o furto di proprietà intellettuale critica.

"La consapevolezza di queste vulnerabilità a livello C-Level è il primo, indispensabile passo. Non si tratta di meri problemi tecnici delegabili all'IT, ma di rischi strategici che impattano il core business", sottolinea Lorenzo Nava (le soluzioni proposte dall'azienda). "La mitigazione richiede un approccio proattivo e multidisciplinare: integrare la sicurezza fin dalle prime fasi di progettazione dei sistemi IA (Secure Design), implementare rigorosi processi di validazione e test (incluso l'IA Red Teaming, Ethical Hacking Tests e Penetration Tests), assicurare un monitoraggio continuo e stabilire una governance chiara sull'uso sicuro dell'IA e sulla gestione protetta dei dati".