AI e sicurezza: «La partita non è sugli strumenti, ma sulla readiness»

Trovare una vulnerabilità sta diventando sempre più veloce e quasi gratuito. Correggerla resta lento. Gli agenti chiedono nuovi criteri di accesso alle informazioni. E affidarsi a un solo modello di AI può diventare, in certe condizioni, un limite per chi deve difendersi.

Ne parla Andrea Rigoni, founder e Managing Partner di Altirium, società specializzata in readiness e resilienza avanzata e Main Partner di WeSec. Con lui abbiamo provato a capire cosa cambia davvero, per le banche, quando l'intelligenza artificiale smette di essere soltanto uno strumento e diventa un fattore di trasformazione della sicurezza.

Il cambio di passo c'è stato ad aprile, con Claude Mythos: un modello capace di individuare oltre 23.000 vulnerabilità in più di mille progetti software, inclusa una falla rimasta nascosta per 27 anni. Da allora la sequenza è stata rapida: la Casa Bianca ha sospeso l'accesso ai modelli di frontiera per i cittadini non statunitensi, i Five Eyes hanno diffuso un avviso congiunto senza precedenti, e a luglio i modelli di OpenAI, in un test a protezioni ridotte, sono usciti dall'ambiente isolato per sottrarre dati a Hugging Face. Ad agosto l'AI Security Institute britannico ha documentato agenti che creavano identità false per ingannare persone reali. Per la prima volta l'AI viene trattata come un'arma.

Solo in parte. Il vero cambiamento è la compressione del tempo: trovare una vulnerabilità è diventato rapido e quasi gratuito, correggerla resta lento e umano. Per le banche, con un patrimonio applicativo stratificato e in parte legacy, questa asimmetria è un rischio sistemico. E c'è un paradosso: le salvaguardie dei modelli commerciali hanno respinto le richieste legittime dei difensori. Chi dipende da un unico fornitore può trovarsi disarmato nel momento peggiore.

Il primo errore da evitare è correre a comprare tecnologie «AI-powered» per difendersi. L'AI è forse la più grande trasformazione a cui assisteremo nei tempi moderni: non è uno strumento, è un modo diverso di lavorare, per gli individui e per le organizzazioni. Questo richiede di portare in azienda competenze che oggi non ci sono, e va fatto attraverso veri esperti: persone che non solo capiscono l'intelligenza artificiale, ma la usano con successo ogni giorno. Gli esperti tecnologici di AI, da soli, non bastano. Servono nuove professionalità che combinino la comprensione dei dati, la comprensione di come l'AI trasforma i processi di business e una conoscenza verticale molto profonda dei processi e del contesto in cui operano. Sul piano operativo, tre priorità immediate: mappare dove l'AI è già in uso, perché permea ovunque, spesso all'insaputa dell'azienda, e trattare questi strumenti come fornitori critici, con le regole già applicate al cloud; accelerare drasticamente il ciclo di correzione delle vulnerabilità, con finestre di poche decine di ore, proteggendo il codice legacy da qualsiasi esposizione diretta; costruire capacità difensive proprie, anche con modelli eseguibili nel perimetro bancario, dove il sistema, con la regia associativa e CERTFin, ha una dimensione più efficiente della singola banca.

L'AI richiede un ripensamento completo di come funziona. I paradigmi usati finora non sono più validi: pensiamo all'accesso e alla protezione delle informazioni in un contesto in cui a operare sono gli agenti e in cui gli stessi dati possono servire a scopi molto diversi. I controlli basati su ruoli e perimetri diventano limitanti. Si comincia a ragionare su una protezione basata sul contesto, sullo scopo e sulla missione per cui l'informazione viene richiesta: modelli ancora non completamente sviluppati, su cui non esiste convergenza né una soluzione tecnologica di ampio respiro. Lo stesso vale per gli agenti: vanno governati come collaboratori, non come strumenti, con deleghe definite, supervisione continua e possibilità di revoca. Proprio perché le risposte non sono ancora a scaffale, diventa decisivo trovare in azienda dei champion: non necessariamente persone con responsabilità gerarchiche, ma persone con la testa, le conoscenze e la volontà di lavorare a questo processo di trasformazione. La sicurezza diventa parte integrante della trasformazione legata all'AI, non un dominio a sé stante.

Sì. Dopo trent'anni passati a servire governi e grandi aziende attraverso le grandi società di consulenza, ho deciso di dedicarmi totalmente a questa tematica, combinando ambiti finora separati — cyber tecnica, risk management, compliance — per dare alla leadership nuovi strumenti di decisione e di valutazione dei rischi. Readiness non è un elenco di controlli, ma la capacità dimostrata di reagire a minacce che i nostri sensi non percepiscono: come in aeronautica, dove la sicurezza dipende dalla tecnologia ma si fonda sulle decisioni di piloti e controllori, addestrati e misurati continuamente su ciò che strumenti e dati rivelano. Il rischio cyber e ibrido funziona allo stesso modo. Saremo presenti a WeSec, il 22 e 23 settembre a Milano, con un simulatore di volo che ci permetterà di spiegare in modo molto pratico come si costruisce la readiness. E avremo occasione di confrontarci con alcuni esperti in materia, tra i quali Richard Clarke, per trent'anni ai vertici della sicurezza nazionale statunitense, già coordinatore della Casa Bianca per sicurezza e antiterrorismo e primo advisor presidenziale americano dedicato alla cybersecurity.