Frontier AI e cybersecurity con Palo Alto Networks

Il punto di vista di Haider Pasha, VP & CSO EMEA di Palo Alto Networks

Come funziona davvero Cluade Mythos? Che ruolo ha Project Glasswing? E come si traduce tutto questo per le aziende? In esclusiva per NTS, Haider Pasha, VP & CSO EMEA presso Palo Alto Networks, fa il punto sugli sviluppi più recenti nel campo della cybersecurity e spiega quali saranno i prossimi passi per le aziende.

Con oltre 20 anni di esperienza nel settore IT, Haider Pasha vanta approfondite competenze nel campo della sicurezza informatica.

Gli aspetti più interessanti emersi da Project Glasswing: che cosa vi ha maggiormente sorpreso nell’utilizzo dei modelli Frontier sui vostri stessi prodotti e che cosa avete imparato, al di là dei risultati?

Haider Pasha: È proprio questo il punto. Non ci ha sorpreso la quantità di risultati ottenuti, ma il fatto che il modello pensasse come un hacker. La Frontier AI è particolarmente efficace nel combinare vulnerabilità relativamente poco gravi, che singolarmente non sarebbero una priorità per il patching, e trasformarle in tempo reale in catene di exploit critiche. Un esempio emerso dai nostri test mostra come due vulnerabilità di gravità media e una di gravità bassa possano confluire in un unico exploit critico. E nessuna delle tre sarebbe stata considerata prioritaria.

Un’altra sorpresa è stata la quantità di lavoro svolta: in tre settimane di scansioni su Mythos abbiamo raggiunto l’equivalente di oltre due anni di attività di Penetration Test. Inoltre, abbiamo individuato vulnerabilità legate alla logica applicativa che gli strumenti tradizionali, per loro natura, non sono in grado di rilevare.

Ciò che distingue davvero questi modelli, però, non è tanto la capacità di programmare, quanto la perseveranza. La maggior parte dei modelli lavora in sessioni di qualche minuto, mentre questi modelli ottimizzati per la cybersecurity riescono a sostenere anche sessioni di diverse ore. Un Red Team umano non riesce a gestire così tanto contesto contemporaneamente, mentre un modello sì. Ma il modello è diventato davvero potente quando abbiamo creato un ambiente di sicurezza in grado di fornirgli un ampio contesto: cosa fa il codice, come sono stati condotti gli attacchi precedenti, le nostre informazioni di Threat Intelligence e molto altro. Nel complesso, riteniamo di aver inizialmente sottovalutato le capacità del modello nei nostri test.

Abbiamo quindi capito che concentrarsi sulla gravità dei singoli problemi non garantisce la resilienza. Oggi definiamo le priorità in base al percorso di attacco, anziché alla gravità delle singole vulnerabilità.

Frontier AI nel concreto: che cosa è cambiato nel vostro approccio allo sviluppo dei prodotti da quando avete accesso ai modelli Frontier?

Haider Pasha: Abbiamo iniziato a testare Mythos il 7 aprile come partner di lancio di Project Glasswing e, in poche settimane, abbiamo completato una prima scansione di oltre 130 prodotti sulle nostre tre piattaforme. Il risultato è stato pubblicato a maggio nel nostro “Patch Wednesday”: 26 CVE relative a 75 vulnerabilità; quasi cinque volte il nostro normale tasso di individuazione, che si attesta a meno di 5 CVE. Nessuna di queste vulnerabilità era stata sfruttata in attacchi reali. Tutti i prodotti SaaS sono già stati aggiornati con le relative patch, mentre per i prodotti gestiti direttamente dai clienti sono disponibili le patch necessarie. Il tutto passa attraverso lo stesso processo PSIRT che i clienti conoscono già.

Questo andamento dimostra concretamente il principio “Attack yourself first”: storicamente individuavamo circa 5 CVE al mese, mentre il Frontier Sweep ne ha portate alla luce 26. Una volta risolte queste vulnerabilità, prevediamo che il tasso di rilevamento si stabilizzi su livelli  ancora più bassi rispetto al passato. È questo l’obiettivo: un forte aumento iniziale delle vulnerabilità, seguito da un livello stabilmente più basso. È la curva a cui ogni azienda dovrebbe puntare.

Nel quotidiano sono cambiate principalmente tre cose. Abbiamo creato ambienti di sicurezza con scansioni basate sull’IA, perché i modelli non fanno magie e perché servono contesto, vincoli e Threat Intelligence per ottenere risultati di qualità. Effettuiamo continuamente nuove scansioni e inseriamo ogni risultato nel sistema. E con l’approccio “Shift Left” integriamo i modelli direttamente nel ciclo di sviluppo software, così gli sviluppatori possono verificare autonomamente la presenza di errori nel proprio codice prima del merge. Ora le priorità di intervento vengono definite in base all’esposizione agli attacchi, all’impatto sull’operatività aziendale e alla possibilità di sfruttare i sistemi con l’AI, non più alla sola gravità delle CVE.

Volumi vs. valori: come può un cliente capire se il risultato di una scansione richiede un intervento?

Haider Pasha: I numeri da soli non dicono nulla. Nei primi test abbiamo riscontrato circa un terzo di falsi positivi, e tra le vulnerabilità effettivamente rilevate, la maggior parte non avrebbe mai avuto conseguenze negative per il cliente. È normale che il modello produca risultati grezzi, non sempre accurati o rilevanti. Per questo ogni risultato deve essere validato da un analista. È questo che distingue un sistema di sicurezza efficiente da uno che produce semplicemente falsi allarmi. Senza questa validazione, i team rischiano di essere sommersi da un numero eccessivo di rilevamenti, mentre le vere catene di exploit possono passare inosservate.

Un risultato è rilevante ai fini operativi quando risponde a queste domande: è effettivamente raggiungibile da un attacco? Si tratta di una reale raggiungibilità (Reachability), non della sola presenza teorica? Quali sarebbero le possibili conseguenze in caso di attacco riuscito e come si sviluppa l’intera catena di exploit, anche in relazione ad altri problemi? E l’IA può sfruttare la vulnerabilità? Perché questa possibilità è ora un fattore molto importante.

Un test pratico consiste nel verificare se la rilevazione restituisce priorità di intervento aggiornate, basate sulla catena di exploit. Se è così, il risultato è realmente utile sul piano operativo. Se fornisce solo una lunga lista di CVE, allora non lo è.

3 passaggi chiave: quali sono le tre priorità su cui i responsabili IT dovrebbero concentrarsi nei prossimi 90 giorni?

Haider Pasha:
Uno: partite da voi stessi. Usate l’IA per individuare e risolvere le vulnerabilità all’interno del codice, delle applicazioni o della catena di distribuzione del software, prima che si verifichi un attacco. Create un inventario completo delle vulnerabilità effettivamente raggiungibili e riorganizzate la risoluzione in base alla catena di exploit anziché alla gravità.

Due: colmate le lacune strutturali. Estendete Zero Trust e Identity Security a ogni identità (persone, macchine e IA), proteggete le identità non umane e introducete controlli sui movimenti laterali e sulle connessioni in uscita. Rafforzate inoltre le misure di prevenzione per arrivare a una copertura del 100%, con XDR completo, sicurezza degli endpoint basata su agenti e un browser aziendale sicuro.

Tre: agite con più rapidità. Automatizzate fin da subito la gestione delle patch: con l’aumento degli attacchi, ogni patch non applicata tempestivamente diventerà una vulnerabilità nota e sfruttabile. Modernizzate inoltre il SOC per arrivare a tempi di rilevamento (MTTD) e di risposta (MTTR) di pochi minuti.

Le regole non cambiano, ma oggi è soprattutto il rigore con cui vengono applicate a fare la differenza: le aziende che sono “in gran parte protette” sono, di fatto, non protette.

L’identità è la nuova linea del fronte: perché oggi è proprio l’identità a fare la differenza, e non il classico patching?

Haider Pasha: A causa dell’aumento degli attacchi che partono dall’interno. Gli hacker che utilizzano l’IA riescono sempre più spesso a penetrare direttamente nell’infrastruttura – pensate al caso di SolarWinds di qualche anno fa – aggirando le tradizionali fasi di attacco che i controlli perimetrali erano progettati per rilevare. Non è più solo un’ipotesi: i recenti attacchi alla supply chain di strumenti come LiteLLM e Truvy mostrano proprio questo schema. Una volta ottenuto l’accesso a un sistema, il bersaglio diventa l’identità: credenziali, token, autorizzazioni e possibilità di movimento laterale. E oggi non parliamo più soltanto di identità umane. Le identità delle macchine e degli agenti IA sono ormai di gran lunga più numerose e, nella maggior parte dei casi, anche meno regolamentate.

Inoltre, il patching da solo nasconde un’amara verità. Chi esegue attacchi rileva e sfrutta le vulnerabilità prima ancora che esista una patch per risolverle. Uno zero-day scoperto da un modello Frontier, non può essere affrontato con una patch che ancora non esiste. La modernizzazione delle identità, la segmentazione Zero Trust e l’utilizzo di credenziali temporanee offrono invece una protezione anche contro vulnerabilità ancora sconosciute.

Non si tratta di scegliere tra la sicurezza delle identità e il patching, ma di considerare l’identità come un livello di protezione che entra in gioco quando le patch, inevitabilmente, non riescono a tenere il passo.

L’IA come arma a doppio taglio: quali sono oggi le principali convinzioni errate dei clienti sulle minacce legate all’IA?

Haider Pasha: L’idea più sbagliata è pensare che si tratti di un problema del futuro e che riguardi sostanzialmente e-mail di phishing più sofisticate. In realtà, non sta cambiando solo la velocità degli attacchi, ma anche il modo in cui vengono condotti: l’IA rileva vulnerabilità su grande scala, genera exploit quasi in tempo reale, collega vulnerabilità poco gravi in catene di attacco critiche ed evolve da agenti basati sull’IA verso sistemi completamente autonomi. L’accesso a funzionalità di attacco avanzate è sempre più alla portata di tutti, con attività che prima richiedevano giorni o settimane di lavoro manuale altamente qualificato, ma che presto potranno essere eseguite in pochi minuti e da un numero molto più ampio di soggetti.

Il secondo equivoco è pensare che bastino delle regole o dei vincoli per arginare il problema. Non è così. Prevediamo una finestra temporale piuttosto ristretta, dai tre ai cinque mesi, prima che queste funzionalità vengano integrate nei modelli open source e finiscano nelle mani sbagliate.

Un’altra convinzione diffusa è che serva un quadro di riferimento completamente nuovo per la sicurezza. Finora, però, i modelli Frontier hanno individuato nuovi attacchi, ma non nuove tecniche di attacco, e questo è un vantaggio per chi deve difendersi. A cambiare è piuttosto lo standard di esecuzione: servono una copertura del 100% e tempi di riposta adeguati alla velocità delle macchine.

Nuove dimensioni, nuove finestre temporali: quale ruolo possono svolgere gli integratori di sistemi come NTS per portare queste innovazioni ai clienti nei tempi e con le modalità giuste?

Haider Pasha: È molto semplice: i laboratori di IA ci forniscono gli strumenti, mentre chi opera nel settore della sicurezza ne garantisce l’applicazione sul piano operativo. Partner come NTS fanno sì che la difesa arrivi concretamente negli ambienti dei clienti. I clienti possono acquistare funzionalità sempre più avanzate, ma spesso fanno fatica a implementarle e a sfruttarle appieno. Il nuovo standard richiede una copertura e un’ottimizzazione del 100%, e questo rende più complessa la fase di implementazione e gestione. Ma è proprio qui che entrano in gioco i partner specializzati nell’integrazione tecnologica.

In concreto, NTS aiuta i clienti a gestire questa nuova esigenza partendo da un’analisi della loro esposizione e del rischio effettivo, per poi intervenire sulle lacune e arrivare a una copertura completa delle misure di prevenzione. A questo si aggiungono l’automazione e il supporto ai SOC, con l’obiettivo di portare i tempi di risposta a pochi minuti. NTS è inoltre un punto di riferimento locale per i clienti che non dispongono delle risorse interne necessarie.

È proprio la finestra temporale di tre-cinque mesi a rendere la questione così urgente: questa transizione deve avvenire contemporaneamente per migliaia di aziende nell’arco di pochi mesi.  Senza un canale, è impossibile rendere il processo scalabile.

Prospettive future: che cosa possiamo aspettarci da qui alla fine dell’anno, e come si traduce tutto ciò nella collaborazione con NTS?

Haider Pasha: Sono convinto che la situazione si complicherà ulteriormente, anziché attenuarsi. Secondo le nostre stime, ci vorranno dai tre ai cinque mesi prima che le funzionalità di cybersecurity dei modelli Frontier siano disponibili nei modelli open source e finiscano nelle mani degli hacker. Potrebbe quindi accadere già entro la fine di quest’anno. Preparatevi a un forte aumento delle vulnerabilità e delle patch da applicare, a una crescita delle minacce interne e ai primi veri cicli di attacco autonomi gestiti dall’IA. Ma è importante fare una distinzione: l’urgenza non riguarda i modelli attuali, che sono nelle mani di chi si difende, bensì la prossima generazione, quando queste funzionalità saranno disponibili a tutti. Chi si prepara oggi, quindi, non lo fa per reagire a ciò che già esiste, ma per essere pronto a ciò che verrà.

Di fronte a questa accelerazione, anche la difesa deve cambiare passo. Il patching virtuale sta raggiungendo un nuovo livello di protezione e mitigazione del rischio, permettendo ai team di guadagnare tempo durante le fasi di intensa attività di patching. Questo è particolarmente importante negli ambienti OT e nelle infrastrutture critiche, dove non è possibile mandare un team nelle varie sedi ogni volta che viene pubblicato un Patch Wednesday. Una patch virtuale a livello di firewall e IPS blocca il modello di exploit e crea una finestra temporale in cui intervenire.

Per NTS, questa stessa urgenza significa partire dalla valutazione dell’esposizione e accompagnare i clienti nella modernizzazione dei controlli e dei processi operativi. I clienti che stiamo affiancando in questi sei mesi si troveranno in una posizione nettamente diversa rispetto a quelli che preferiscono aspettare.

Da 25 a meno di 15 minuti: che relazione c’è tra queste due finestre temporali e cosa significa per un SOC che non dispone di una risposta completamente automatizzata?

Haider Pasha: Sono i due estremi della catena di attacco, che si stanno entrambi accorciando sempre di più. Meno di 15 minuti dopo la pubblicazione di una nuova CVE, gli hacker iniziano a scansionare le vulnerabilità: è il cosiddetto “time to target”, il tempo necessario per arrivare al bersaglio. I 25 minuti indicano invece il tempo che intercorre tra il primo accesso e l’esfiltrazione dei dati negli scenari basati sull’IA: è il “time to impact”, ovvero il tempo necessario per arrivare all’impatto. In breve, l’intero attacco, dall’individuazione di una vulnerabilità alla fuga di dati, può concludersi più rapidamente di quanto la maggior parte dei SOC impieghi per analizzare un singolo allarme.

La nuova soglia di riferimento è quindi chiara: servono MTTD e MTTR inferiori a cinque minuti. Sappiamo che è possibile perché abbiamo ottenuto questi tempi nel nostro SOC. Elabora quasi 180 TB di dati al giorno per ciascuna sede e raggiunge tempi di rilevazione e risoluzione di circa un minuto, mentre l’attacco più veloce che abbiamo osservato è durato 23 minuti. Se i tempi di risposta sono di 1 minuto e l’attacco dura 23 minuti, vince chi si difende. Se invertiamo questi numeri, si perde ogni volta.

Il perimetro di sicurezza continua a rafforzarsi, ma oggi l’investimento davvero strategico è in un SOC in tempo reale, che combini rilevamenti basati sul machine learning, dati uniformi provenienti da tutte le fonti e automazione end-to-end su un’unica piattaforma. È proprio nei passaggi tra le singole soluzioni che si perdono quei 25 minuti.

L’89% dei casi coinvolge l’identità: quanto è diventata centrale la sicurezza delle identità rispetto al tradizionale patching delle vulnerabilità? E da dove dovrebbe partire un cliente con un budget ridotto?

Haider Pasha: Non la vedrei tanto come una scelta tra una cosa e l’altra. Se però il budget mi costringesse a stabilire delle priorità, dividerei l’intervento in tre passaggi. Per prima cosa, partirei da una valutazione dell’esposizione basata sull’IA, perché non è possibile stabilire le priorità di investimento senza conoscere le reali catene di exploit. In questo modo, l’investimento può essere proporzionato al rischio effettivo e orientato verso ciò che serve davvero, sia che il problema riguardi l’esposizione sia che riguardi l’identità. Poi, naturalmente, entrano in gioco Identity Security e Zero Trust, che rappresentano un livello di controllo trasversale: proteggono allo stesso modo dall’accesso tramite phishing, da una vulnerabilità non patchata e da una falla zero-day. Se l’identità compare in nove casi su dieci, questo è il controllo che offre la copertura più ampia rispetto all’investimento. Il patching procede in parallelo, ma con una rigorosa definizione delle priorità. Non “inseriamo patch ovunque”, ma interveniamo sulle vulnerabilità accessibili dall’esterno e concatenabili, che hanno un forte impatto sull’attività aziendale e che sono state individuate dalla valutazione.

Le patch riducono il numero di “porte” da cui si può accedere, le identità limitano ciò che un hacker può fare non appena riesce a superarne una – comprese quelle che non sono ancora state individuate – e il SOC in tempo reale rappresenta l’investimento più sostenibile, in grado di intercettare tutto ciò che, comunque, riesce a sfuggire.

Due partner Frontier insieme, Glasswing e Trusted Access for Cyber: che cosa offre uno rispetto all’altro? Avrebbe senso adottare un approccio multi-modello?

Haider Pasha: Abbiamo scelto di unire i due programmi in un’unica partnership perché i nostri test hanno evidenziato differenze significative tra i modelli. Il modo in cui sono stati addestrati fa sì che ciascuno individui vulnerabilità che l’altro non rileva. Come ha sottolineato il nostro CTO Lee Klarich nella “Defender’s Guide” di maggio, un approccio multi-modello è indispensabile per individuare il numero complessivo di vulnerabilità. In altre parole, è il principio “Defense in Depth” applicato all’individuazione delle vulnerabilità. Avere più prospettive indipendenti riduce i punti ciechi e il rischio di dipendere dalla roadmap di sviluppo di un singolo modello.

Quello che invece non si democratizza è tutto il lavoro tecnico che c’è dietro al modello. Il vero vantaggio difensivo non è il modello in sé, ma l’ambiente di sicurezza che gli abbiamo costruito attorno. Presto tutti potranno accedere a queste API. Ciò che invece ha richiesto mesi di lavoro a centinaia dei nostri ingegneri della sicurezza è stato creare un ambiente che combina un contesto ricco, Threat Intelligence, vincoli e una rigorosa disciplina di validazione, trasformando risultati grezzi in catene di exploit verificate.

Un approccio multi-modello potrebbe quindi essere una soluzione valida per i nostri clienti? In linea di principio sì, ma ci sono due aspetti da considerare. Il primo riguarda la governance: è importante limitare il contesto del codice sorgente che si condivide e assicurarsi contrattualmente che nessun dato venga conservato. Il secondo è che le funzionalità offerte dai modelli, da sole, non sono una difesa. I laboratori di IA le rendono disponibili, ma trasformarle in risultati validati, prioritizzati e utilizzabili richiede una disciplina diversa. È proprio qui che entra in gioco “Unit 42 Frontier AI Defense”, che permette ai clienti di ottenere i vantaggi di un approccio multi-modello senza dover costruire internamente tutto ciò che serve.

Volete saperne di più sulla Frontier AI e Project Glasswing?

Contattate i nostri esperti per fissare un appuntamento: sales@nts.eu.