Cibersecurity: l’AI aumenta o riduce il rischio?
Come in altri ambiti, anche nella cybersecurity l’Intelligenza Artificiale si sta facendo spazio.
Ed effettivamente porta con sè moltissimi vantaggi: può aiutare ad analizzare grandi quantità di eventi, individuare comportamenti anomali, riconoscere vulnerabilità, supportare la gestione degli incidenti e ridurre il tempo necessario per interpretare informazioni che un team di sicurezza dovrebbe altrimenti analizzare manualmente.
Allo stesso tempo, però, l’introduzione dell’AI nei sistemi e nei processi aziendali crea nuovi punti di accesso, nuovi flussi di dati e nuove dipendenze tecnologiche.
La stessa tecnologia che può aumentare la capacità di difesa può quindi ampliare la superficie che l’organizzazione deve proteggere.
La Commissione Europea ha riconosciuto esplicitamente questa doppia dimensione nel nuovo Action Plan on Cybersecurity and Artificial Intelligence, pubblicato nel luglio 2026: l’AI può rafforzare prevenzione, detection e risposta, ma può anche essere utilizzata per automatizzare attacchi, individuare vulnerabilità e aumentare velocità e scala delle operazioni offensive.
La questione, quindi, non è stabilire se l’AI aumenti o riduca il rischio cyber, dipende da come viene introdotta, da quali sistemi può raggiungere e da come viene governata.
Dove l’AI può rafforzare la cybersecurity.
Uno dei principali vantaggi dell’AI riguarda la capacità di analizzare rapidamente grandi quantità di informazioni. E questo è ormai risaputo.
Un ambiente aziendale può produrre continuamente log, eventi, accessi, alert e dati provenienti da sistemi differenti. Individuare manualmente ciò che merita attenzione diventa sempre più difficile.
L’AI può supportare i team di sicurezza in attività come:
-
individuazione di comportamenti anomali
-
analisi e classificazione degli alert
-
ricerca di vulnerabilità
-
correlazione tra eventi provenienti da fonti differenti
-
analisi delle minacce
-
prioritizzazione degli interventi
-
supporto durante la risposta agli incidenti
Il valore non consiste necessariamente nell’affidare all’AI la gestione autonoma della sicurezza. In molti casi consiste nel ridurre il volume di informazioni che una persona deve analizzare, permettendo ai team di concentrarsi sugli eventi realmente significativi.
Anche l’ENISA evidenzia questa duplice capacità: le tecniche AI possono rafforzare le security operations e contribuire alla mitigazione degli attacchi, a condizione che gli stessi sistemi AI siano adeguatamente protetti.
Quando l’AI diventa parte della superficie di attacco.
Il quadro cambia quando un sistema AI viene collegato a dati, applicazioni e processi aziendali.
Un assistente che può soltanto rispondere a una domanda presenta un determinato livello di esposizione.
Un agente che può consultare database, interagire con un ERP, utilizzare API o eseguire attività per conto di un utente presenta un perimetro molto diverso.
Aumentano infatti le componenti che devono essere considerate: il modello, i dati utilizzati, le fonti informative, le integrazioni, le API, le credenziali e le autorizzazioni necessarie per svolgere le attività.
Il NIST evidenzia proprio questo aspetto nel proprio profilo dedicato alla Generative AI: i sistemi generativi possono ampliare capacità offensive, ma contemporaneamente costituiscono una nuova superficie di attacco e possono essere vulnerabili, tra gli altri rischi, a tecniche come prompt injection e data poisoning.
La cybersecurity dell’AI non riguarda quindi soltanto la protezione del modello, bensì l’intero sistema nel quale il modello stesso viene inserito.
Prompt injection: quando l’input prova a cambiare il comportamento del sistema.
Uno dei rischi specifici dei sistemi basati su modelli linguistici riguarda la possibilità di manipolarne le istruzioni.
Un contenuto apparentemente innocuo può contenere indicazioni progettate per modificare il comportamento del modello, aggirare istruzioni precedenti o indurlo a utilizzare informazioni e strumenti in modo non previsto.
Il problema diventa più rilevante quando l’AI può accedere a fonti esterne o eseguire azioni.
In questi casi non è sufficiente proteggere l’interfaccia attraverso cui l’utente interagisce con il sistema. Occorre considerare anche i contenuti che l’AI legge e interpreta come parte del proprio contesto.
Questo cambia il modello tradizionale di sicurezza: un documento, una pagina o un’informazione recuperata automaticamente possono diventare parte dell’input che guida il comportamento del sistema.
I dati rappresentano un altro perimetro critico.
Molti utilizzi dell’AI aziendale richiedono accesso a informazioni interne.
Documenti, dati di clienti e fornitori, informazioni finanziarie, procedure, ticket, codice sorgente o dati provenienti dall’ERP possono essere utilizzati per costruire il contesto necessario alla soluzione.
Oltre a definire quali dati servono all’AI, è necessario stabilire anche:
-
quali informazioni può utilizzare
-
quali utenti possono accedervi attraverso l’AI
-
dove vengono elaborate
-
come vengono conservate
-
quali dati non devono essere esposti
-
come vengono gestite le informazioni riservate
L’AI può infatti diventare un nuovo punto attraverso il quale vengono interrogati dati già presenti nell’organizzazione.
Le autorizzazioni rimangono quindi centrali. Un sistema che consente di interrogare facilmente la conoscenza aziendale non dovrebbe permettere a un utente di accedere, tramite l’AI, a informazioni che non potrebbe consultare direttamente.
Con gli agenti AI il tema diventa ancora più rilevante.
La diffusione degli agenti introduce un ulteriore livello.
Un agente non si limita necessariamente ad analizzare informazioni o suggerire una risposta. Può essere autorizzato a interagire con sistemi, utilizzare strumenti ed eseguire azioni.
A quel punto la domanda di sicurezza diventa anche“Che cosa può fare questo agente?”
Se dispone di credenziali e autorizzazioni molto estese, un errore o una manipolazione potrebbero avere effetti molto diversi rispetto a quelli prodotti da un semplice chatbot.
Diventano quindi particolarmente importanti principi già consolidati nella cybersecurity, come il least privilege: concedere soltanto gli accessi realmente necessari per svolgere una determinata funzione.
Per gli agenti significa definire con precisione quali sistemi possano raggiungere, quali operazioni possano eseguire, quali dati possano utilizzare e quando sia necessaria un’approvazione umana.
Più cresce l’autonomia, più devono crescere anche tracciabilità e controllo.
AI per la cybersecurity e cybersecurity dell’AI sono due problemi diversi.
Questa distinzione è probabilmente la più importante.
Da una parte abbiamo AI for cybersecurity: utilizzare l’Intelligenza Artificiale per migliorare detection, analisi, prevenzione e risposta.
Dall’altra abbiamo Cybersecurity for AI: proteggere modelli, dati, integrazioni e applicazioni AI da manipolazioni, accessi impropri e comportamenti non previsti.
Le aziende dovranno affrontare entrambe. Concentrarsi soltanto sulla prima significherebbe beneficiare delle nuove capacità dell’AI senza considerare il nuovo perimetro che si sta introducendo.
Concentrarsi soltanto sui rischi significherebbe invece rinunciare a strumenti che possono aumentare la capacità di analisi e risposta.
Il nuovo Action Plan europeo su Cybersecurity e AI nasce proprio da questa esigenza di affrontare insieme opportunità e rischi. La Commissione prevede, tra le altre iniziative, capacità europee di valutazione dei modelli, ambienti sicuri di test per i settori critici e un maggiore utilizzo dell’AI per individuare vulnerabilità e rafforzare la risposta agli attacchi.
Il tema non è separato da NIS2 e AI Act.
Per le aziende europee questo scenario si inserisce inoltre in un quadro regolatorio più ampio. La Commissione collega esplicitamente il nuovo Action Plan alla NIS2, all’AI Act, al Cyber Resilience Act, a DORA e al Cyber Solidarity Act.
Non significa che ogni progetto AI ricada automaticamente negli stessi obblighi. Significa però che AI governance e cybersecurity stanno diventando sempre meno separabili.
L’AI Act, ad esempio, include robustezza e cybersecurity tra i requisiti previsti per i sistemi classificati high-risk, insieme a gestione del rischio, qualità dei dati, logging, documentazione e supervisione umana.
Per le organizzazioni soggette a NIS2, allo stesso tempo, l’introduzione di nuovi sistemi AI può modificare applicazioni, accessi, fornitori e dipendenze che fanno parte del rischio cyber complessivo.
Abbiamo approfondito gli obblighi e l’evoluzione del percorso nella roadmap NIS2 degli adempimenti.
Cosa significa introdurre AI senza aumentare inutilmente il rischio.
Non è necessario creare un modello di sicurezza completamente nuovo per ogni progetto AI. Molti principi rimangono quelli già utilizzati per governare sistemi e applicazioni critiche. Occorre però applicarli considerando le caratteristiche specifiche dell’AI. In particolare:
Conoscere il perimetro > quali modelli e soluzioni AI vengono utilizzati? A quali sistemi e informazioni sono collegati?
Governare gli accessi > utenti e agenti devono poter utilizzare soltanto dati e funzionalità coerenti con le rispettive autorizzazioni.
Proteggere i dati > deve essere chiaro quali informazioni possano entrare nel sistema AI e come vengano elaborate.
Testare nuovi vettori di attacco > prompt injection, manipolazione delle fonti e altri comportamenti specifici dell’AI devono entrare nelle attività di testing.
Monitorare ciò che accade > le interazioni e, soprattutto, le azioni eseguite devono poter essere ricostruite quando necessario.
Integrare l’AI nell’incident response > un incidente che coinvolge un sistema AI deve poter essere rilevato, analizzato e gestito all’interno dei processi di sicurezza esistenti.
Valutare i fornitori > modelli, servizi cloud e componenti esterni introducono dipendenze che devono essere comprese e governate.
È lo stesso principio che vale più in generale nei progetti AI: la qualità della tecnologia non è sufficiente se il contesto organizzativo nel quale viene inserita non è adeguatamente gestito. Lo abbiamo approfondito nell’articolo Perché un progetto AI può fallire anche se la tecnologia funziona.
La sicurezza deve entrare nel progetto AI dall’inizio.
L’AI può aumentare significativamente la capacità di un’organizzazione di individuare vulnerabilità, interpretare segnali e reagire più rapidamente agli incidenti.
Ma ogni nuovo sistema AI collegato ai processi aziendali introduce anche dati, accessi, integrazioni e dipendenze che devono essere protetti.
Per questo cybersecurity e Intelligenza Artificiale non dovrebbero essere affrontate in due momenti separati.
Più che “quanto può fare l’AI”, bisogna stabilire fin dall’inizio a cosa può accedere, quali azioni può compiere e quali controlli devono accompagnarne l’utilizzo.
L’obiettivo non è limitare l’adozione dell’AI, ma introdurla senza perdere il controllo del perimetro che stiamo creando.
AIM Major affianca le aziende nell’evoluzione di sistemi e processi, integrando tecnologia, cybersecurity e governance per valutare le implicazioni operative dei nuovi strumenti digitali.
Contattaci per confrontarci sul tuo contesto aziendale.


