Cybersecurity 2026: dall’AI alla resilienza organizzativa

Shadow AI, deepfake, agenti AI, passkey e crittografia post-quantum stanno trasformando la sicurezza digitale in una responsabilità strategica

La cybersecurity sta attraversando una trasformazione profonda. Proteggere reti, sistemi, dispositivi e credenziali rimane indispensabile, ma non è più sufficiente. L’intelligenza artificiale generativa (IAG), l’automazione dei processi, la crescente sofisticazione delle frodi digitali e l’evoluzione della crittografia stanno ampliando il perimetro del rischio.

Nel 2026, una vulnerabilità può nascere non soltanto da un malware o da una configurazione tecnica inadeguata, ma anche dall’utilizzo non governato di strumenti di intelligenza artificiale, da un contenuto audiovisivo sintetico credibile, da un agente digitale dotato di privilegi eccessivi oppure dalla conservazione di dati cifrati che potrebbero diventare decifrabili in futuro.

La sicurezza digitale non può quindi restare confinata a un presidio specialistico. Deve diventare parte integrante della governance aziendale e istituzionale: una capacità organizzativa fondata su regole, responsabilità, competenze, verificabilità dei processi e protezione del valore informativo nel tempo.

Shadow AI: quando l’innovazione cresce più rapidamente delle regole

Con l’espressione Shadow AI si indica l’utilizzo di strumenti di intelligenza artificiale da parte di dipendenti, collaboratori o funzioni aziendali senza un’autorizzazione formale, senza adeguata tracciabilità e senza una valutazione preventiva dei dati trattati.

Il fenomeno è comprensibile. Gli strumenti generativi possono supportare numerose attività quotidiane: sintetizzare documenti, rivedere testi, analizzare informazioni, tradurre contenuti, elaborare presentazioni o velocizzare attività operative.

Il rischio emerge quando in questi strumenti vengono inseriti documenti riservati, dati personali, informazioni strategiche, contratti, codice sorgente, analisi interne o contenuti non destinati a piattaforme esterne. In tali circostanze, l’organizzazione può perdere visibilità su aspetti essenziali:

• quali informazioni siano state caricate;
• dove vengano elaborate o conservate;
• chi possa accedervi;
• quali condizioni regolino il loro trattamento;
• se l’utilizzo sia coerente con obblighi di riservatezza, sicurezza e protezione dei dati.

La risposta più efficace non consiste nel vietare indiscriminatamente l’intelligenza artificiale. Un divieto privo di strumenti alternativi e procedure realistiche rischia di spingere gli utilizzi fuori dai processi ufficiali, rendendoli ancora meno controllabili.

Occorre invece adottare un modello di governo chiaro: strumenti autorizzati, classificazione delle informazioni utilizzabili, controlli di accesso, formazione, responsabilità definite e procedure per la valutazione dei rischi.

Il principio è semplice: un’organizzazione non può proteggere dati e processi di cui non conosce l’utilizzo.

Questa impostazione è coerente con il quadro europeo sulla sicurezza dell’intelligenza artificiale. Nel documento Multilayer Framework for Good Cybersecurity Practices for AI, l’Agenzia dell’Unione europea per la cibersicurezza propone un modello articolato su tre livelli: fondamenti generali della cybersecurity, misure specifiche per l’intelligenza artificiale e misure coerenti con i diversi settori applicativi. La sicurezza dell’AI viene così ricondotta non soltanto alla protezione tecnica dei sistemi, ma anche alla governance delle operazioni e dei processi organizzativi.

Deepfake: quando riconoscere una voce o un volto non basta più

La capacità di generare immagini, audio e video artificiali sempre più realistici sta modificando profondamente gli attacchi basati sull’ingegneria sociale.

Una telefonata può riprodurre la voce di un dirigente. Un video può mostrare un interlocutore apparentemente autentico. Un messaggio vocale può imitare tono, urgenza e stile comunicativo di una persona realmente conosciuta dalla vittima.

Il rischio non riguarda soltanto la disinformazione o il danno reputazionale. In un contesto professionale, un deepfake può essere utilizzato per:

• richiedere un pagamento urgente;
• ottenere l’invio di documenti riservati;
• modificare coordinate bancarie o procedure autorizzative;
• convincere una persona a comunicare credenziali;
• simulare un’autorizzazione dirigenziale;
• condizionare processi decisionali sensibili.

Per molto tempo, la familiarità ha rappresentato una forma implicita di verifica: riconoscere una voce, vedere un volto o ricevere un messaggio coerente con lo stile abituale di una persona. Oggi questi segnali possono essere riprodotti artificialmente con crescente precisione.

La difesa deve quindi spostarsi dalla percezione individuale al processo verificabile. Le richieste sensibili devono essere confermate attraverso canali indipendenti, procedure formalizzate e sistemi di autenticazione robusti, anche quando l’interlocutore appare credibile.

Nel nuovo scenario digitale, la domanda corretta non è più: «Sembra davvero la persona che conosco?». La domanda corretta è: «L’operazione è stata verificata secondo la procedura prevista?».

Anche il quadro normativo europeo riconosce la rilevanza del fenomeno. Gli obblighi di trasparenza previsti dall’AI Act per determinati contenuti generati o manipolati mediante intelligenza artificiale, inclusi i deepfake, diventeranno applicabili dal 2 agosto 2026.

In particolare, il quadro europeo distingue le responsabilità dei diversi soggetti coinvolti:

• i provider di sistemi di intelligenza artificiale generativa dovranno assicurare che gli output, quali audio, immagini, video o testi, siano marcati in un formato leggibile automaticamente e rilevabili come artificialmente generati o manipolati;
• i deployer di sistemi che generano o manipolano immagini, audio o video costituenti deepfake dovranno rendere riconoscibile la natura artificiale del contenuto;
• analogo obbligo di trasparenza riguarda determinate pubblicazioni testuali generate o manipolate dall’AI e destinate a informare il pubblico su materie di interesse pubblico, fatte salve le eccezioni previste dalla disciplina.

Alla data di redazione di questo articolo, il Code of Practice on Marking and Labelling of AI-Generated Content, destinato a supportare provider e deployer nella conformità agli obblighi di trasparenza, è ancora in fase di finalizzazione. La seconda bozza è stata pubblicata nel marzo 2026 e la versione definitiva è prevista entro l’inizio di giugno 2026. Il codice avrà natura volontaria e costituirà uno strumento di supporto alla conformità all’articolo 50 dell’AI Act.

Documenti di riferimento: Quadro regolatorio europeo sull’intelligenza artificiale · Code of Practice on Marking and Labelling of AI-Generated Content · Seconda bozza del Code of Practice

Agenti AI: maggiore efficienza, ma anche nuove superfici di rischio

L’intelligenza artificiale non si limita più a produrre testi, immagini o sintesi informative. Sta crescendo l’impiego di agenti AI, sistemi capaci di ricevere un obiettivo, utilizzare strumenti, interrogare applicazioni, consultare documenti e svolgere azioni successive con un certo grado di autonomia.

In ambito organizzativo, questi sistemi possono generare benefici importanti: ridurre attività ripetitive, velocizzare analisi, supportare la gestione documentale, migliorare la capacità di risposta e semplificare processi complessi.

Tuttavia, ogni agente connesso a dati, applicazioni o operazioni sensibili introduce anche nuove criticità. Se dispone di privilegi elevati oppure può agire senza adeguati controlli, un errore, una manipolazione o un attacco possono produrre conseguenze rilevanti.

Uno dei rischi principali è la prompt injection: istruzioni malevole inserite in un contenuto, in un documento o in un’interazione possono indurre il sistema AI a modificare il proprio comportamento, ignorare regole previste, divulgare informazioni oppure avviare attività non autorizzate.

La questione è particolarmente rilevante quando un agente:

• consulta archivi documentali interni;
• interagisce con sistemi aziendali;
• elabora dati personali o riservati;
• genera output utilizzati in decisioni operative;
• può attivare azioni senza una validazione umana preventiva.

Il rischio non riguarda soltanto gli attacchi diretti contro i sistemi AI. Gli stessi strumenti possono essere impiegati in modo offensivo per automatizzare campagne di phishing personalizzate, raccogliere informazioni sulle vittime, adattare messaggi fraudolenti ai diversi contesti professionali o generare rapidamente nuove varianti di codice malevolo.

L’automazione riduce tempi, costi e competenze necessarie per condurre determinate tipologie di attacco. Operazioni un tempo lente e manuali possono diventare più scalabili, persistenti e credibili.

Ciò non significa che l’intelligenza artificiale debba essere considerata esclusivamente una minaccia. Gli stessi strumenti possono supportare la sicurezza, migliorando l’individuazione delle anomalie, l’analisi degli incidenti, la gestione degli alert e la capacità di risposta.

La questione centrale non è quindi scegliere tra adozione o rifiuto dell’AI. È stabilire quali compiti affidarle, con quali autorizzazioni, con quali controlli e con quale responsabilità umana finale.

Il Joint Research Centre della Commissione europea, nel Generative AI Outlook Report: Exploring the Intersection of Technology, Society and Policy, evidenzia che la sicurezza dei sistemi generativi richiede un approccio capace di considerare l’intera superficie di attacco, inclusi dati, modelli e interazioni con fonti esterne.

Il rapporto distingue inoltre due rischi particolarmente rilevanti:

• la direct prompt injection, che si verifica quando l’input di un utente altera in modo improprio il comportamento o l’output di un modello generativo;
• la indirect prompt injection, che si verifica quando il sistema acquisisce input da fonti esterne, quali documenti, file o siti web, capaci di alterarne il comportamento o compromettere integrità, disponibilità o riservatezza.

Questa distinzione è particolarmente importante per gli agenti AI destinati a consultare archivi, documenti o fonti informative esterne prima di produrre un risultato o attivare un’azione.

Passkey: superare la vulnerabilità strutturale delle password

Molte frodi digitali, anche quando rafforzate dall’intelligenza artificiale, continuano a perseguire un obiettivo tradizionale: ottenere l’accesso ai sistemi mediante credenziali compromesse.

Le password presentano una debolezza strutturale. Possono essere rubate, intercettate, riutilizzate, indovinate oppure comunicate volontariamente dalla vittima a seguito di una richiesta ingannevole.

Con contenuti sintetici sempre più realistici e campagne di phishing maggiormente personalizzate, la sola capacità individuale di riconoscere un tentativo fraudolento non rappresenta più una difesa sufficiente.

Le passkey costituiscono una risposta concreta a questa fragilità. Il loro funzionamento si basa sulla crittografia a chiave pubblica: l’utente dimostra la propria identità mediante un dispositivo autorizzato, utilizzando ad esempio un PIN locale o un riconoscimento biometrico, senza trasmettere una password riutilizzabile.

Il vantaggio principale è che non esiste una password tradizionale che possa essere sottratta attraverso un falso sito o riutilizzata da un attaccante. L’autenticazione risulta quindi meno esposta alle frodi basate sul furto delle credenziali.

Nel quadro europeo, le linee guida tecniche pubblicate da ENISA nel giugno 2025 per supportare l’attuazione delle misure di gestione del rischio di cybersecurity considerate nel contesto NIS2 includono espressamente le passkey e le chiavi di sicurezza Fast Identity Online 2 tra le tecnologie di autenticazione considerate.

Il documento raccomanda inoltre, ove possibile, l’utilizzo di sistemi di autenticazione multifattore resistenti al phishing e richiama soluzioni basate su chiavi crittografiche private registrate conformemente agli standard FIDO e W3C WebAuthn, prive di segreti condivisi e non vulnerabili agli attacchi di tipo attacker-in-the-middle.

Per imprese e amministrazioni, la transizione verso sistemi di autenticazione più robusti non rappresenta soltanto un miglioramento dell’esperienza utente. Costituisce una misura concreta di riduzione del rischio operativo e di rafforzamento della protezione delle identità digitali.

Documento di riferimento: ENISA, Technical Implementation Guidance on Cybersecurity Risk-Management Measures, versione 1.0, giugno 2025

Crittografia post-quantum: proteggere oggi il valore futuro dei dati

Un’altra trasformazione strategica riguarda il possibile impatto del calcolo quantistico sui sistemi crittografici oggi utilizzati per proteggere dati, comunicazioni e transazioni.

Numerose informazioni aziendali e istituzionali mantengono valore per periodi molto lunghi: documenti strategici, proprietà intellettuale, dati sanitari, comunicazioni riservate, informazioni infrastrutturali, archivi amministrativi e dati relativi alla sicurezza.

Il rischio è che tali informazioni possano essere sottratte oggi in forma cifrata e conservate nell’attesa di tecnologie future capaci di decifrarle. Questa strategia è comunemente definita harvest now, decrypt later: raccogliere oggi, decifrare domani.

La crittografia post-quantum mira a sviluppare e adottare algoritmi progettati per resistere anche a futuri attacchi condotti mediante computer quantistici sufficientemente avanzati.

Su questo tema, l’Unione europea ha avviato un percorso strutturato. Nell’aprile 2024, la Commissione europea ha pubblicato una raccomandazione per coordinare la transizione verso la crittografia post-quantum. Successivamente, il 23 giugno 2025, gli Stati membri dell’Unione, con il supporto della Commissione e nell’ambito del NIS Cooperation Group, hanno pubblicato una roadmap coordinata per accompagnare la transizione europea.

La roadmap riconosce che il calcolo quantistico rappresenta una minaccia per numerosi algoritmi oggi utilizzati a tutela della riservatezza e dell’autenticità dei dati. La risposta indicata è una transizione tempestiva, completa e coordinata verso soluzioni crittografiche resistenti alla minaccia quantistica.

Per le organizzazioni, questo significa iniziare a valutare:

• quali informazioni debbano restare protette nel lungo periodo;
• quali sistemi utilizzino algoritmi crittografici destinati a essere aggiornati;
• quali fornitori e infrastrutture siano coinvolti;
• quali dipendenze tecnologiche possano rallentare la migrazione;
• quali priorità debbano essere definite in base al valore e alla durata dei dati.

La crittografia post-quantum non è quindi una questione astratta o futuristica. È una componente della gestione strategica del rischio informativo e della continuità digitale.

Documenti di riferimento: Commissione europea, Recommendation on a Coordinated Implementation Roadmap for the Transition to Post-Quantum Cryptography, 2024 · Commissione europea e NIS Cooperation Group, A Coordinated Implementation Roadmap for the Transition to Post-Quantum Cryptography, 2025

Dalla protezione tecnica alla resilienza organizzativa

I cinque temi analizzati convergono verso una medesima conclusione: la cybersecurity non è più soltanto una questione di protezione tecnica. È una componente della governance, della continuità operativa e della capacità delle organizzazioni di assumere decisioni affidabili in un contesto digitale sempre più complesso.

• La Shadow AI dimostra che l’innovazione non governata può generare nuove esposizioni informatiche e perdita di controllo sui dati.
• I deepfake rendono insufficiente la semplice percezione dell’identità e impongono processi di verifica più rigorosi.
• Gli agenti AI aumentano l’efficienza, ma introducono nuovi privilegi, nuovi errori possibili e nuove modalità di attacco.
• Le passkey offrono una risposta concreta a una delle fragilità storiche della sicurezza digitale: la dipendenza dalle password.
• La crittografia post-quantum ricorda che proteggere i dati significa considerare non soltanto le minacce presenti, ma anche la durata futura del loro valore.

La sfida del 2026 consiste quindi nel trasformare la sicurezza digitale da presidio specialistico a responsabilità integrata nei processi decisionali. Non basterà adottare strumenti tecnologicamente avanzati. Sarà necessario governarli, limitarne i rischi, formare le persone, rendere verificabili le operazioni sensibili e pianificare la protezione dei dati nel lungo periodo.

Le organizzazioni più resilienti non saranno necessariamente quelle che utilizzeranno più tecnologia, ma quelle che sapranno utilizzarla con maggiore consapevolezza, disciplina e capacità di anticipazione.

Riferimenti tecnici essenziali – prospettiva europea

• ENISA – Agenzia dell’Unione europea per la cibersicurezza, Multilayer Framework for Good Cybersecurity Practices for AI, 7 giugno 2023. Quadro multilivello per la protezione di sistemi, operazioni e processi basati sull’intelligenza artificiale, articolato in fondamenti generali della cybersecurity, misure specifiche per l’AI e misure settoriali.
• Commissione europea, Recommendation on a Coordinated Implementation Roadmap for the Transition to Post-Quantum Cryptography, 11 aprile 2024. Raccomandazione rivolta agli Stati membri per una strategia coordinata e sincronizzata di adozione della crittografia post-quantum.
• Commissione europea e NIS Cooperation Group, A Coordinated Implementation Roadmap for the Transition to Post-Quantum Cryptography, 23 giugno 2025. Roadmap europea per la transizione coordinata verso la crittografia post-quantum, con attenzione alla protezione dei dati, ai sistemi pubblici e alle infrastrutture rilevanti.
• ENISA – Agenzia dell’Unione europea per la cibersicurezza, Technical Implementation Guidance on Cybersecurity Risk-Management Measures, versione 1.0, giugno 2025. Linee guida tecniche a supporto dell’attuazione delle misure di gestione del rischio considerate nel quadro NIS2 e dei requisiti definiti dal Regolamento di esecuzione (UE) 2024/2690, con riferimento anche a passkey, chiavi Fast Identity Online 2 e autenticazione resistente al phishing.
• Commissione europea – Joint Research Centre, Generative AI Outlook Report: Exploring the Intersection of Technology, Society and Policy, 13 giugno 2025. Analisi europea delle opportunità e delle vulnerabilità dell’intelligenza artificiale generativa, comprese la direct prompt injection e la indirect prompt injection.
• Unione europea – AI Act, quadro regolatorio europeo sull’intelligenza artificiale. Gli obblighi di trasparenza relativi a determinati contenuti generati o manipolati mediante AI, inclusi i deepfake, diventeranno applicabili dal 2 agosto 2026.
• Commissione europea – AI Office, Code of Practice on Marking and Labelling of AI-Generated Content. Processo europeo finalizzato alla predisposizione di uno strumento volontario di supporto alla conformità agli obblighi di trasparenza dell’articolo 50 dell’AI Act; alla data di redazione dell’articolo, la versione definitiva è ancora in fase di finalizzazione.