Vai al contenuto
L'IA ha trovato una falla mentre si discuteva di sicurezza

L’IA ha trovato una falla mentre si discuteva di sicurezza

La norma ETSI EN 304 223 ha 13 principi in cinque fasi, ma resta volontaria senza aggancio a CRA

Dal 19 al 22 ottobre più di 250 esperti si sono riuniti nella sede di Sophia Antipolis dell’ETSI per celebrare il ventesimo anniversario della ETSI Security Conference. Al centro della discussione c’era la sicurezza dei sistemi di intelligenza artificiale. Nella stessa settimana un’IA ha rilevato una grave vulnerabilità di sicurezza in PHP, che ha colpito milioni di siti web. Le due notizie insieme descrivono il quadro attuale. L’IA è già uno strumento di analisi della sicurezza, ma è anche un sistema da rendere sicuro in sé. Per chi progetta, integra o certifica prodotti digitali la domanda pratica è quale riferimento tecnico usare oggi per farlo.

EN 304 223: tredici principi, cinque fasi, un solo ciclo di vita

La risposta più strutturata arriva dalla stessa ETSI. Come spiega il comunicato con cui l’istituto ha presentato lo standard, la norma ETSI EN 304 223 definisce 13 principi e requisiti. Questi sono distribuiti su cinque fasi:

  • progettazione sicura;
  • sviluppo sicuro;
  • messa in servizio sicura;
  • manutenzione sicura;
  • fine vita sicuro.

Il punto chiave è l’approccio all’intero ciclo di vita. La sicurezza non si verifica una volta sola prima del rilascio. Si pianifica, si attua e si documenta in ogni fase, compresa la dismissione.

Per chi lavora sul campo questa struttura ha conseguenze concrete. Chi progetta deve trattare la sicurezza del modello e dei dati come un requisito di specifica, al pari delle prestazioni. Chi integra un sistema di IA in un prodotto più ampio deve sapere come è stato sviluppato e messo in servizio. Chi lo mantiene deve gestire aggiornamenti e correzioni con lo stesso rigore della prima installazione. Il fine vita, spesso dimenticato, diventa una fase con requisiti propri: cosa succede ai dati, ai modelli e agli accessi quando il sistema viene ritirato?

La conferenza di fine ottobre è anche il luogo in cui norme come questa prendono forma. Vi hanno partecipato rappresentanti dell’industria, delle agenzie governative, della Commissione europea, degli enti di normazione, della comunità open source, del mondo accademico e della ricerca. Dietro ogni documento tecnico c’è il lavoro di persone. L’edizione ha ricordato Issy Hall, attiva nei comitati ETSI Cyber e Securing AI e contributrice alla EN 304 223, scomparsa lo scorso settembre a 30 anni.

Il calendario europeo: una scadenza è già passata

Una norma tecnica, da sola, resta uno strumento volontario. Diventa operativa quando si aggancia a obblighi giuridici. Quali scadenze rendono allora questi principi davvero urgenti?

Il primo riferimento è il Cyber Resilience Act. Come riepiloga la pagina della Commissione europea sul CRA, il regolamento è entrato in vigore il 10 dicembre 2024. Gli obblighi di segnalazione si applicano dall’11 settembre 2026. Non sono quindi un adempimento futuro: chi immette prodotti con elementi digitali sul mercato europeo deve già averli resi operativi. Gli obblighi principali scatteranno invece dall’11 dicembre 2027, poco più di un anno da oggi.

Il secondo riferimento è l’AI Act. Qui il lavoro tecnico è affidato al comitato JTC 21 di CEN-CENELEC. Secondo la presentazione dei lavori di CEN-CENELEC sull’intelligenza artificiale, il comitato sviluppa gli standard armonizzati che conferiranno la presunzione legale di conformità al regolamento europeo. Lo fa collaborando con ISO/IEC per adattare norme globali già esistenti alle esigenze specifiche europee. Su un punto serve chiarezza: le fonti disponibili non indicano che la EN 304 223 rientri tra queste norme armonizzate. Oggi è corretto considerarla una buona prassi strutturata. La presunzione di conformità all’AI Act passerà dagli standard di JTC 21.

Proteggere oggi i dati di domani

Le scadenze normative hanno date precise. Alcune minacce invece non seguono nessun calendario. Il NIST, nel suo rapporto sulla transizione alla crittografia post-quantistica, avverte che i dati cifrati oggi sono già a rischio per la minaccia «harvest now, decrypt later». Un avversario può raccogliere ora informazioni sensibili e decifrarle quando la tecnologia quantistica sarà matura. Il danno, in altre parole, comincia prima che l’attacco sia tecnicamente possibile.

Una bussola operativa l’ha offerta David Boswarthinck, direttore della strategia di ETSI: «La nostra sfida non è prevedere il 2046, ma renderlo aperto attraverso partnership globali, affidabile grazie alla sicurezza by design, provato con evidenze continue e responsabile grazie alla supervisione umana e automatica».

Tradotto in azioni per i prossimi mesi:

  • Mappare il ciclo di vita. Per ogni sistema di IA in uso o in sviluppo, ricostruire le cinque fasi della EN 304 223 e verificare chi è responsabile di ciascuna e quale evidenza documentale esiste.
  • Rendere operativa la segnalazione CRA. Verificare che i processi di segnalazione siano effettivamente attivi, perché si applicano da settembre.
  • Prepararsi agli obblighi principali. Pianificare l’adeguamento in vista dell’11 dicembre 2027.
  • Seguire i lavori di JTC 21. Saranno quegli standard a definire la strada verso la presunzione di conformità all’AI Act.
  • Valutare la vita utile dei dati cifrati. Includere questa valutazione nelle analisi dei rischi, alla luce delle indicazioni del NIST.

Non serve allarmismo, serve metodo. Chi progetta, integra o certifica sistemi digitali dispone già di uno standard strutturato e di un calendario chiaro. Conviene iniziare dalla prossima revisione di progetto, documentando la sicurezza lungo tutto il ciclo di vita, invece di inseguire le scadenze quando arrivano.

Elena Conti
Scritto da Elena Conti

Analista HSE specializzata in standard armonizzati, richiami prodotto e lesson learned da incidenti industriali. | Autore AI KronosWire