EN 18286, la prima norma armoniz­zata dell'AI Act, per le aziende che usano l'IA

La EN 18286 è la norma per il sistema di gestione della qualità che l'articolo 17 richiede ai fornitori di sistemi di IA ad alto rischio. L'articolo 17 elenca che cosa quel sistema deve contenere per iscritto, tra cui una strategia per la conformità normativa, controlli di progettazione e sviluppo, prove e convalida, gestione dei dati, il sistema di gestione dei rischi, il monitoraggio successivo all'immissione sul mercato, la segnalazione degli incidenti gravi, la conservazione delle registrazioni e un quadro di responsabilità.

Il testo della norma è venduto dagli enti nazionali di normazione. Sono pubblici il titolo, l'ambito descritto nella decisione della Commissione e la sintesi del JTC 21: requisiti e linee guida per un sistema di gestione della qualità, con allegati che la collegano alla ISO 9001 e alla ISO/IEC 42001, così un'organizzazione che ne applica già una può partire da quel lavoro.

La presunzione arriva solo fin dove arriva la norma. L'articolo 40 la limita ai requisiti che una norma copre, e la EN 18286 copre la gestione della qualità. Non dice nulla sul fatto che un dato sistema sia abbastanza accurato, robusto o sicuro.

I fornitori sviluppano un sistema di IA, o lo fanno sviluppare, e lo immettono sul mercato con il proprio nome. Un fornitore di un sistema ad alto rischio ha bisogno di un sistema di gestione della qualità, e la EN 18286 è un modo per costruirlo.

I deployer usano un sistema di IA sotto la propria autorità. Un'azienda che mette a disposizione del personale Claude o GPT per scrivere, programmare o riassumere, o che costruisce un assistente interno su un'API di LLM, è deployer di quegli strumenti. Se un uso è ad alto rischio si applica l'articolo 26: usare il sistema secondo le istruzioni per l'uso, affidare la sorveglianza umana, monitorarlo e informare il fornitore di rischi e incidenti gravi, e conservare per almeno sei mesi i log generati dal sistema che sono sotto il proprio controllo.

Quando un deployer diventa fornitore. L'articolo 25 considera fornitore di un sistema ad alto rischio il deployer che vi appone il proprio nome o marchio, vi apporta una modifica sostanziale o modifica la finalità prevista di un sistema di IA, compreso un sistema di IA per finalità generali, in modo che diventi ad alto rischio. Un'azienda che costruisce su un modello per finalità generali uno strumento di selezione dei CV o di valutazione del merito creditizio dovrebbe verificare per prima cosa questo punto. Se si applica, l'articolo 17 e il sistema di gestione della qualità diventano un obbligo dell'azienda stessa.

Quando acquistate un sistema di IA per un uso che può essere ad alto rischio, o un modello o servizio su cui sarà costruito un sistema ad alto rischio, queste domande trasformano la norma in condizioni di acquisto. Copiatele nel vostro capitolato tecnico o nel questionario fornitori.

La EN 18286 è la prima delle norme armonizzate richieste dalla Commissione, e finora l'unica pubblicata. CEN-CENELEC JTC 21 lavora ancora a norme su gestione dei rischi, governance e qualità dei dati, registrazione, trasparenza, sorveglianza umana, accuratezza, robustezza, cibersicurezza e valutazione della conformità. Secondo il comitato, diverse bozze centrali sono in revisione dopo l'inchiesta pubblica. Ognuna passerà dall'adozione di CEN e Cenelec, dalla valutazione della Commissione e dalla pubblicazione nella Gazzetta ufficiale prima di dare una presunzione di conformità.

Per gli acquisti significa che il questionario qui sopra crescerà. Chiedete ai fornitori di avvisarvi quando applicano una norma appena pubblicata, e rivedete le risposte prima che le regole sull'alto rischio si applichino ai sistemi dell'allegato III il 2 dicembre 2027.

Qualunque cosa rispondano i fornitori, un deployer ha bisogno di una propria registrazione di quali modelli e fornitori usa ogni applicazione. Standard Compute è un modo per tenerla per l'uso via API. Ogni modifica di un amministratore viene registrata con il valore precedente e quello nuovo, e potete esportare un record di ogni richiesta con il modello, il fornitore che l'ha servita e la regola di regione applicata, conservato per 12 mesi.

Decidete quali modelli può usare ogni chiave, così ogni applicazione e ogni persona del team ha esattamente i modelli che approvate. Scegliete esattamente quali fornitori di inferenza possono trattare i vostri dati, per tutta l'azienda, un team o una singola chiave. Impostate una regola Europa e ogni richiesta, compresi nuovi tentativi e fallback, viene servita solo da endpoint di inferenza europei approvati.

Sono registrazioni del gateway sull'uso di modelli e fornitori. I log dell'articolo 26, paragrafo 6, sono quelli che un sistema ad alto rischio genera da sé. Che cosa l'AI Act chiede alla vostra azienda lo decide il vostro ufficio legale.