EN 18286, den første harmoni­serede standard under AI-forord­ningen, for virksom­heder, der bruger AI

EN 18286 er standarden for det kvalitetsstyringssystem, som artikel 17 kræver af udbydere af højrisiko-AI-systemer. Artikel 17 opregner, hvad systemet skal indeholde skriftligt, blandt andet en strategi for overholdelse af reglerne, styring af design og udvikling, test og validering, datahåndtering, risikostyringssystemet, overvågning efter omsætningen, indberetning af alvorlige hændelser, registrering og en ansvarsramme.

Selve standardteksten sælges af de nationale standardiseringsorganer, i Danmark Dansk Standard. Offentligt tilgængeligt er titlen, anvendelsesområdet, som Kommissionens afgørelse beskriver det, og JTC 21's sammenfatning: krav og vejledning til et kvalitetsstyringssystem, med bilag, der knytter standarden til ISO 9001 og ISO/IEC 42001, så en organisation, der allerede bruger en af dem, kan bygge videre på det arbejde.

Formodningen rækker kun så langt som standarden. Artikel 40 begrænser den til de krav, en standard dækker, og EN 18286 dækker kvalitetsstyring. Den siger intet om, hvorvidt et bestemt system er tilstrækkeligt nøjagtigt, robust eller sikkert.

Udbydere udvikler et AI-system, eller får det udviklet, og bringer det i omsætning under eget navn. En udbyder af et højrisikosystem skal have et kvalitetsstyringssystem, og EN 18286 er én måde at opbygge det på.

Idriftsættere anvender et AI-system under egen myndighed. En virksomhed, der giver medarbejderne Claude eller GPT til at skrive, kode eller opsummere, eller som bygger en intern assistent på et LLM-API, er idriftsætter af de værktøjer. Er en anvendelse højrisiko, gælder artikel 26: brug systemet i overensstemmelse med brugsanvisningen, sørg for menneskeligt tilsyn, overvåg systemet og underret udbyderen om risici og alvorlige hændelser, og opbevar de logfiler, systemet genererer, i det omfang I har kontrol over dem, i mindst seks måneder.

Når en idriftsætter bliver udbyder. Efter artikel 25 anses en idriftsætter for udbyder af et højrisikosystem, hvis den sætter sit navn eller varemærke på det, foretager en væsentlig ændring af det eller ændrer det tilsigtede formål med et AI-system, også et AI-system til almen brug, så det bliver højrisiko. En virksomhed, der bygger et værktøj til CV-screening eller kreditvurdering på en model til almen brug, bør tjekke dette først. Gælder det, er artikel 17 og kvalitetsstyringssystemet virksomhedens egen forpligtelse.

Når I køber et AI-system til en anvendelse, der kan være højrisiko, eller en model eller tjeneste, som et højrisikosystem skal bygges på, gør disse spørgsmål standarden til indkøbskrav. Kopiér dem ind i jeres kravspecifikation eller leverandørspørgeskema.

EN 18286 er den første af de harmoniserede standarder, Kommissionen har anmodet om, og indtil videre den eneste, der er offentliggjort. CEN-CENELEC JTC 21 arbejder stadig på standarder for risikostyring, datastyring og datakvalitet, logning, gennemsigtighed, menneskeligt tilsyn, nøjagtighed, robusthed, cybersikkerhed og overensstemmelsesvurdering. Ifølge komitéen revideres flere centrale udkast efter høringen. Hver standard skal vedtages af CEN og Cenelec, vurderes af Kommissionen og offentliggøres i EU-Tidende, før den giver en formodning om overensstemmelse.

For indkøb betyder det, at spørgsmålene ovenfor bliver flere. Bed leverandørerne give besked, når de anvender en nyligt offentliggjort standard, og gennemgå svarene, før højrisikoreglerne gælder for systemer i bilag III den 2. december 2027.

Uanset hvad leverandørerne svarer, har en idriftsætter brug for sin egen oversigt over, hvilke modeller og udbydere hver applikation bruger. Standard Compute er én måde at føre den oversigt på for API-brug. Hver ændring, en administrator foretager, registreres med værdien før og efter, og I kan eksportere en post for hvert kald, der viser modellen, udbyderen, der leverede svaret, og den regionsregel, der gjaldt, opbevaret i 12 måneder.

Bestem, hvilke modeller hver nøgle må bruge, så hver app og hver medarbejder får præcis de modeller, I godkender. Vælg præcis, hvilke inferensudbydere der må behandle jeres data, for hele virksomheden, et team eller en enkelt nøgle. Sæt en Europa-regel, så leveres hvert kald, også nye forsøg og reserveruter, kun af godkendte europæiske inferens-endpoints.

Dette er gatewayens poster om brug af modeller og udbydere. Logfilerne i artikel 26, stk. 6, er dem, et højrisikosystem selv genererer. Hvad AI-forordningen kræver af jeres virksomhed, afgør jeres juridiske afdeling.