EN 18286, den första harmoni­serade standarden enligt AI-förord­ningen, för företag som använder AI

EN 18286 är standarden för det kvalitetsledningssystem (i AI-förordningen kallat kvalitetsstyrningssystem) som artikel 17 kräver av leverantörer av AI-system med hög risk. Artikel 17 räknar upp vad systemet ska innehålla i skriftlig form, bland annat en strategi för regelefterlevnad, kontroller av konstruktion och utveckling, provning och validering, datahantering, riskhanteringssystemet, övervakning efter utsläppande på marknaden, rapportering av allvarliga incidenter, dokumentation och en ansvarsram.

Själva standardtexten säljs av de nationella standardiseringsorganen, i Sverige SIS. Offentligt är titeln, omfattningen så som kommissionens beslut beskriver den, och JTC 21:s sammanfattning: krav och vägledning för ett kvalitetsledningssystem, med bilagor som kopplar standarden till ISO 9001 och ISO/IEC 42001, så att en organisation som redan tillämpar någon av dem kan bygga vidare på det arbetet.

Presumtionen räcker bara så långt som standarden. Artikel 40 begränsar den till de krav en standard omfattar, och EN 18286 omfattar kvalitetsledning. Den säger ingenting om huruvida ett visst system är tillräckligt korrekt, robust eller säkert.

Leverantörer utvecklar ett AI-system, eller låter utveckla det, och släpper ut det på marknaden i eget namn. En leverantör av ett system med hög risk behöver ett kvalitetsledningssystem, och EN 18286 är ett sätt att bygga det.

Tillhandahållare använder ett AI-system under eget överinseende. Ett företag som ger personalen Claude eller GPT för att skriva, koda eller sammanfatta, eller bygger en intern assistent på ett LLM-API, är tillhandahållare av de verktygen. Om en användning är av hög risk gäller artikel 26: använd systemet enligt bruksanvisningen, utse mänsklig tillsyn, övervaka systemet och informera leverantören om risker och allvarliga incidenter, och spara de loggar som systemet genererar, i den mån ni kontrollerar dem, i minst sex månader.

När en tillhandahållare blir leverantör. Enligt artikel 25 anses en tillhandahållare vara leverantör av ett system med hög risk om den sätter sitt namn eller varumärke på det, gör en väsentlig ändring av det eller ändrar det avsedda ändamålet med ett AI-system, även ett AI-system för allmänna ändamål, så att det blir ett system med hög risk. Ett företag som bygger ett verktyg för urval av cv:n eller kreditbedömning på en modell för allmänna ändamål bör kontrollera detta först. Om det gäller är artikel 17 och kvalitetsledningssystemet företagets egen skyldighet.

När ni köper ett AI-system för en användning som kan vara av hög risk, eller en modell eller tjänst som ett system med hög risk ska byggas på, gör de här frågorna standarden till inköpsvillkor. Kopiera dem till er kravspecifikation eller ert leverantörsformulär.

EN 18286 är den första av de harmoniserade standarder som kommissionen har begärt, och hittills den enda som har offentliggjorts. CEN-CENELEC JTC 21 arbetar fortfarande med standarder för riskhantering, datastyrning och datakvalitet, loggning, transparens, mänsklig tillsyn, noggrannhet, robusthet, cybersäkerhet och bedömning av överensstämmelse. Enligt kommittén revideras flera centrala utkast efter remissen. Varje standard ska antas av CEN och Cenelec, bedömas av kommissionen och offentliggöras i EUT innan den ger en presumtion om överensstämmelse.

För inköp betyder det att frågelistan ovan kommer att växa. Be leverantörerna att meddela er när de tillämpar en nyligen offentliggjord standard, och gå igenom svaren innan reglerna för hög risk börjar gälla för system i bilaga III den 2 december 2027.

Oavsett vad leverantörerna svarar behöver en tillhandahållare en egen bild av vilka modeller och leverantörer varje applikation använder. Standard Compute är ett sätt att föra den bilden för API-användning. Varje ändring som en administratör gör registreras med värdet före och efter, och ni kan exportera en post för varje anrop som visar modellen, leverantören som hanterade det och regionregeln som gällde, sparad i 12 månader.

Bestäm vilka modeller varje nyckel får använda, så att varje app och varje medarbetare får exakt de modeller ni godkänner. Välj exakt vilka inferensleverantörer som får hantera era data, för hela företaget, ett team eller en enskild nyckel. Ställ in en Europa-regel, så hanteras varje anrop, även omförsök och reservvägar, bara av godkända europeiska inferensslutpunkter.

Det här är gatewayns poster över modell- och leverantörsanvändning. Loggarna i artikel 26.6 är de som ett system med hög risk själv genererar. Vad AI-förordningen kräver av ert företag avgör er juridiska funktion.