EN 18286, den første harmoni­serte standarden etter KI-forord­ningen, for virksomheter som bruker KI

EN 18286 er standarden for kvalitetsstyringssystemet som artikkel 17 krever av leverandører av KI-systemer med høy risiko. Artikkel 17 lister opp hva systemet skal inneholde skriftlig, blant annet en strategi for etterlevelse av regelverket, kontroll med konstruksjon og utvikling, testing og validering, datahåndtering, risikostyringssystemet, overvåking etter omsetning, rapportering av alvorlige hendelser, journalføring og en ansvarsramme.

Selve standardteksten selges av de nasjonale standardiseringsorganene. Offentlig er tittelen, virkeområdet slik Kommisjonens beslutning beskriver det, og JTC 21s sammendrag: krav og veiledning for et kvalitetsstyringssystem, med vedlegg som knytter standarden til ISO 9001 og ISO/IEC 42001, slik at en organisasjon som allerede bruker en av dem, kan bygge videre på det arbeidet.

Formodningen rekker bare så langt som standarden. Artikkel 40 begrenser den til kravene en standard omfatter, og EN 18286 omfatter kvalitetsstyring. Den sier ingenting om hvorvidt et bestemt system er nøyaktig, robust eller sikkert nok.

Leverandører utvikler et KI-system, eller får det utviklet, og bringer det i omsetning under eget navn. En leverandør av et system med høy risiko trenger et kvalitetsstyringssystem, og EN 18286 er én måte å bygge det på.

Idriftsettere bruker et KI-system under egen myndighet. En virksomhet som gir de ansatte Claude eller GPT til å skrive, kode eller oppsummere, eller som bygger en intern assistent på et LLM-API, er idriftsetter av de verktøyene. Er en bruk høyrisiko, gjelder artikkel 26: bruk systemet i tråd med bruksanvisningen, sørg for menneskelig tilsyn, overvåk systemet og varsle leverandøren om risiko og alvorlige hendelser, og oppbevar loggene systemet genererer, i den grad de er under deres kontroll, i minst seks måneder.

Når en idriftsetter blir leverandør. Etter artikkel 25 regnes en idriftsetter som leverandør av et system med høy risiko hvis den setter sitt navn eller varemerke på det, gjør en vesentlig endring i det eller endrer det tiltenkte formålet med et KI-system, også et KI-system for allmenne formål, slik at det blir et system med høy risiko. En virksomhet som bygger et verktøy for CV-sortering eller kredittvurdering på en modell for allmenne formål, bør sjekke dette først. Gjelder det, er artikkel 17 og kvalitetsstyringssystemet virksomhetens egen plikt.

Når dere kjøper et KI-system til en bruk som kan være høyrisiko, eller en modell eller tjeneste som et system med høy risiko skal bygges på, gjør disse spørsmålene standarden om til innkjøpskrav. Kopier dem inn i kravspesifikasjonen eller leverandørskjemaet deres.

EN 18286 er den første av de harmoniserte standardene Kommisjonen har bedt om, og så langt den eneste som er kunngjort. CEN-CENELEC JTC 21 arbeider fortsatt med standarder for risikostyring, datastyring og datakvalitet, logging, åpenhet, menneskelig tilsyn, nøyaktighet, robusthet, cybersikkerhet og samsvarsvurdering. Ifølge komiteen revideres flere sentrale utkast etter høringen. Hver standard må vedtas av CEN og CENELEC, vurderes av Kommisjonen og kunngjøres i EU-tidende før den gir formodning om samsvar.

For innkjøp betyr det at spørsmålslisten over vil vokse. Be leverandørene si fra når de anvender en nylig kunngjort standard, og gå gjennom svarene før reglene for høy risiko gjelder for systemer i vedlegg III i EU fra 2. desember 2027.

Uansett hva leverandørene svarer, trenger en idriftsetter sin egen oversikt over hvilke modeller og leverandører hver applikasjon bruker. Standard Compute er én måte å føre den oversikten på for API-bruk. Hver endring en administrator gjør, registreres med verdien før og etter, og dere kan eksportere en oppføring for hvert kall som viser modellen, leverandøren som håndterte det og regionregelen som gjaldt, lagret i 12 måneder.

Bestem hvilke modeller hver nøkkel kan bruke, slik at hver app og hver ansatt får nøyaktig de modellene dere godkjenner. Velg nøyaktig hvilke inferensleverandører som kan behandle dataene deres, for hele virksomheten, et team eller én nøkkel. Sett en Europa-regel, så håndteres hvert kall, også nye forsøk og reserveruter, bare av godkjente europeiske inferensendepunkter.

Dette er gatewayens oppføringer om bruk av modeller og leverandører. Loggene i artikkel 26 nr. 6 er de et system med høy risiko genererer selv. Hva KI-forordningen krever av virksomheten, avgjør juridisk avdeling.