EN 18286, de eerste geharmoni­seerde norm onder de AI-verordening, voor bedrijven die AI gebruiken

EN 18286 is de norm voor het kwaliteitsbeheersysteem dat artikel 17 van aanbieders van AI-systemen met een hoog risico vraagt. Artikel 17 somt op wat dat systeem schriftelijk moet bevatten, onder meer een strategie voor naleving van de regelgeving, controles op ontwerp en ontwikkeling, tests en validatie, gegevensbeheer, het systeem voor risicobeheer, monitoring na het in de handel brengen, het melden van ernstige incidenten, registratie en een kader voor verantwoording.

De tekst van de norm zelf wordt verkocht door de nationale normalisatie-instellingen. Openbaar zijn de titel, het toepassingsgebied zoals het uitvoeringsbesluit het beschrijft, en de samenvatting van JTC 21: eisen en richtsnoeren voor een kwaliteitsbeheersysteem, met bijlagen die de norm koppelen aan ISO 9001 en ISO/IEC 42001, zodat een organisatie die een van beide al toepast daarop kan voortbouwen.

Het vermoeden reikt niet verder dan de norm. Artikel 40 beperkt het tot de eisen die een norm bestrijkt, en EN 18286 bestrijkt kwaliteitsbeheer. Over de vraag of een bepaald systeem nauwkeurig, robuust of veilig genoeg is, zegt de norm niets.

Aanbieders ontwikkelen een AI-systeem, of laten het ontwikkelen, en brengen het onder hun eigen naam in de handel. Een aanbieder van een systeem met een hoog risico heeft een kwaliteitsbeheersysteem nodig, en EN 18286 is één manier om dat op te zetten.

Gebruiksverantwoordelijken gebruiken een AI-systeem onder hun eigen verantwoordelijkheid. Een bedrijf dat medewerkers Claude of GPT laat gebruiken voor teksten, code of samenvattingen, of een interne assistent bouwt op een LLM-API, is gebruiksverantwoordelijke van die tools. Is een toepassing hoog risico, dan geldt artikel 26: gebruik het systeem volgens de gebruiksaanwijzing, wijs menselijk toezicht toe, monitor het systeem en meld risico's en ernstige incidenten aan de aanbieder, en bewaar de logs die het systeem genereert, voor zover u die beheert, ten minste zes maanden.

Wanneer een gebruiksverantwoordelijke aanbieder wordt. Artikel 25 beschouwt een gebruiksverantwoordelijke als aanbieder van een systeem met een hoog risico als die er zijn naam of merk op zet, het substantieel wijzigt, of het beoogde doel van een AI-systeem, ook een AI-systeem voor algemene doeleinden, zo wijzigt dat het een hoog risico krijgt. Een bedrijf dat op een model voor algemene doeleinden een tool bouwt voor cv-selectie of kredietscores, controleert dit eerst. Is het van toepassing, dan zijn artikel 17 en het kwaliteitsbeheersysteem een eigen verplichting van het bedrijf.

Koopt u een AI-systeem voor een toepassing die hoog risico kan zijn, of een model of dienst waarop een systeem met een hoog risico wordt gebouwd, dan maken deze vragen van de norm inkoopvoorwaarden. Neem ze over in uw programma van eisen of leveranciersvragenlijst.

EN 18286 is de eerste van de geharmoniseerde normen die de Commissie heeft gevraagd, en tot nu toe de enige die is bekendgemaakt. CEN-CENELEC JTC 21 werkt nog aan normen voor risicobeheer, datagovernance en datakwaliteit, logging, transparantie, menselijk toezicht, nauwkeurigheid, robuustheid, cyberbeveiliging en conformiteitsbeoordeling. Volgens JTC 21 worden verschillende kernontwerpen na hun openbare enquête herzien. Elke norm moet door CEN en Cenelec worden aangenomen, door de Commissie beoordeeld en in het Publicatieblad bekendgemaakt voordat ze een vermoeden van conformiteit geeft.

Voor inkoop betekent dit dat de vragenlijst hierboven zal groeien. Vraag leveranciers u te laten weten wanneer zij een nieuw bekendgemaakte norm toepassen, en beoordeel de antwoorden voordat de regels voor een hoog risico op 2 december 2027 gaan gelden voor systemen uit bijlage III.

Wat uw leveranciers ook antwoorden, een gebruiksverantwoordelijke heeft een eigen overzicht nodig van welke modellen en aanbieders elke toepassing gebruikt. Standard Compute is één manier om dat overzicht voor API-gebruik bij te houden. Elke wijziging door een beheerder wordt vastgelegd met de oude en de nieuwe waarde. Voor elk verzoek exporteert u een record met het model, de aanbieder die het verwerkte en de geldende regioregel, 12 maanden bewaard.

Bepaal per sleutel welke modellen die mag gebruiken, zodat elke toepassing en elke medewerker precies de modellen krijgt die u goedkeurt. Kies precies welke inferentieaanbieders uw gegevens mogen verwerken, voor het hele bedrijf, een team of één sleutel. Stel een Europa-regel in, en elk verzoek, ook nieuwe pogingen en fallbacks, wordt alleen bediend door goedgekeurde Europese inferentie-endpoints.

Dit zijn gatewayrecords van het gebruik van modellen en aanbieders. De logs uit artikel 26, lid 6, zijn de logs die een systeem met een hoog risico zelf genereert. Wat de AI-verordening van uw bedrijf vraagt, beslist uw juridische afdeling.