EN 18286, pierwsza norma zharmoni­zowana do AI Act, dla firm korzystających z AI

EN 18286 to norma dla systemu zarządzania jakością, którego art. 17 wymaga od dostawców systemów AI wysokiego ryzyka. Art. 17 wylicza, co ten system musi zawierać w formie pisemnej, m.in. strategię zgodności regulacyjnej, kontrolę projektowania i rozwoju, testy i walidację, zarządzanie danymi, system zarządzania ryzykiem, monitorowanie po wprowadzeniu do obrotu, zgłaszanie poważnych incydentów, prowadzenie dokumentacji i ramy odpowiedzialności.

Sam tekst normy sprzedają krajowe jednostki normalizacyjne, w Polsce PKN. Publicznie dostępne są tytuł, zakres opisany w decyzji Komisji oraz podsumowanie JTC 21: wymagania i wytyczne dla systemu zarządzania jakością, z załącznikami wiążącymi normę z ISO 9001 i ISO/IEC 42001, dzięki czemu organizacja, która już stosuje jedną z nich, może oprzeć się na tej pracy.

Domniemanie sięga tylko tak daleko jak norma. Art. 40 ogranicza je do wymagań, które norma obejmuje, a EN 18286 obejmuje zarządzanie jakością. Nie mówi nic o tym, czy dany system jest wystarczająco dokładny, solidny lub bezpieczny.

Dostawcy rozwijają system AI lub zlecają jego rozwój i wprowadzają go do obrotu pod własną nazwą. Dostawca systemu wysokiego ryzyka potrzebuje systemu zarządzania jakością, a EN 18286 to jeden ze sposobów jego zbudowania.

Podmioty stosujące wykorzystują system AI, nad którym sprawują kontrolę. Firma, która udostępnia pracownikom Claude lub GPT do pisania, programowania lub streszczania albo buduje wewnętrznego asystenta na API modelu LLM, jest podmiotem stosującym te narzędzia. Jeśli zastosowanie jest wysokiego ryzyka, ma zastosowanie art. 26: system trzeba używać zgodnie z instrukcją obsługi, zapewnić nadzór ze strony człowieka, monitorować działanie systemu i informować dostawcę o ryzyku i poważnych incydentach oraz przechowywać generowane przez system rejestry zdarzeń, w zakresie, w jakim podlegają kontroli podmiotu, przez co najmniej sześć miesięcy.

Kiedy podmiot stosujący staje się dostawcą. Zgodnie z art. 25 podmiot stosujący uważa się za dostawcę systemu wysokiego ryzyka, jeśli umieści na nim swoją nazwę lub znak towarowy, wprowadzi w nim istotną zmianę albo zmieni przeznaczenie systemu AI, także systemu AI ogólnego przeznaczenia, tak że stanie się on systemem wysokiego ryzyka. Firma, która buduje na modelu ogólnego przeznaczenia narzędzie do selekcji CV lub oceny zdolności kredytowej, powinna sprawdzić to w pierwszej kolejności. Jeśli tak jest, art. 17 i system zarządzania jakością stają się obowiązkiem samej firmy.

Gdy kupujecie system AI do zastosowania, które może być wysokiego ryzyka, albo model lub usługę, na której powstanie system wysokiego ryzyka, te pytania zamieniają normę w warunki zakupu. Skopiujcie je do swojego opisu przedmiotu zamówienia lub kwestionariusza dla dostawców.

EN 18286 to pierwsza z norm zharmonizowanych, o które wnioskowała Komisja, i na razie jedyna opublikowana. CEN-CENELEC JTC 21 wciąż pracuje nad normami dotyczącymi zarządzania ryzykiem, zarządzania danymi i ich jakości, rejestrowania zdarzeń, przejrzystości, nadzoru ze strony człowieka, dokładności, solidności, cyberbezpieczeństwa i oceny zgodności. Według komitetu kilka kluczowych projektów jest poprawianych po ankiecie publicznej. Każda norma musi zostać przyjęta przez CEN i CENELEC, oceniona przez Komisję i opublikowana w Dzienniku Urzędowym, zanim da domniemanie zgodności.

Dla działu zakupów oznacza to, że lista pytań powyżej będzie rosnąć. Poproście dostawców o informację, gdy zaczną stosować nowo opublikowaną normę, i przejrzyjcie odpowiedzi, zanim przepisy dotyczące wysokiego ryzyka zaczną obowiązywać dla systemów z załącznika III 2 grudnia 2027 r.

Niezależnie od odpowiedzi dostawców podmiot stosujący potrzebuje własnego zapisu, z jakich modeli i dostawców korzysta każda aplikacja. Standard Compute to jeden ze sposobów prowadzenia takiego zapisu dla korzystania przez API. Każda zmiana wprowadzona przez administratora jest zapisywana z wartością przed i po, a Wy możecie wyeksportować rekord każdego żądania z modelem, dostawcą, który je obsłużył, i obowiązującym ograniczeniem regionalnym. Rekordy są przechowywane przez 12 miesięcy.

Zdecydujcie, z których modeli może korzystać każdy klucz, aby każda aplikacja i każdy pracownik dostali dokładnie te modele, które zatwierdzicie. Wybierzcie dokładnie, którzy dostawcy inferencji mogą przetwarzać Wasze dane, dla całej firmy, zespołu lub pojedynczego klucza. Ustawcie ograniczenie do Europy, a każde żądanie, łącznie z ponowieniami i trasami zapasowymi, obsłużą wyłącznie zatwierdzone europejskie punkty końcowe.

To zapisy bramki dotyczące korzystania z modeli i dostawców. Rejestry zdarzeń z art. 26 ust. 6 to te, które generuje sam system wysokiego ryzyka. O tym, czego AI Act wymaga od Waszej firmy, decyduje Wasz dział prawny.