Lista dozwolonych modeli (allow-list)
Lista dozwolonych modeli (model allow-list) określa, które modele AI może wywoływać osoba, zespół lub aplikacja. Żądania do innych modeli są odrzucane.
Dlaczego to ważne dla firm
Utrzymuje koszty pod kontrolą, bo drogie modele są używane tylko tam, gdzie są potrzebne, i trzyma niesprawdzone modele z dala od produkcji.
Daje też każdej aplikacji stały, znany zestaw modeli, co ułatwia testy i przeglądy.
Przykład
Aplikacja obsługi klienta może korzystać z jednego zatwierdzonego modelu. Zespół badawczy może korzystać z pięciu, w tym z modelu z otwartymi wagami do eksperymentów.
Co to oznacza dla firmy korzystającej z API AI
Traktujcie listę jako część zarządzania zmianą: model trafia na nią po przejściu Waszych testów i oceny, a nowe modele nigdy nie są dodawane automatycznie. Microsoft Foundry ma na przykład wbudowaną zasadę Azure Policy „Foundry model deployments should only use approved models”, która ogranicza wdrożenia do zatwierdzonych modeli lub wydawców. Firma może dopuścić jeden mały model do wewnętrznego klasyfikatora i dwa modele czołowe do asystenta obsługi klienta, a wszystkie inne zablokować.
Gdzie pojęcie jest zdefiniowane: Żadna ustawa ani norma tego nie definiuje. Dostawcy wdrażają to we własnych mechanizmach kontroli, na przykład w wbudowanych zasadach wdrażania modeli w Microsoft Foundry.
Jak robi to Standard Compute
Zdecydujcie, z których modeli może korzystać każdy klucz, aby każda aplikacja i każdy członek zespołu dostali dokładnie te modele, które zatwierdzicie.
Pytania, które zadają firmy
- Czy nowe wersje modeli powinny być dopuszczane automatycznie?
- W aplikacjach produkcyjnych zwykle nie. Nowa wersja może zmienić wyniki, koszt i zachowanie. Przypnijcie przetestowane wersje i dodawajcie nowe po ocenie; dokumentacja zasad Microsoft pokazuje na przykład, jak dopuścić pojedynczą wersję modelu po jej pełnym identyfikatorze zasobu.
- Czy lista dozwolonych modeli kontroluje koszty?
- Częściowo. Trzyma drogie modele z dala od aplikacji, które ich nie potrzebują, ale nie ogranicza wydatków. Połączcie ją z budżetem lub limitem wydatków.
- Czy lista dozwolonych modeli zatrzymuje dane przed niezatwierdzonymi dostawcami?
- Nie. Decyduje, które modele można wywołać, a nie którzy dostawcy je obsługują. Do tego służy lista dozwolonych dostawców.