Mallien sallittujen luettelo (allow-list)

Mallien sallittujen luettelo (model allow-list) määrää, mitä tekoälymalleja henkilö, tiimi tai sovellus saa kutsua. Pyynnöt muille malleille hylätään.

Miksi sillä on merkitystä yrityksille

Se pitää kustannukset hallinnassa, kun kalliita malleja käytetään vain siellä, missä niitä tarvitaan, ja pitää arvioimattomat mallit poissa tuotannosta.

Se antaa myös jokaiselle sovellukselle vakaan ja tunnetun mallijoukon, mikä helpottaa testausta ja tarkastusta.

Esimerkki

Asiakaspalvelusovellus saa käyttää yhtä hyväksyttyä mallia. Tutkimustiimi saa käyttää viittä, joista yksi on avoimien painojen malli kokeiluja varten.

Mitä tämä tarkoittaa yritykselle, joka käyttää tekoälyrajapintoja

Käsitelkää luetteloa osana muutostenhallintaa: malli lisätään, kun se on läpäissyt testinne ja arviointinne, eikä uusia malleja koskaan lisätä automaattisesti. Microsoft Foundryssa on esimerkiksi sisäänrakennettu Azure Policy -käytäntö ”Foundry model deployments should only use approved models”, joka rajaa käyttöönotot hyväksyttyihin malleihin tai julkaisijoihin. Yritys voi sallia yhden pienen mallin sisäiseen luokittelijaan ja kaksi kärkimallia asiakastuen avustajaan ja estää kaiken muun.

Missä käsite on määritelty: Mikään laki tai standardi ei määrittele sitä. Toimittajat toteuttavat sen omissa kontrolleissaan, esimerkiksi Microsoftin sisäänrakennetut käytännöt mallien käyttöönotolle (englanniksi) Microsoft Foundryssa.

Näin Standard Compute hoitaa sen

Päättäkää, mitä malleja kukin avain saa käyttää, niin jokainen sovellus ja tiimin jäsen saa juuri ne mallit, jotka hyväksytte.

Katso hinnat

Yritysten usein kysymät kysymykset

Pitäisikö uudet malliversiot sallia automaattisesti?
Tuotantosovelluksissa yleensä ei. Uusi versio voi muuttaa tuotoksia, kustannuksia ja toimintaa. Kiinnittäkää testaamanne versiot ja lisätkää uudet arvioinnin jälkeen; Microsoftin käytäntödokumentaatio näyttää esimerkiksi, miten yksittäinen malliversio sallitaan sen täydellä resurssitunnuksella (asset ID).
Onko mallien sallittujen luettelo kustannusten hallintaa?
Osittain. Se pitää kalliit mallit poissa sovelluksista, jotka eivät niitä tarvitse, mutta se ei rajaa kuluja. Yhdistäkää se budjettiin tai kulukattoon.
Estääkö mallien sallittujen luettelo tietojen päätymisen hyväksymättömille palveluntarjoajille?
Ei. Se ratkaisee, mitä malleja saa kutsua, ei sitä, mitkä palveluntarjoajat niitä palvelevat. Siihen tarvitaan palveluntarjoajien sallittujen luettelo.

Liittyvät käsitteet

Standard Compute on AI-gateway yrityksille: kärkimallit ja avoimet mallit yhden rajapinnan kautta. Ylläpitäjänne päättävät, missä pyynnöt käsitellään, mitkä palveluntarjoajat ja mallit ovat sallittuja ja paljonko kukin henkilö ja sovellus saa käyttää.

Luo yritystilitai kirjoittakaa osoitteeseen contact@standardcompute.com