Sanasto: tekoäly yrityksessä
Lyhyet määritelmät käsitteistä, jotka tulevat vastaan, kun yritys hankkii, suojaa ja hallitsee tekoälyä: gatewayt ja reititys, tietosuoja, identiteetti, kustannusten hallinta ja sääntely.
Jokainen kohta alkaa määritelmällä, jota seuraavat syy, miksi asialla on merkitystä, konkreettinen esimerkki ja se, miten Standard Compute asian hoitaa.
Gatewayt, reititys ja kapasiteetti
- AI-gateway
- AI-gateway on yksi palvelu yrityksen sovellusten ja sen käyttämien tekoälymallien palveluntarjoajien välissä.
- LLM-reititin
- LLM-reititin on ohjelmisto, joka päättää jokaisen pyynnön kohdalla, mikä suuri kielimalli ja mikä palveluntarjoaja siihen vastaa.
- Mallien reititys
- Mallien reititys tarkoittaa, että jokainen tekoälypyyntö ohjataan juuri sille pyynnölle valitulle mallille sen sijaan, että kaikki menisi samalle mallille.
- Tokenia sekunnissa
- Tokenia sekunnissa (TPS) on nopeus, jolla malli tuottaa vastauksensa, mitattuna tuotettuina tokeneina sekunnissa yhden pyynnön osalta.
- Nopeusrajoitus ja kiintiö
- Nopeusrajoitus (rate limit) rajaa, kuinka nopeasti tekoälymallia voi kutsua, esimerkiksi pyyntöinä tai tokeneina minuutissa.
- Provisioned throughput (PTU)
- Provisioned throughput on varattua mallikapasiteettia: maksatte kiinteästä käsittelymäärästä tunnissa, käytätte sitä tai ette, ja saatte vastineeksi ennustettavan läpäisyn ja viiveen.
Tietosuoja ja käsittelypaikka
- Tietojen säilytyskielto (zero data retention, ZDR)
- Tietojen säilytyskielto (zero data retention, ZDR) tarkoittaa, että tekoälypalveluntarjoaja ei säilytä kopiota kehotteista tai vastauksista sen jälkeen, kun vastaus on toimitettu.
- Ei koulutusta -sitoumus
- Ei koulutusta -sitoumus on sopimukseen kirjattu lupaus, ettei tekoälypalveluntarjoaja käytä kehotteitanne, tiedostojanne tai vastauksia mallien kouluttamiseen tai parantamiseen.
- Tietojen sijainti (data residency)
- Tietojen sijainti (data residency) on vaatimus, että tiedot tallennetaan ja usein myös käsitellään tietyssä maassa tai tietyllä alueella.
- Alueellinen käsittely (Eurooppa-rajaus)
- Alueellinen käsittely on reitityssääntö, jonka mukaan tekoälypyyntöjä palvelevat vain hyväksytyn alueen inferenssipäätepisteet.
- BYOK (bring your own key)
- BYOK (bring your own key) tarkoittaa, että annatte omat avaimenne ulkopuoliselle työkalulle.
- Suvereeni tekoäly
- Suvereeni tekoäly tarkoittaa, että yritys tai julkinen organisaatio voi käyttää tekoälyä omalla lainkäyttöalueellaan ja omassa hallinnassaan.
Identiteetti ja käyttöoikeudet
- Kertakirjautuminen (SSO), SAML ja Microsoft Entra tekoälytyökaluille
- Kertakirjautuminen (single sign-on, SSO) tekoälytyökaluihin antaa työntekijöiden kirjautua tekoälypalveluihin yrityksen identiteetillään, esimerkiksi Microsoft Entra ID -työtilillä, erillisen salasanan sijaan.
- SCIM
- SCIM (System for Cross-domain Identity Management) on avoin standardi, jolla käyttäjätilit ja ryhmät luodaan, päivitetään ja poistetaan sovelluksessa automaattisesti identiteetintarjoajan ohjaamana.
- Palveluntarjoajien sallittujen luettelo (allow-list)
- Palveluntarjoajien sallittujen luettelo (provider allow-list) määrää, mitkä inferenssipalveluntarjoajat, esimerkiksi mallin kehittäjän oma rajapinta tai tietty pilvi, saavat käsitellä yrityksen tekoälypyyntöjä.
- Mallien sallittujen luettelo (allow-list)
- Mallien sallittujen luettelo (model allow-list) määrää, mitä tekoälymalleja henkilö, tiimi tai sovellus saa kutsua.
Kustannusten hallinta
- Avainkohtainen budjetti
- Avainkohtainen budjetti on yksittäiseen API-avaimeen liitetty kulukatto, jotta avainta käyttävä henkilö tai sovellus ei voi koskaan käyttää kauden aikana enempää kuin sille on varattu.
- Kulukatto
- Kulukatto on tekoälykustannusten ehdoton yläraja tilille, avaimelle tai kaudelle.
Hallinta ja sääntely
- Tekoälyn auditointiloki
- Tekoälyn auditointiloki on kirjaus siitä, kuka muutti tekoälyasetuksia ja miten tekoälyä käytettiin: pääkäyttäjien muutokset henkilöihin, avaimiin ja sääntöihin sekä jokaisesta pyynnöstä se, mikä malli ja mikä palveluntarjoaja sen palveli ja minkä säännön alaisena.
- Tekoälyn käyttöpolitiikka
- Tekoälyn käyttöpolitiikka on yrityksen kirjalliset säännöt tekoälytyökalujen käytöstä työssä: mitkä työkalut on hyväksytty, mitä tietoja kehotteisiin saa syöttää, miten tuotokset tarkastetaan ja kenelle ilmoitetaan, kun jokin menee pieleen.
- Käyttöönottaja tekoälysäädöksessä
- Tekoälysäädöksen (EU AI Act) mukaan käyttöönottaja (deployer) on luonnollinen henkilö tai oikeushenkilö, viranomainen, virasto tai muu taho, joka käyttää valvonnassaan olevaa tekoälyjärjestelmää, paitsi jos tekoälyjärjestelmää käytetään henkilökohtaisessa muussa kuin ammattitoiminnassa (3 artiklan 4 alakohta).
Standard Compute on AI-gateway yrityksille: kärkimallit ja avoimet mallit yhden rajapinnan kautta. Ylläpitäjänne päättävät, missä pyynnöt käsitellään, mitkä palveluntarjoajat ja mallit ovat sallittuja ja paljonko kukin henkilö ja sovellus saa käyttää.
Luo yritystilitai kirjoittakaa osoitteeseen contact@standardcompute.com