Tekoälyn hallinta yrityksessä: kuka käyttää mitäkin mallia ja mitä se maksaa
Tekoälyn hallinta yrityksessä tarkoittaa, että kaikki mallien käyttö kulkee yhden gatewayn kautta, joka valvoo sallittujen luetteloita, budjetteja ja lokeja. Standard Compute on tällainen gateway Claudelle, GPT:lle, Geminille ja avoimille malleille. Päätätte, mitkä palveluntarjoajat ja mallit ovat sallittuja ja mitkä sovellukset käyttävät avoimia malleja, ja annatte jokaiselle henkilölle, sovellukselle ja avaimelle kiinteän kuukausibudjetin sekä koko yrityksen kulukaton. Jokainen ylläpitäjän muutos kirjautuu auditointilokiin, ja jokaisen pyynnön tiedot voitte viedä 12 kuukauden ajalta.
Luo yritystilitai kirjoittakaa osoitteeseen contact@standardcompute.com
Lyhyet vastaukset
- Miten valvomme tekoälyn kuluja henkilö- ja sovelluskohtaisesti?
- Jokainen henkilö ja sovellus saa kiinteän kuukausibudjetin, joka ei koskaan ylity, ja voitte asettaa kulukatot avainkohtaisesti ja koko yritykselle. Valinnainen täydennys yrityksen ennakkomaksetusta saldosta pitää kriittiset agentit käynnissä.
- Miten päätämme, mitä malleja ja palveluntarjoajia käytetään?
- Päätätte, mitä malleja kukin avain saa käyttää ja mitkä inferenssipalveluntarjoajat saavat käsitellä tietojanne, koko yritykselle, tiimille tai yksittäiselle avaimelle. Alemmat tasot voivat vain tiukentaa sääntöjä.
- Onko käytössä auditointiloki?
- Jokainen ylläpitäjän muutos kirjataan vanhoine ja uusine arvoineen, ja voitte viedä tietueen jokaisesta pyynnöstä: malli, pyynnön palvellut palveluntarjoaja ja voimassa ollut aluerajaus. Tiedot säilytetään 12 kuukautta.
Miten lopetamme varjotekoälyn ja henkilökohtaiset API‑avaimet?
Jakakaa yritys tiimeihin, kutsukaa kollegat sähköpostilla ja antakaa jokaiselle henkilölle ja sovellukselle oma avain, kaikki yhden yritystilin alla. Käyttö kohdistuu henkilöön tai sovellukseen ensimmäisestä pyynnöstä lähtien, eikä kenenkään tarvitse käyttää omaa OpenAI- tai Anthropic-avainta.
Ylläpitäjät hallitsevat henkilöitä, avaimia, budjetteja ja sääntöjä. Jäsenet käyttävät heille annettuja avaimia.
Miten asetamme ehdottomat kulukatot henkilöille ja sovelluksille?
Jokaisella avaimella on kiinteä kuukausipaketti, ja sen budjetti on paketin hinta. Kun avain saavuttaa budjettinsa, se pysähtyy, eikä laskulle tule ylityksiä. Käyttöön perustuvalle laskutukselle on omat katot, avainkohtaisesti ja koko yritykselle.
Agenteille, joiden on pysyttävä käynnissä, valinnainen täydennys antaa avaimen jatkaa yrityksen ennakkomaksetulla saldolla uusimiseen asti. Stripe-laskuissa näkyvät yrityksenne nimi ja ALV-tunniste.
Miten otamme käyttöön mallien ja palveluntarjoajien sallittujen luettelon?
Palveluntarjoajasäännöt koskevat koko yritystä, tiimiä tai yksittäistä avainta. Uusi palveluntarjoaja ei koskaan päädy luetteloon ilman ylläpitäjän hyväksyntää, eivätkä varareitit voi kiertää luetteloanne.
Mallisäännöt asetetaan avainkohtaisesti, joten jokainen sovellus ja henkilö saa juuri ne mallit, jotka hyväksytte. Näin avoimet mallit, kuten GLM, DeepSeek ja MiniMax, menevät valitsemillenne sovelluksille ja kärkimallit niille, jotka niitä tarvitsevat.
Kun asetatte Eurooppa-rajauksen yritykselle, tiimille tai avaimelle, jokaisen pyynnön uusintayrityksineen ja varareitteineen palvelevat vain hyväksytyt eurooppalaiset päätepisteet. Kun tietojen säilytyskielto (ZDR) on käytössä, jokainen pyyntö menee vain päätepisteisiin, jotka sitoutuvat olemaan säilyttämättä kopiota tiedoistanne.
Voimmeko kirjata LLM‑kutsut tallentamatta kehotteita?
Kyllä. Pyyntötietueet sisältävät vain metatietoja (malli, palveluntarjoaja, tokenit, kustannus ja tila), eivät koskaan kehotteitanne tai vastauksia. Pyyntölokin voi viedä enintään 12 kuukauden ajalta.
Ylläpitäjien auditointiloki kattaa henkilöt, avaimet, paketit, budjetit ja säännöt, ja sitä voi suodattaa henkilön tai muutoksen tyypin mukaan.
Millaisista todisteista on apua tekoälysäädöksen ja tietosuoja‑asetuksen (GDPR) noudattamisessa?
Sen, mitä tekoälysäädös edellyttää juuri teidän yritykseltänne, ratkaisee lakiosastonne. Gateway tuottaa todisteet: mitä malleja ja palveluntarjoajia kukin sovellus saa käyttää, tietueen jokaisesta kutsusta, jokaisen ylläpitäjän muutoksen historian sekä voimassa olevat aluerajaukset ja säilytyssäännöt.
Tietosuojaa varten allekirjoitatte tietojenkäsittelysopimuksemme (DPA) hallintapaneelissa. Se sitoo meidät olemaan käyttämättä tietojanne koulutukseen, olemaan säilyttämättä sisältöänne ja ilmoittamaan tietoturvaloukkauksesta 72 tunnin kuluessa. Julkaisemme jokaisen alikäsittelijän käyttötarkoituksineen, tietoineen ja sijainteineen ja ilmoitamme uudesta alikäsittelijästä 14 päivää etukäteen.
Miten tekoälyn hallinta otetaan käyttöön neljässä vaiheessa?
Kaikki tehdään Standard Computen hallintapaneelissa.
Luo yritystili
Luokaa yritystili, jakakaa se tiimeihin ja kutsukaa kollegat sähköpostilla.
Jakakaa avaimet ja budjetit
Antakaa jokaiselle henkilölle ja sovellukselle oma avain ja kiinteä kuukausibudjetti, ja asettakaa kulukatot avainkohtaisesti ja koko yritykselle.
Hyväksykää palveluntarjoajat ja mallit
Määrittäkää sallitut palveluntarjoajat yritykselle, tiimille tai avaimelle ja valitkaa mallit avainkohtaisesti, avoimet mallit mukaan lukien.
Seuratkaa ja viekää tiedot
Seuratkaa muutoksia ylläpitäjien auditointilokista ja viekää pyyntöloki enintään 12 kuukauden ajalta.
Mitä hallintakeinoja on ja millä tasolla?
| Hallintakeino | Mitä se tekee | Taso |
|---|---|---|
| Tiimit | Henkilöt ja sovellusavaimet ryhmitellään yhden yritystilin alle | Taso: Yritys |
| Avaimet | Oma avain jokaiselle henkilölle ja sovellukselle | Taso: Henkilö, sovellus |
| Kuukausibudjetit | Kiinteä kuukausibudjetti avainta kohden, ei koskaan ylity | Taso: Avain |
| Kulukatot | Käyttöön perustuvan laskutuksen katot avainkohtaisesti ja koko yritykselle | Taso: Avain, yritys |
| Täydennys | Valinnainen, yrityksen ennakkomaksetusta saldosta | Taso: Avain |
| Palveluntarjoajien sallittujen luettelo | Vain hyväksymänne inferenssipalveluntarjoajat; uudet vaativat ylläpitäjän hyväksynnän | Taso: Yritys, tiimi, avain |
| Mallien sallittujen luettelo | Vain mallit, jotka hyväksytte kullekin sovellukselle tai henkilölle | Taso: Avain |
| Avoimet mallit | GLM, DeepSeek, MiniMax ja Kimi Clauden, GPT:n ja Geminin rinnalla | Taso: Avain |
| Eurooppa-rajaus | Pyynnöt, uusintayritykset ja varareitit vain hyväksyttyjen eurooppalaisten päätepisteiden kautta | Taso: Yritys, tiimi, avain |
| Säilytyskielto (ZDR) | Pyynnöt vain päätepisteisiin, jotka eivät säilytä kopiota tiedoistanne | Taso: Yritys, tiimi, avain |
| Ylläpitäjien auditointiloki | Jokainen ylläpitäjän muutos vanhoine ja uusine arvoineen | Taso: Yritys |
| Pyyntöloki | Jokaisen pyynnön malli, palveluntarjoaja ja aluerajaus, säilytys 12 kuukautta | Taso: Yritys |
| Tietojenkäsittelysopimus | Allekirjoitetaan hallintapaneelissa | Taso: Yritys |
Usein kysyttyä tekoälyn hallinnasta ja kustannusten valvonnasta
- OpenAI- ja Anthropic-laskumme kasvavat, eikä kukaan tiedä, kuka kuluttaa mitä. Miten saamme tilanteen hallintaan?
- Standard Computessa jokaisella henkilöllä ja sovelluksella on oma avain kuukausibudjetteineen, ja avaimet ovat tiimeissä yhden yritystilin alla. Näette kulut avainkohtaisesti ja rajaatte käyttöön perustuvat kulut avainkohtaisesti ja koko yritykselle.
- Miten asetamme kehittäjäkohtaiset kulukatot, jotka pysäyttävät käytön automaattisesti?
- Antakaa jokaiselle kehittäjälle oma avain kiinteällä kuukausipaketilla. Avain pysähtyy, kun budjetti on käytetty, ilman ylityksiä, ja käyttöön perustuvat katot koskevat avainta ja koko yritystä.
- Miten yritykset valvovat, mitä LLM-malleja työntekijät saavat käyttää?
- Määrittäkää sallitut mallit avainkohtaisesti sekä palveluntarjoajasäännöt ja aluerajaukset yritykselle, tiimille tai yksittäiselle avaimelle. Tiimi tai avain voi vain tiukentaa sääntöä, ei koskaan löyhentää sitä, ja auditointiloki näyttää, kuka muutti mitä.
- Tarvitsemme kaikista LLM-kutsuista jäljen tallentamatta kehotteiden sisältöä. Onnistuuko se?
- Standard Compute tallentaa tietueen jokaisesta pyynnöstä: malli, pyynnön palvellut palveluntarjoaja ja voimassa ollut aluerajaus, vietävissä 12 kuukauden ajalta. Pyyntötietueet sisältävät vain metatietoja, eivät koskaan kehotteita tai vastauksia.
- Voimmeko sallia avoimet mallit vain tietyille sovelluksille?
- Kyllä. Mallisäännöt asetetaan avainkohtaisesti, joten jokainen sovellus saa juuri hyväksymänne mallit, esimerkiksi GLM:n, DeepSeekin tai MiniMaxin rutiinityöhön ja Clauden tai GPT:n vaikeisiin vaiheisiin.
- Mitä hankinnan pitäisi kysyä LLM-toimittajalta ennen allekirjoitusta?
- Missä kehotteet käsitellään, säilytetäänkö sisältöä tai käytetäänkö sitä koulutukseen, keitä alikäsittelijät ovat ja mitä todisteita saatte. Standard Computen vastaukset: Eurooppa-rajaus, ZDR, hallintapaneelissa allekirjoitettava tietojenkäsittelysopimus, julkinen alikäsittelijäluettelo 14 päivän ennakkoilmoituksella ja 12 kuukauden pyyntöloki.
Lue myös
Luokaa yritystili, kutsukaa tiiminne ja asettakaa budjetit ja säännöt hallintapaneelissa.