Regionale verwerking (Europa-regel)
Regionale verwerking is een routeringsregel waardoor AI-verzoeken alleen worden bediend door inference-endpoints in een goedgekeurde regio. Een Europa-regel is de Europese variant: verzoeken gaan alleen naar Europese endpoints en worden geweigerd als er geen beschikbaar is.
Waarom dit belangrijk is voor bedrijven
Een regio-instelling die bij fouten of herhalingen stilletjes uitwijkt naar een andere regio, beschermt minder dan ze lijkt. De regel moet gelden voor elke aanroep die de prompt meedraagt: classificatie, het antwoord, herhalingen en fallbacks.
Een verzoek weigeren is de veilige uitkomst. Een duidelijke foutmelding is eenvoudig af te handelen, terwijl een stille doorgifte buiten de regio een compliance-incident is.
Voorbeeld
Een team bij de overheid stelt een Europa-regel in op zijn sleutels. Als het enige Europese endpoint voor een model uitvalt, geeft het verzoek een foutmelding en stapt het team over op een ander model, zonder dat er iets in de VS wordt bediend.
Wat dit betekent voor een bedrijf dat AI-API's gebruikt
Leg de regioregel vast waar verzoeken beginnen, op de sleutel of het project, in plaats van erop te vertrouwen dat elke applicatie het juiste endpoint kiest, en test wat er gebeurt als het regionale endpoint uitvalt. Een goede regel geeft een foutmelding die u kunt afhandelen, in plaats van het verzoek stilletjes ergens anders te verwerken. Een team dat verwerking in de EU nodig heeft, gebruikt bij Amazon Bedrock bijvoorbeeld een geografisch inference-profiel voor de EU in plaats van een globaal profiel, en betaalt dan de standaardprijs in plaats van de globale korting.
Waar het begrip is gedefinieerd: Leveranciers definiëren het per dienst. De documentatie van Amazon over cross-Region inference (Engelstalig) onderscheidt bijvoorbeeld geografische profielen, die binnen een geografie zoals de EU routeren, van globale profielen, die wereldwijd routeren. Voor persoonsgegevens is hoofdstuk V van de AVG over doorgiften het juridische kader.
Zo regelt Standard Compute dit
Stel een Europa-regel in voor uw bedrijf, een team of één sleutel, en elk verzoek, inclusief herhalingen en fallbacks, wordt alleen bediend door goedgekeurde Europese inference-endpoints. Kan geen Europees endpoint het bedienen, dan wordt het verzoek geweigerd voordat uw prompt wordt verstuurd.
Onze EU-gateway termineert TLS en draait in Finland, en uw accountgegevens worden opgeslagen in Frankfurt.
Vragen die bedrijven stellen
- Wat valt onder Europa in een Europa-regel?
- Dat verschilt per leverancier. Sommige bedoelen alleen landen in de EU en de EER; andere rekenen ook het Verenigd Koninkrijk en Zwitserland mee. Vraag om de lijst met regio's en endpoints die meetellen.
- Volgen herhalingen en fallbacks de regioregel?
- Dat hoort zo, en het is de moeite waard om het te testen. Een regel die alleen voor de eerste poging geldt, kan herhaalde verzoeken naar een andere regio sturen. Vraag de leverancier of classificatie, herhalingen en fallbacks allemaal onder de regel vallen.
- Beperkt een regioregel welke modellen ik kan gebruiken?
- Vaak wel. Niet elk model wordt in elke regio aangeboden, dus een strikte regel kan sommige modellen onbeschikbaar maken. Controleer de beschikbaarheid per regio voordat u de regel voor het hele bedrijf instelt.