Traitement régional (règle Europe)
Le traitement régional est une règle de routage qui ne laisse servir les requêtes d'IA que par des points de terminaison d'inférence situés dans une région approuvée. Une règle Europe en est la version européenne : les requêtes vont uniquement vers des points de terminaison européens et sont refusées lorsqu'aucun n'est disponible.
Pourquoi c'est important pour les entreprises
Un réglage de région qui bascule discrètement vers une autre région en cas d'erreur ou de nouvelle tentative protège moins qu'il n'y paraît. La règle doit valoir pour chaque appel qui transporte le prompt : la classification, la réponse, les nouvelles tentatives et les bascules.
Refuser la requête est l'issue sûre. Une erreur claire se traite facilement, alors qu'un transfert silencieux hors de la région constitue un incident de conformité.
Exemple
Une équipe du secteur public applique une règle Europe à ses clés. Quand le seul point de terminaison européen d'un modèle est en panne, la requête renvoie une erreur et l'équipe passe à un autre modèle, sans que rien ne soit servi aux États-Unis.
Ce que cela change pour une entreprise qui utilise des API d'IA
Fixez la règle de région là où partent les requêtes, sur la clé ou le projet, plutôt que de compter sur chaque application pour choisir le bon point de terminaison, et testez ce qui se passe quand le point de terminaison régional tombe. Une bonne règle renvoie une erreur que vous pouvez gérer au lieu de traiter la requête ailleurs sans le dire. Sur Amazon Bedrock, par exemple, une équipe qui a besoin d'un traitement dans l'UE utilise un profil d'inférence géographique UE plutôt qu'un profil mondial, et paie le prix standard au lieu de la remise mondiale.
Où le terme est défini : Les fournisseurs le définissent service par service. La documentation d'Amazon sur l'inférence interrégions distingue par exemple les profils géographiques, qui routent dans une zone comme l'UE, des profils mondiaux, qui routent partout. Pour les données personnelles, le cadre juridique est le chapitre V du RGPD sur les transferts.
Ce que fait Standard Compute
Définissez une règle Europe pour votre entreprise, une équipe ou une seule clé, et chaque requête, y compris les nouvelles tentatives et les bascules, est servie uniquement par des points de terminaison d'inférence européens approuvés. Si aucun point de terminaison européen ne peut la servir, la requête est refusée avant l'envoi de votre prompt.
Notre passerelle européenne termine le TLS et fonctionne en Finlande, et vos données de compte sont stockées à Francfort.
Questions fréquentes des entreprises
- Que recouvre « Europe » dans une règle Europe ?
- Cela dépend du fournisseur. Certains entendent les seuls pays de l'UE et de l'EEE, d'autres y ajoutent le Royaume-Uni et la Suisse. Demandez la liste des régions et points de terminaison concernés.
- La règle de région s'applique-t-elle aux nouvelles tentatives et aux bascules ?
- Elle le devrait, et cela vaut la peine de le tester. Une règle qui ne vaut que pour la première tentative peut envoyer les requêtes relancées vers une autre région. Demandez au fournisseur si la classification, les nouvelles tentatives et les bascules sont couvertes.
- Une règle de région limite-t-elle les modèles disponibles ?
- Souvent, oui. Tous les modèles ne sont pas proposés dans toutes les régions ; une règle stricte peut donc en exclure certains. Vérifiez la disponibilité par région avant d'appliquer la règle à toute l'entreprise.