Procesamiento regional (regla Europa)
El procesamiento regional es una regla de enrutamiento que solo permite que las solicitudes de IA las atiendan endpoints de inferencia situados en una región aprobada. Una regla Europa es su versión europea: las solicitudes van solo a endpoints europeos y se rechazan cuando no hay ninguno disponible.
Por qué importa a las empresas
Un ajuste de región que pasa en silencio a otra región ante un error o un reintento protege menos de lo que parece. La regla debe valer para cada llamada que lleva el prompt: la clasificación, la respuesta, los reintentos y las conmutaciones por error.
Rechazar la solicitud es el resultado seguro. Un error claro se gestiona con facilidad, mientras que una transferencia silenciosa fuera de la región es un incidente de cumplimiento.
Ejemplo
Un equipo del sector público aplica una regla Europa a sus claves. Cuando el único endpoint europeo de un modelo cae, la solicitud devuelve un error y el equipo cambia a otro modelo, sin que nada se atienda en Estados Unidos.
Qué significa para una empresa que usa API de IA
Fije la regla de región donde nacen las solicitudes, en la clave o en el proyecto, en lugar de confiar en que cada aplicación elija el endpoint correcto, y pruebe qué ocurre cuando falla el endpoint regional. Una buena regla devuelve un error que usted puede gestionar, en lugar de procesar la solicitud en otro sitio sin avisar. En Amazon Bedrock, por ejemplo, un equipo que necesita procesamiento en la UE usa un perfil de inferencia geográfico de la UE en lugar de uno global, y paga el precio estándar en vez del descuento global.
Dónde se define: Los proveedores lo definen servicio a servicio. La documentación de Amazon sobre la inferencia entre regiones, por ejemplo, distingue los perfiles geográficos, que enrutan dentro de una zona como la UE, de los perfiles globales, que enrutan a todo el mundo. Para los datos personales, el marco jurídico es el capítulo V del RGPD, sobre transferencias.
Qué hace Standard Compute
Fije una regla Europa para su empresa, un equipo o una sola clave, y cada solicitud, incluidos los reintentos y las conmutaciones por error, la atienden solo endpoints de inferencia europeos aprobados. Si ningún endpoint europeo puede atenderla, la solicitud se rechaza antes de enviar su prompt.
Nuestra pasarela europea termina el TLS y funciona en Finlandia, y los datos de su cuenta se almacenan en Fráncfort.
Preguntas frecuentes de las empresas
- ¿Qué incluye Europa en una regla Europa?
- Depende del proveedor. Algunos se refieren solo a los países de la UE y del EEE; otros incluyen también el Reino Unido y Suiza. Pida la lista de regiones y endpoints que cuentan.
- ¿Los reintentos y las conmutaciones por error respetan la regla de región?
- Deberían, y conviene probarlo. Una regla que solo se aplica al primer intento puede enviar los reintentos a otra región. Pregunte al proveedor si la clasificación, los reintentos y las conmutaciones por error están cubiertos.
- ¿Una regla de región limita los modelos que puedo usar?
- A menudo, sí. No todos los modelos se ofrecen en todas las regiones, así que una regla estricta puede dejar algunos fuera de su alcance. Compruebe la disponibilidad por región antes de aplicar la regla a toda la empresa.