Elaborazione regionale (regola Europa)
L'elaborazione regionale è una regola di instradamento che lascia servire le richieste di IA solo da endpoint di inferenza situati in una regione approvata. Una regola Europa ne è la versione europea: le richieste vanno solo a endpoint europei e vengono rifiutate quando nessuno è disponibile.
Perché conta per le aziende
Un'impostazione di regione che passa in silenzio a un'altra regione in caso di errore o di nuovo tentativo protegge meno di quanto sembri. La regola deve valere per ogni chiamata che trasporta il prompt: la classificazione, la risposta, i tentativi ripetuti e i fallback.
Rifiutare la richiesta è l'esito sicuro. Un errore chiaro si gestisce facilmente, mentre un trasferimento silenzioso fuori regione è un incidente di conformità.
Esempio
Un team della pubblica amministrazione applica una regola Europa alle sue chiavi. Quando l'unico endpoint europeo di un modello va giù, la richiesta restituisce un errore e il team passa a un altro modello, senza che nulla venga servito negli Stati Uniti.
Cosa significa per un'azienda che usa API di IA
Impostate la regola di regione dove partono le richieste, sulla chiave o sul progetto, invece di affidarvi a ogni applicazione perché scelga l'endpoint giusto, e provate cosa succede quando l'endpoint regionale va giù. Una buona regola restituisce un errore gestibile invece di elaborare la richiesta altrove in silenzio. Su Amazon Bedrock, per esempio, un team che ha bisogno di elaborazione nell'UE usa un profilo di inferenza geografico UE invece di uno globale, e paga il prezzo standard invece dello sconto globale.
Dove è definito: I fornitori la definiscono servizio per servizio. La documentazione di Amazon sull'inferenza interregionale, per esempio, distingue i profili geografici, che instradano all'interno di un'area come l'UE, dai profili globali, che instradano in tutto il mondo. Per i dati personali il quadro giuridico è il capo V del GDPR sui trasferimenti.
Cosa fa Standard Compute
Impostate una regola Europa per l'azienda, un team o una singola chiave, e ogni richiesta, compresi i tentativi ripetuti e i fallback, è servita solo da endpoint di inferenza europei approvati. Se nessun endpoint europeo può servirla, la richiesta viene rifiutata prima che il prompt venga inviato.
Il nostro gateway europeo termina il TLS e gira in Finlandia, e i dati del vostro account sono archiviati a Francoforte.
Domande frequenti delle aziende
- Che cosa comprende l'Europa in una regola Europa?
- Dipende dal fornitore. Alcuni intendono solo i paesi dell'UE e del SEE; altri includono anche Regno Unito e Svizzera. Chiedete l'elenco delle regioni e degli endpoint che rientrano nella regola.
- Tentativi ripetuti e fallback rispettano la regola di regione?
- Dovrebbero, e conviene provarlo. Una regola che vale solo per il primo tentativo può mandare le richieste ripetute in un'altra regione. Chiedete al fornitore se classificazione, tentativi ripetuti e fallback sono tutti coperti.
- Una regola di regione limita i modelli che possiamo usare?
- Spesso sì. Non tutti i modelli sono offerti in ogni regione, quindi una regola rigida può rendere alcuni modelli non disponibili. Verificate la disponibilità per regione prima di applicare la regola a tutta l'azienda.