Elenco di modelli consentiti
Un elenco di modelli consentiti (model allow-list) definisce quali modelli di IA può chiamare una persona, un team o un'applicazione. Le richieste verso qualsiasi altro modello vengono rifiutate.
Perché conta per le aziende
Tiene sotto controllo i costi, riservando i modelli costosi agli usi che ne hanno bisogno, e tiene fuori dalla produzione i modelli non ancora valutati.
Dà anche a ogni applicazione un insieme di modelli stabile e noto, il che semplifica test e revisioni.
Esempio
Un'applicazione di assistenza clienti può usare un solo modello approvato. Il team di ricerca può usarne cinque, tra cui un modello a pesi aperti per i propri esperimenti.
Cosa significa per un'azienda che usa API di IA
Trattate l'elenco come parte della gestione delle modifiche: un modello entra dopo aver superato i vostri test e la revisione, e i nuovi modelli non vengono mai aggiunti in automatico. Microsoft Foundry, per esempio, ha un criterio predefinito di Azure Policy secondo cui le distribuzioni di modelli Foundry dovrebbero usare solo modelli approvati, che limita i deployment a modelli o publisher approvati. Un'azienda può consentire un modello piccolo per un classificatore interno e due modelli di frontiera per il suo assistente clienti, e bloccare tutto il resto.
Dove è definito: Nessuna legge o norma lo definisce. I fornitori lo implementano nei propri controlli, per esempio i criteri predefiniti per la distribuzione dei modelli di Microsoft Foundry.
Cosa fa Standard Compute
Decidete quali modelli può usare ogni chiave, così ogni applicazione e ogni persona del team ha esattamente i modelli che approvate.
Domande frequenti delle aziende
- Le nuove versioni dei modelli vanno consentite in automatico?
- Per le applicazioni in produzione di solito no. Una nuova versione può cambiare output, costi e comportamento. Bloccate le versioni che avete testato e aggiungete le nuove dopo la revisione; la documentazione dei criteri di Microsoft, per esempio, mostra come consentire una sola versione di un modello tramite il suo ID asset completo.
- Un elenco di modelli consentiti serve a controllare i costi?
- In parte. Tiene i modelli costosi fuori dalle applicazioni che non ne hanno bisogno, ma non mette un tetto alla spesa. Abbinatelo a un budget o a un tetto di spesa.
- Un elenco di modelli impedisce che i dati vadano a provider non approvati?
- No. Decide quali modelli si possono chiamare, non quali provider li servono. Per questo serve un elenco di provider consentiti.