Passerelle IA
Une passerelle IA (AI gateway) est un service unique placé entre les applications d'une entreprise et les fournisseurs de modèles d'IA qu'elle utilise. Chaque requête la traverse, de sorte que l'accès, le routage, les règles sur les données, les budgets et la journalisation s'appliquent en un seul endroit.
Pourquoi c'est important pour les entreprises
Sans passerelle, chaque équipe ouvre ses propres comptes chez les fournisseurs, et la DSI n'a aucun point central pour voir qui utilise quel modèle, où vont les données et ce que cela coûte.
Une passerelle transforme ces questions en réglages : un contrat, un jeu de clés, un journal et les mêmes règles pour chaque outil qui appelle un modèle.
Exemple
Une entreprise de 200 développeurs fait passer Claude Code, un chatbot interne et une chaîne de traitement de documents par un seul point de terminaison de passerelle. L'équipe sécurité fixe une règle unique pour que chaque requête soit servie en Europe, et la direction financière voit les dépenses par personne et par application.
Ce que cela change pour une entreprise qui utilise des API d'IA
Si vos développeurs appellent directement les API des modèles, chaque application garde ses propres clés fournisseur, et personne ne peut dire quelles données sont parties chez quel fournisseur le mois dernier sans interroger chaque équipe. Avec une passerelle en amont, vous changez une URL de base et une clé par application ; ensuite, accès, routage, journalisation et plafonds de dépenses se règlent à un seul endroit. Par exemple, un éditeur de logiciels de 50 personnes fait passer trois outils internes de clés fournisseur séparées à un seul point de terminaison de passerelle, et peut ensuite retirer l'accès d'une personne qui part en une seule modification, au lieu de renouveler des clés chez trois fournisseurs.
Où le terme est défini : Aucune loi ni norme ne définit le terme ; les éditeurs le décrivent dans leur documentation. Microsoft décrit par exemple la passerelle IA d'Azure API Management comme un ensemble de fonctions pour sécuriser, mettre à l'échelle, surveiller et gouverner des modèles, agents et outils d'IA, dont les limites de tokens, la répartition de charge et la journalisation.
Ce que fait Standard Compute
Une seule API vous donne les modèles de pointe et les modèles open source, et elle envoie chaque étape au modèle le moins cher capable de la faire, servi par le fournisseur le moins cher assez rapide pour le faire.
Définissez une règle Europe pour votre entreprise, une équipe ou une seule clé, et chaque requête, y compris les nouvelles tentatives et les bascules, est servie uniquement par des points de terminaison d'inférence européens approuvés. Si aucun point de terminaison européen ne peut la servir, la requête est refusée avant l'envoi de votre prompt.
Questions fréquentes des entreprises
- Quelle différence entre une passerelle IA et une passerelle d'API ?
- Une passerelle d'API route et protège n'importe quelle API HTTP. Une passerelle IA ajoute des contrôles propres aux appels de modèles : limites et quotas en tokens, routage entre modèles et fournisseurs, journaux avec modèle, tokens et coût par requête. Microsoft a conçu la passerelle IA d'Azure API Management comme une extension de sa passerelle d'API existante, pas comme un produit distinct.
- La passerelle voit-elle nos prompts, et faut-il un contrat de sous-traitance RGPD ?
- Oui, chaque requête la traverse, donc la passerelle traite aussi le contenu des prompts. S'ils contiennent des données personnelles, examinez-la comme tout prestataire au regard du RGPD : lieu d'hébergement, stockage ou journalisation des prompts, et un accord de traitement des données qui la couvre.
- Comment une passerelle IA est-elle facturée ?
- Les modèles varient. Certaines passerelles ajoutent une commission aux prix des tokens des fournisseurs, d'autres facturent à la requête ou à l'utilisateur, d'autres vendent une offre qui inclut l'usage des modèles. Comparez le coût total pour votre trafic réel, tokens compris, pas seulement les frais de passerelle.