Passerelle IA souveraine : une API, tous vos modèles, coûts centralisés

Deux approches coûtent cher. Tout envoyer à une API américaine expose vos données personnelles et fait grimper une facture au token. Tout héberger en interne oblige à dimensionner le GPU pour la tâche la plus exigeante, alors que l'essentiel du volume demande peu d'intelligence.

La passerelle choisit donc, requête par requête, le modèle adapté à la tâche et à la sensibilité des données.

• Route privée, au forfait : les requêtes qui portent des données personnelles ou sensibles partent vers un modèle interne à poids ouverts, sur un GPU dédié en France. Il s'agit de tâches à gros volume qui demandent peu d'intelligence, comme l'OCR de documents manuscrits, la correction de copies d'apprenants, la reformulation ou la classification. C'est le principe de notre IA hébergée en France, facturée au forfait mensuel.
• Route cloud, au token : la génération de contenu sans donnée personnelle part vers Mistral La Plateforme, dans le cloud de l'UE, sur votre propre compte Mistral.
• Requête bloquée : une requête qui contient un type de donnée personnelle non autorisé est arrêtée avant tout appel cloud.

Le contrôle détecte les données personnelles et bloque la requête, sans chercher à les masquer. Par défaut, seule l'adresse e-mail est autorisée vers le cloud, et tout autre type de donnée personnelle détecté arrête la requête. Ce filtre réduit fortement le risque, sans constituer une garantie absolue.

Côté technique, la passerelle assemble des briques open source (vLLM Semantic Router derrière un proxy Envoy) et expose une API compatible OpenAI.

La passerelle expose un seul endpoint, au format de l'API OpenAI. Vos applications lui parlent comme elles parleraient à OpenAI ; derrière, elle distribue les requêtes entre des modèles à poids ouverts hébergés en France et, pour la génération sans donnée personnelle, Mistral La Plateforme dans l'UE.

• Mistral : un modèle français à poids ouverts, performant et à licence commerciale.
• Llama, Qwen, GLM, DeepSeek : pour couvrir d'autres profils de tâches comme le raisonnement, le code, le contexte long ou le multilingue.
• Un seul contrat d'API pour tous : vous changez de modèle en changeant un paramètre, sans réécrire votre code.

Vos outils existants (SDK OpenAI, bibliothèques, agents) fonctionnent sans adaptation : c'est l'URL de base et la clé qui changent ; votre code reste tel quel.

Toutes les requêtes ne méritent pas le plus gros modèle. La passerelle applique un routage cost-aware : une tâche simple (classification, extraction, résumé court) part vers un petit modèle rapide et peu coûteux ; une tâche exigeante vers un modèle plus capable.

• Distribution pondérée : vous répartissez le trafic entre plusieurs modèles selon des poids, par exemple pour tester un nouveau modèle sur une fraction des appels.
• Deux routes, deux règles : une requête qui porte des données personnelles reste sur la route privée, qui ne bascule jamais vers le cloud et renvoie une erreur explicite si le modèle interne est indisponible. Une requête sans donnée personnelle peut être servie par un modèle hébergé dans l'UE, comme Mistral La Plateforme.
• Un gain qui se mesure : bien réglé, ce routage peut réduire la latence et le volume de tokens facturés, selon le mix de vos requêtes. Le gain dépend de votre usage réel et se constate à la mesure, sans promesse chiffrée d'avance.

Sans garde-fous, une facture d'IA générative dérive vite, et personne ne sait quelle équipe consomme quoi. La passerelle est le bon endroit pour centraliser cette gouvernance.

• Clés virtuelles : des clés par équipe, par projet ou par application peuvent être mises en place à la demande, lors du déploiement, sans exposer les identifiants des modèles sous-jacents.
• Plafonds et budgets : un budget mensuel ou un plafond de dépense par clé se met en place de la même façon, pour contenir la facture.
• Coûts consolidés : une fois ces clés en place, la consommation de tous les modèles se ventile par équipe et par projet. Le DSI et le DAF voient alors une seule ligne de coût au lieu de dix factures éparses.

Les clés par équipe et les plafonds de dépense par clé ne sont pas inclus en standard dans la version actuelle. Ils se mettent en place à la demande, lors du déploiement. En standard, la consommation est suivie par route et par modèle.

C'est ce qui transforme « on ne sait pas ce que l'IA nous coûte » en une donnée pilotable, à la manière du FinOps sur le cloud.

Au token, le coût suit le volume, et chaque document traité alourdit la facture. Les tâches à gros volume et à faible besoin d'intelligence (OCR de documents manuscrits, correction de copies, reformulation, classification) sont justement celles qui font grimper ce compteur. Sur la route privée, elles passent sur un forfait mensuel.

L'Instance IA démarre à 160 € HT/mois, et ce montant ne dépend pas du nombre de requêtes tant que la machine absorbe la charge. Au-delà, le palier suivant fait l'objet d'un devis.

La génération de contenu sans donnée personnelle reste au token, chez Mistral, sur votre propre compte. Le budget devient ainsi prévisible et s'exprime en euros par utilisateur (ou par apprenant) et par an, d'autant que la consommation est suivie route par route.

Le chiffrage part de mesures réelles. Pendant le prototype, nous mesurons le nombre de tokens consommés par document, route par route, puis nous en déduisons le coût annuel par utilisateur. D'ici là, tout chiffre de performance ou de coût reste indicatif.

À faible volume, une API facturée au token peut coûter moins cher sur le papier, et nous préférons le dire. L'intérêt du forfait tient à la prévisibilité du budget, au contrôle des données et au volume qui bascule sur un coût fixe.

La passerelle se trouve sur le chemin de chaque requête. Cette position permet d'appliquer des contrôles avant que le prompt n'atteigne un modèle.

• Inspection in-path : les appels passent par un point unique où l'on peut journaliser, filtrer et appliquer des règles.
• Fail-closed sur les données personnelles : la posture par défaut est de refuser plutôt que de laisser passer. Si une règle de routage ne peut pas être satisfaite en restant souverain, la requête est bloquée au lieu d'être redirigée hors de France.

C'est une posture de sécurité, un ensemble de règles configurées ; elle ne constitue pas une garantie absolue. Elle réduit la surface d'erreur ; elle ne remplace pas votre propre analyse de risque.

Beaucoup d'organisations ont déjà une charte ou une politique d'usage de l'IA. Elle reste souvent un document que personne ne relit au moment d'appeler un modèle. La passerelle traduit chaque règle de cette charte en réglage appliqué à toutes les requêtes, sans dépendre de la vigilance de chacun.

• « Les données sensibles restent en interne » devient une route privée fail-closed. Si le modèle interne est indisponible, la requête échoue avec une erreur explicite et ne part jamais vers le cloud.
• « Pas de donnée personnelle chez un fournisseur cloud » devient un blocage des données personnelles détectées, avec une liste de types autorisés (par défaut, l'adresse e-mail seulement).
• « Chaque usage a un responsable » se traduit par une clé d'API par fonctionnalité, par application ou par équipe, mise en place à la demande lors du déploiement, en complément du suivi standard par route et par modèle.
• « Pas de dépendance à un fournisseur » devient un paramètre. Changer de modèle ou de fournisseur se fait dans la configuration de la passerelle, et vos applications restent inchangées.

La gouvernance des coûts est détaillée plus haut, comme le contrôle des requêtes dans la partie sur la sécurité in-path. Pour la mise en œuvre, le guide technique de Private GPT reprend ces réglages et les recommandations destinées à la DSI et au RSSI.

Une passerelle ne vaut que par ce qu'elle route. Ici, la passerelle et les modèles qu'elle appelle restent en France ou dans l'Union européenne.

• Le point d'entrée est hébergé sur une infrastructure française.
• Le modèle interne tourne sur un GPU dédié, hébergé en France par une société française. Vos données ne sont jamais utilisées par nous pour entraîner un modèle, et la liste de nos sous-traitants figure dans le contrat de sous-traitance (article 28 du RGPD).
• La route cloud appelle Mistral La Plateforme, dans l'UE, sans bascule vers une API hors UE. La route privée, elle, ne bascule jamais vers le cloud.

Une passerelle IA souveraine contrôle le chemin de données de bout en bout, là où une passerelle générique s'arrête à l'entrée.

La passerelle applique des règles techniques. Elle ne remplace ni votre conformité, ni votre propre analyse de risque.

• Obligations du responsable de traitement : la base légale, les durées de conservation et les droits des personnes restent à votre charge, et la passerelle ne les couvre pas.
• Analyse d'impact : pour des données sensibles ou des personnes vulnérables, comme des mineurs, une analyse d'impact (AIPD, article 35 du RGPD) sera probablement exigée. Elle se mène en amont de la mise en production.
• Instance IA sans SLA : le modèle interne tourne sur une seule machine, sans redondance. Elle est supervisée, mais sans engagement de disponibilité, car les SLA de France Nuage portent sur l'hébergement applicatif. La route privée étant fail-closed, une panne se traduit par une erreur explicite et aucune requête ne part vers le cloud.
• Filtre sans garantie absolue : la détection des données personnelles réduit fortement le risque, mais une donnée inhabituelle ou mal formée peut lui échapper.

Cette passerelle est la couche de routing et de gouvernance de notre offre Private GPT, notre application de chat et de RAG, prête pour vos équipes.

Private GPT fournit l'interface (chat, RAG sur vos documents, gestion des accès) ; la passerelle apporte le multi-modèles, le routage cost-aware et la gouvernance des coûts en dessous. Vous pouvez aussi appeler la passerelle directement depuis vos propres applications.