NLP Border Controller, la factory LLM souveraine

Le NLP Border Controller (NLPBC) est le poste de commandement de l'IA générative DalonCorp : un contrôle d'accès aux modèles de langage qui décide, route et facture chaque token, au plus près de votre infrastructure.

Ce que c'est

Le NLPBC est la LLM Factory de la plateforme DalonCorp. Un seul service expose l'intégralité de l'intelligence générative à vos applications, quel que soit le modèle derrière :

• 8 providers intégrés : Ollama (on-premise), OpenAI, Google, Mistral, et plus, basculables sans changer une ligne de code applicative.
• Ollama on-prem : l'inférence tourne sur vos GPU, avec Llama 3.1, Mistral Nemo ou DeepSeek. 0€ de coût cloud AI.
• Streaming token-par-token : la latence perçue est celle du premier token, pas du dernier.
• Agent loop (20 itérations) : le modèle peut enchaîner jusqu'à 20 appels d'outils pour résoudre une demande complexe, sans intervention humaine.
• Auto-discovery (sweep) : tout microservice enregistré sur le bus NATS devient automatiquement un tool que le LLM peut appeler.
• Mesure à l'unité consommée : chaque requête publie sa consommation (tokens, modèle, provider) vers le billing, avec attribution à l'utilisateur par le subject NATS.

Gouverner la dépense IA, pas seulement la subir

L'AI Expense Management (maîtrise de la dépense IA) est la discipline qui manque à la plupart des plateformes IA : voir, plafonner, optimiser, refacturer. Le NLPBC l'embarque nativement :

• Voir : chaque requête est mesurée à l'unité (token), avec le modèle utilisé, pour quel utilisateur
• Plafonner : quotas et budgets par utilisateur ou tenant, épuisement automatique selon la politique
• Optimiser : l'Arbiter (en intégration) choisit le modèle le moins cher suffisant pour chaque requête, dans l'ensemble autorisé par la souveraineté ; pas de GPT-4o partout, tout le temps, le bon LLM pour l'usage
• Refacturer : attribution cryptographique par compte et utilisateur, consolidée en temps réel par le billing

Ce que ça change pour vous

• ✅ Souveraineté totale : vos prompts, vos réponses et vos données contextuelles ne quittent jamais votre infrastructure (mode Ollama).
• ✅ Une seule intégration : pas d'API REST de 8 providers à maintenir, une connexion NATS.
• ✅ Facturation temps réel : token par token, intégrée au billing DalonCorp.
• ✅ Dépense IA gouvernée : chaque consommation est attribuée, mesurée, plafonnée. Le showback par équipe devient une requête, pas un projet de réconciliation.
• ✅ Conformité par construction : RGPD (aucun transfert hors UE), AI Act (audit log, transparence du modèle utilisé), NIS2 (identité cryptographique NSC).
• ✅ Pas de boîte noire : vous savez exactement quel modèle tourne, sur quel GPU, avec quelles données.

Le "Border" dans Border Controller

Pourquoi « contrôleur frontalier » ? Parce que le NLPBC marque la frontière entre votre système d'information et les modèles. Chaque requête qui traverse cette frontière est :

1. Authentifiée cryptographiquement (NSC, Ed25519 + JWT) 2. Routée vers le provider conforme à votre politique (tenant par tenant) 3. Modérée et protégée (guardrailing : limites éthiques, et bientôt garde-fou de souveraineté vérifié par classifieur dédié on-premise, intégration en cours) 4. Facturée en temps réel 5. Tracée (audit log complet)

C'est exactement ce qu'un Session Border Controller fait pour la téléphonie, appliqué à l'intelligence artificielle.

Bientôt : la frontière garde aussi ce qui sort

La promesse souveraine du NLPBC : aucun octet ne quitte votre infrastructure. Aujourd'hui, elle repose sur le routage, à vous d'envoyer le sensible vers l'on-premise. Demain, elle sera vérifiée : un classifieur dédié, open weights, sur vos GPU, contrôle chaque requête avant qu'elle ne franchisse la frontière vers un provider cloud. S'il reconnaît de la connaissance de l'entreprise (code source, données financières, données clients, vocabulaire métier), la requête est routée vers l'on-premise : le service continue, la donnée reste, l'utilisateur ne voit rien. La politique de chaque tenant s'écrit en langage naturel, avec un seuil et un audit log. La modération de sécurité (contenus violents, illégaux) est le second rôle du même garde-fou, et les deux protections partagent le même contrôle, le même audit, le même coût marginal nul.

Bientôt : l'Arbiter, le bon LLM pour l'usage

Huit providers, des dizaines de modèles, des prix qui varient d'un facteur de 20 à 100. Aujourd'hui, vous choisissez explicitement ; demain, l'Arbiter choisit pour vous : à chaque requête, il sélectionne le modèle le moins cher suffisant pour la tâche (type de tâche, outils demandés, longueur du contexte, plafond de votre tenant), dans l'ensemble autorisé par votre politique de souveraineté. Un résumé part sur un modèle léger, un raisonnement complexe part sur un modèle frontière, et chaque décision émet sa raison avec la consommation : votre showback sait pourquoi chaque requête a coûté ce qu'elle a coûté. Pas de GPT-4o partout, tout le temps : le bon LLM pour l'usage.

Conformité européenne

Pour aller plus loin

• Découvrir la plateforme Voice AI souveraine dans son ensemble
• Comprendre le cycle de paiement : recharge et épuisement de crédit
• Comprendre le générateur de code qui enrichit automatiquement les tools du NLPBC
• Télécharger la proposition de valeur complète (PDF)