Méthode

Le modèle reste où la donnée doit rester.

Local, hybride, ou Azure. Langfuse sur chaque appel. Un humain valide ce qui touche le métier. Nous n'affirmons que ce que nous avons mesuré, et nous disons les limites de ce que la souveraineté permet aujourd'hui.

Local

La donnée ne sort pas

Modèles open source servis en conteneur Docker sur votre infrastructure, ou chez un hébergeur français qualifié. Inférence, index et journaux restent chez vous. Le bon choix quand le corpus est sensible ou soumis à des règles de localisation.

Hybride

Le sensible reste, le reste sort

Un modèle européen au token pour la génération, vos données interrogées à la source par des connecteurs qui portent l'identité de l'utilisateur. Aucun droit recopié, aucune synchronisation à maintenir.

Azure

Quand le SI y est déjà

Azure AI Foundry et Semantic Kernel quand votre groupe a fait ce choix. C'est le socle de notre RAG en production le plus ancien, et nous en maintenons l'infrastructure.

Observabilité

Chaque appel de modèle est tracé, avec son coût.

Un agent qui affirme ne pas avoir accès à un document alors que l'outil a répondu normalement, nous l'avons observé. C'est pourquoi la journalisation porte sur les appels d'outils, pas sur le texte des réponses.

Ce qui est journalisé
Outil appelé, arguments, résultat, identité, horodatage, tokens consommés. Par appel, pas par conversation.
Le plafond
Vérifié avant l'appel sur les outils que nous opérons, et bloquant. Un plafond qui ne bloque pas n'est pas un plafond.
La mesure de coût
Sur une charge réelle : 886 tests pour 182 $, 110 tests générés pour 2 $. Nous dimensionnons une consommation au token à partir de ces relevés, pas d'une intuition.
L'outil
Langfuse, auto-hébergé ou en service, sur tous nos agents depuis 2024.

Principe directeur

L'agent est un objet déclaratif.

Un agent est entièrement décrit par un fichier de configuration. Le créer consiste à rédiger cette description avec vos référents métier, puis à la déployer. Aucune recompilation.

Sources
Les emplacements exacts qu'il a le droit d'interroger. La déclaration est appliquée par la passerelle, pas laissée à l'appréciation du modèle.
Modèle
Lequel, où il tourne, avec quels paramètres. Changeable sans toucher au reste.
Garde-fous
Réponses sourcées obligatoires, abstention plutôt qu'affirmation, détection des tournures qui visent à détourner les instructions.
Droits
Groupes autorisés à l'utiliser et à l'administrer, via votre annuaire. À l'intérieur, l'accès aux documents est arbitré par la source au moment de la lecture.
Budget
Un plafond mensuel propre à chaque agent. Celui qui épuise le sien ne consomme pas celui des autres.
Propriété
Ses prompts, sa description et sa documentation sont des fichiers lisibles, versionnés et restituables. Vous êtes propriétaire de vos agents au sens plein.

Cycle

Un agent, un cas d'usage, quatre étapes.

Huit à dix semaines par agent. L'étape de cadrage décide de tout le reste : c'est là que se joue la moitié de la valeur.

  1. Cadrer

    Trois ateliers avec vos référents métier : le process, les données, les outils. On en sort avec le manifeste de l'agent et un jeu de questions de référence avec les réponses attendues.

  2. Construire

    Connecteurs, prompts, garde-fous, interface. La complexité arrive par paliers, chacun déclenché par une mesure de recette et non par une intuition d'architecte.

  3. Recetter

    Le jeu de questions produit deux indicateurs : taux de réponses correctement sourcées, taux d'abstention à tort. Ils décident si l'agent est prêt, et s'il faut un index vectoriel ou si la recherche de la source suffit.

  4. Exploiter

    Journal, plafond, revue trimestrielle des droits et des outils déclarés, formation des utilisateurs. Un droit retiré prend effet à la question suivante.

Engagements

Ce que vous pouvez opposer en recette.

  • Aucune réponse sans ses sources. L'agent s'abstient plutôt que d'affirmer ce qu'il ne peut pas étayer, et l'abstention se vérifie dans le journal des appels.
  • Un humain décide. Chaque sortie d'agent est un élément de dossier remis à une personne qui peut en vérifier l'origine.
  • Le code vous est cédé. Agents, connecteurs, passerelle, console : sans licence, auditables par le tiers de votre choix. Nous ne détenons pas de plateforme sur étagère et nous préférons l'écrire.
  • La réversibilité est immédiate. Fichiers lisibles, versionnés, restituables. Le jour où le complément devient inutile, nous documentons la bascule.
  • Nous écrivons ce que nous ne revendiquons pas. C'est la même honnêteté que vous retrouverez dans nos comptes rendus de projet.
  • La transparence du règlement européen sur l'IA est déjà due. Un utilisateur sait qu'il parle à un système d'IA, une sortie générée est identifiée comme telle, et la documentation du système est traitée comme un dossier de marquage CE, pas comme une keynote. Quand un cas d'usage approche un domaine à haut risque, nous le disons en cadrage et nous concevons pour rester en dehors.

Le diagnostic en 2 semainesParler d’un process