Intégration de LLM et d'IA générative

Un modèle qui n'a jamais vu vos données répondra avec assurance – et se trompera. La solution consiste à chercher d'abord : nous indexons vos documents, tickets, enregistrements ou catalogue, retrouvons les passages pertinents pour la question et ne transmettons que ceux-là au modèle, avec des liens vers la source.

L'essentiel du travail se joue dans les détails. Découper les documents sans couper un tableau en deux. Combiner la recherche par mots-clés et la recherche sémantique, car les références exactes et les noms comptent toujours. Classer les résultats pour que le meilleur arrive en premier. Et appliquer vos droits d'accès pendant la recherche, afin que personne ne voie un passage d'un document qu'il ne pourrait pas ouvrir lui-même.

Dans la mesure du possible, nous nous appuyons sur une infrastructure que vous payez déjà – votre base de données Postgres ou votre cluster de recherche existant – plutôt que d'ajouter un fournisseur de plus à votre stack.

Un agent est un modèle capable d'appeler vos fonctions. C'est puissant, et c'est aussi le moyen le plus rapide de construire quelque chose d'imprévisible. C'est pourquoi nous gardons des agents au périmètre restreint : un ensemble d'outils défini, des droits explicites sur chacun et une étape de validation humaine partout où une action est coûteuse ou difficile à annuler.

Les agents utiles que nous livrons sont banals à décrire et précieux à exploiter : trier une file entrante et l'acheminer en justifiant le choix, rapprocher deux systèmes qui divergent, rédiger un devis à partir d'un cahier des charges ou exécuter un processus de back-office qui obligeait auparavant à recopier des valeurs entre quatre écrans.

Deux règles assurent l'essentiel de la sécurité. Les identifiants n'entrent jamais dans un prompt : le modèle désigne le workflow et ses paramètres, et le serveur ajoute l'adresse et le jeton d'accès. Et tout code écrit par le modèle s'exécute dans un bac à sable isolé, avec uniquement les accès dont il a besoin.

Chaque appel d'outil est journalisé avec ses entrées et son résultat : en cas de problème, vous voyez exactement ce que le modèle a fait.

Un contrat de 300 pages n'a pas sa place dans un prompt. C'est lent, coûteux, et cela cesse complètement de fonctionner dès que plusieurs documents entrent en jeu. Nous stockons plutôt les documents, les traitons en arrière-plan avec OCR et extraction de tableaux, et laissons le modèle ne lire que les parties dont il a besoin.

La taille des documents ne dicte alors plus le coût ni la rapidité. Une revue de contrat porte sur les clauses qui comptent, et la réponse cite une page et un paragraphe réels, afin que chacun puisse vérifier.

Nous travaillons avec les principaux fournisseurs – Anthropic, OpenAI et des modèles open-weight que vous pouvez héberger vous-même lorsque la localisation des données ou les coûts l'exigent. Les fournisseurs diffèrent réellement, nous ne prétendons donc pas qu'ils sont interchangeables. Ce que nous garantissons, en revanche, c'est qu'en changer revient à modifier la configuration et à relancer le jeu de tests, pas à tout réécrire.

Le coût est un paramètre de conception dès la première semaine, pas une surprise que l'on découvre sur la première facture.

Pour les équipes basées dans l'UE, nous concevons en fonction de l'endroit où vont les données : endpoints régionaux, paramètres sans conservation des données ou modèles entièrement auto-hébergés lorsque rien ne doit quitter votre infrastructure.

La première mission dure généralement de deux à quatre semaines : cadrage, examen sans complaisance des données sur lesquelles portera la recherche, et une première tranche fonctionnelle du cas d'usage à plus forte valeur, exécutée sur vos systèmes réels. Cette tranche tient lieu d'estimation. Elle vous dit bien mieux qu'un document ce que coûtera le développement complet.

Ensuite, notre CEO et nos ingénieurs seniors définissent le périmètre de livraison, et nous constituons l'équipe à partir d'un réseau de plus de 100 ingénieurs avec qui nous travaillons depuis dix ans ou plus. Démos hebdomadaires, code dans vos dépôts, passage en production et support après le lancement. En vingt ans, nous n'avons abandonné aucun projet.