Base de connaissances sur l'IA agentique
Des unités autonomes et citables sur l'IA appliquée et agentique — chacune conçue comme une unité de connaissance réutilisable pour les humains, les moteurs de recherche et les agents d'IA. Chaque entrée comprend une définition, des points clés, une FAQ, des références, une date et une version.
Concepts
10Qu'est-ce que l'IA agentique ?
L'IA agentique désigne des systèmes qui poursuivent des objectifs à travers plusieurs étapes — planification, appel d'outils, action sur un environnement et réaction aux retours — plutôt que de produire une réponse unique. Elle transforme un modèle de langage, de simple générateur de texte en un acteur capable de mener à bien des tâches. Elle représente une transition entre les logiciels de type « faites-le vous-même », où l'humain pilote chaque étape, et les logiciels de type « faites-le pour moi », où le système exécute le travail et rend compte du résultat.
Qu'est-ce que l'évaluation de l'IA agentique ?
L'évaluation de l'IA agentique consiste à mesurer la capacité d'un agent à accomplir des tâches multi-étapes utilisant des outils dans un environnement — et non pas seulement la qualité d'une réponse unique. Alors que les modèles saturent les benchmarks de connaissances statiques, l'évaluation passe de la mesure de la capacité (ce qu'un modèle sait) à la mesure de l'agentivité (ce qu'un système peut réellement accomplir). De bonnes évaluations constituent la boucle de rétroaction qui rend possible le Harness Engineering.
Qu'est-ce qu'un agent d'IA ?
Un agent d'IA est un système qui combine un modèle avec des outils, de la mémoire et une boucle de contrôle pour entreprendre des actions vers un objectif, plutôt que de simplement répondre à un prompt unique. Il perçoit une situation, décide de l'action à mener, agit via des outils, observe le résultat et répète le processus jusqu'à sa finalisation. L'autonomie va d'un simple appel d'outil à l'exécution à long terme de tâches complexes.
Que sont les embeddings et la recherche vectorielle ?
Un embedding est un vecteur numérique qui représente la signification d'un texte (ou d'images, d'audio, de code) de sorte que les éléments sémantiquement similaires soient proches dans l'espace vectoriel. La recherche vectorielle trouve les embeddings les plus proches d'une requête, permettant une recherche par sens plutôt que par mots-clés. Les embeddings constituent l'épine dorsale de la génération augmentée de récupération (RAG), de la recherche sémantique, du clustering et de la recommandation.
Qu'est-ce que le fine-tuning ?
Le fine-tuning poursuit l'entraînement d'un modèle préentraîné sur un ensemble de données plus restreint et ciblé afin de spécialiser son comportement, son style ou ses connaissances sectorielles. Il est bien moins coûteux que le préentraînement et modifie les poids du modèle — contrairement au prompting ou à la récupération, qui laissent le modèle inchangé. Utilisez-le pour figer un format, un ton ou une compétence cohérente ; utilisez plutôt la récupération lorsque vous avez besoin de faits récents ou privés.
Que sont les modèles de fondation ?
Un modèle de fondation est un grand modèle préentraîné à grande échelle sur des données larges, qui peut être adapté à un large éventail de tâches en aval. Les grands modèles de langage (LLM) et les grands modèles multimodaux en sont les exemples canoniques. Le terme, inventé à Stanford en 2021, traduit un changement de paradigme : au lieu d'entraîner un modèle sur mesure par tâche, les organisations s'appuient sur une base partagée et généraliste, puis la spécialisent par le prompting, la récupération ou le fine-tuning.
Qu'est-ce que le Model Context Protocol (MCP) ?
Le Model Context Protocol (MCP) est un standard ouvert permettant de connecter des modèles et agents d'IA à des outils, sources de données et systèmes externes via une interface unique et uniforme. Introduit par Anthropic fin 2024, il normalise la manière dont une application expose son contexte et ses capacités à un modèle — agissant comme un adaptateur universel pour que tout client conforme puisse communiquer avec tout serveur conforme.
Qu'est-ce que le Prompt Engineering ?
Le Prompt Engineering est la pratique consistant à concevoir les entrées fournies à un modèle de langage afin qu'il produise le résultat souhaité de manière fiable. Un bon prompt spécifie le rôle, la tâche, les contraintes, le format de sortie et, si nécessaire, des exemples. C'est le levier le plus accessible pour orienter le comportement du modèle — et une couche du harness plus large entourant un modèle — mais à lui seul, il ne rend pas un système fiable à grande échelle.
Que sont les modèles de raisonnement ?
Les modèles de raisonnement sont des modèles de langage entraînés à consacrer de la puissance de calcul supplémentaire à « réfléchir » avant de répondre — en générant des étapes de raisonnement internes pour résoudre des problèmes plus difficiles en mathématiques, en code et en logique. Ils échangent de la latence et du coût contre de la précision sur des tâches complexes en plusieurs étapes. L'idée clé est le calcul au moment du test (test-time compute) : permettre à un modèle de raisonner plus longtemps lors de l'inférence, plutôt que de simplement l'agrandir, peut améliorer considérablement les résultats.
Qu'est-ce que l'utilisation d'outils (Function Calling) ?
L'utilisation d'outils, également appelée appel de fonction (function calling), permet à un modèle de langage d'invoquer des fonctions externes, des API ou du code pour récupérer des informations ou entreprendre des actions dans le monde réel. Le modèle décide quel outil appeler et avec quels arguments ; l'application exécute l'outil et renvoie le résultat, que le modèle utilise pour continuer. L'utilisation d'outils est la passerelle qui transforme un générateur de texte en un agent capable d'agir concrètement.
Harness Engineering
4Qu'est-ce que les systèmes de mémoire d'agent ?
La mémoire d'agent désigne la manière dont un agent d'IA conserve et rappelle des informations au-delà d'une seule fenêtre de contexte — à travers les étapes, les sessions et les tâches. Elle sépare généralement la mémoire de travail à court terme (le contexte actuel) de la mémoire à long terme (des espaces de stockage durables dans lesquels l'agent lit et écrit). La mémoire est ce qui permet à un agent de conserver un état tout au long d'une tâche complexe, de se souvenir d'un utilisateur au fil du temps et d'éviter de répéter le même travail. C'est une couche fondamentale de la discipline Harness Engineering.
Qu'est-ce que l'observabilité des agents d'IA ?
L'observabilité de l'IA consiste à instrumenter les systèmes d'IA — en particulier les agents — afin de comprendre ce qu'ils ont fait et pourquoi. Elle capture les traces de chaque étape : prompts, appels d'outils, contexte récupéré, sorties du modèle, jetons, latence et coût. Les agents étant non déterministes et multi-étapes, l'observabilité permet de diagnostiquer les défaillances et d'améliorer le système de manière systématique. C'est la couche qui alimente l'évaluation et ferme la boucle du Harness Engineering.
Qu'est-ce que l'ingénierie de contexte ?
L'ingénierie de contexte est la discipline qui consiste à décider quelles informations entrent dans la fenêtre de contexte limitée d'un modèle à chaque étape — et lesquelles en sont exclues. À mesure que les agents enchaînent les étapes, intégrer naïvement toutes les données dans le contexte nuit à la qualité et augmente les coûts. L'ingénierie de contexte sélectionne les bonnes instructions, les connaissances récupérées, les résultats d'outils et la mémoire afin que le modèle dispose exactement de ce dont il a besoin, au moment où il en a besoin. C'est un élément central du Harness Engineering.
Qu'est-ce que le Harness Engineering ?
Le Harness Engineering est la discipline émergente de conception et d'optimisation de l'échafaudage (scaffolding) autour d'un modèle d'IA — les prompts, les outils, la mémoire, l'environnement, la boucle de contrôle et les garde-fous — afin que le modèle fonctionne de manière fiable sur des tâches réelles. Son principe fondamental : à mesure que les modèles de base convergent en termes de capacités brutes, l'avantage concurrentiel se déplace du modèle lui-même vers le harness construit autour de lui. Un même modèle peut réussir ou échouer une tâche en fonction presque entièrement de son harness.
Patterns
2Qu'est-ce que le RAG d'entreprise ?
Le RAG d'entreprise (génération augmentée de récupération) est le modèle consistant à ancrer les réponses d'un modèle dans les propres documents d'une organisation, récupérés au moment de la requête, plutôt que de s'appuyer sur la mémoire paramétrique du modèle. Il permet à une entreprise d'utiliser des connaissances privées, actuelles et gouvernées — politiques, manuels, tickets, contrats — sans réentraîner le modèle, tout en conservant le contrôle d'accès, les citations et l'auditabilité requis par les entreprises.
Qu'est-ce que le pattern Human-in-the-Loop ?
Le Human-in-the-loop (HITL) est un design pattern dans lequel une personne examine, approuve ou corrige les résultats d'un système d'IA avant qu'ils ne prennent effet — en particulier pour les actions à fort impact. Au lieu d'une autonomie totale, l'agent propose et l'humain dispose. C'est un moyen de contrôle essentiel pour gérer les risques dans les systèmes d'agents et une exigence récurrente dans les cadres de gouvernance de l'IA tels que l'EU AI Act et le NIST AI RMF.
Gouvernance
6Qu'est-ce qu'un modèle de menace agentique ?
Un modèle de menace agentique cartographie la manière dont un agent autonome peut être attaqué : non pas à travers ses poids, mais à travers tout ce qu'il lit, mémorise, appelle et est autorisé à faire. Il identifie les surfaces d'attaque — injection de prompt directe et indirecte, empoisonnement d'outils, agentivité excessive, empoisonnement de la mémoire, chaîne d'approvisionnement, canaux d'exfiltration, le problème du député confus — afin que chacune bénéficie d'un contrôle dans le harness plutôt que d'un simple espoir dans le prompt système.
Qu'est-ce que la cyberdéfense de l'IA ?
La cyberdéfense de l'IA est la pratique consistant à protéger les systèmes d'IA — modèles, agents, outils qu'ils appellent et données auxquelles ils accèdent — contre les attaques qui exploitent la façon dont ces systèmes raisonnent et agissent. Pour les agents, il ne s'agit pas d'une couche ajoutée après coup : les contrôles qui bloquent une attaque sont les mêmes composants du harness qui permettent à l'agent de fonctionner — permissions des outils, limites de contexte, barrières d'approbation, observabilité. Défendre un agent revient à concevoir son harness.
Qu'est-ce que la gouvernance de l'IA ?
La gouvernance de l'IA est l'ensemble des politiques, processus, rôles et contrôles qui garantissent que l'IA est conçue et utilisée de manière responsable, légale et sûre. Elle englobe la gestion des risques, la responsabilité, la transparence, la sécurité et la conformité tout au long du cycle de vie de l'IA. En pratique, elle opérationnalise des cadres reconnus — l'EU AI Act, le NIST AI Risk Management Framework et l'ISO/IEC 42001 — en contrôles concrets qu'une organisation peut mettre en œuvre, prouver et auditer.
Que sont les garde-fous (guardrails) de l'IA ?
Les garde-fous sont des contrôles au moment de l'exécution (runtime) qui limitent ce qui entre et sort d'un système d'IA, garantissant un comportement sûr, conforme aux politiques et réglementations. Ils vérifient et filtrent les entrées et les sorties, valident les actions des outils, bloquent les contenus non autorisés et imposent des limites, agissant comme une couche de sécurité autour du modèle. Les garde-fous constituent un contrôle opérationnel de premier plan dans la gouvernance de l'IA et une défense clé contre les abus et l'injection de prompts.
Qu'est-ce que la sécurité MCP ?
La sécurité MCP est ce qui empêche un serveur Model Context Protocol de devenir la porte d'entrée la plus facile dans un système. Le protocole standardise la manière dont les agents découvrent et appellent les outils ; il ne décide pas de qui peut les appeler, de ce qu'ils peuvent atteindre, ni de ce qui se passe lorsqu'une description d'outil devient hostile. Ces décisions incombent au serveur : authentification, validation de l'origine et du transport, outils à portée restreinte, limites de débit et piste d'audit.
Qu'est-ce que l'injection de prompt ?
L'injection de prompt est une attaque dans laquelle des instructions malveillantes masquées dans l'entrée d'un modèle de langage détournent son comportement — l'amenant à ignorer ses règles, à divulguer des données ou à faire un mauvais usage des outils. Elle figure en tête du Top 10 de l'OWASP pour les applications LLM. La cause profonde est que les modèles ne peuvent pas séparer de manière fiable les instructions de confiance du contenu non fiable, de sorte que tout texte lu par un agent — une page web, un document, un résultat d'outil — peut véhiculer une attaque.