Les syst\u00e8mes agentiques ont besoin d’une place clairement d\u00e9finie au sein du mod\u00e8le op\u00e9rationnel de l’organisation. Lorsqu’un agent d’IA approuve un bon de commande ou met \u00e0 jour une fiche client, il agit pour le compte d’une personne ou d’une fonction sp\u00e9cifique, telle que le marketing ou l’informatique.<\/p>\n
Cette responsabilit\u00e9 a son importance. Une personne doit \u00eatre investie de l\u2019autorit\u00e9 n\u00e9cessaire pour r\u00e9pondre des r\u00e9sultats : valider la logique m\u00e9tier, superviser le comportement du syst\u00e8me et intervenir lorsque celui-ci d\u00e9rive de son fonctionnement attendu. Mettre en place une gouvernance ne signifie pas qu\u2019il faille surveiller chaque appel d\u2019API. Elle repose sur une attribution claire des responsabilit\u00e9s. Sans cela, les responsabilit\u00e9s se diluent dans l\u2019organigramme de l\u2019entreprise.<\/p>\n
D\u00e9finissez clairement vos limites de fonctionnement.<\/strong><\/h2>\nLa flexibilit\u00e9 des grands mod\u00e8les de langage (LLM) h\u00e9berg\u00e9s dans le cloud incite \u00e0 leur accorder d\u2019embl\u00e9e de larges autorisations. En pratique, c’est l\u00e0 que le risque commence. Une question essentielle en mati\u00e8re de gouvernance n\u2019est pas : \u00ab Qui est responsable en cas de fuite de donn\u00e9es ? \u00bb, mais plut\u00f4t : \u00ab Cet agent aurait-il d\u00fb \u00eatre autoris\u00e9 \u00e0 acc\u00e9der \u00e0 ce syst\u00e8me ? \u00bb L’octroi d’autorisations excessives cr\u00e9e une exposition inutile.<\/p>\n
La gouvernance \u00e0 grande \u00e9chelle n\u00e9cessite une approche coh\u00e9rente des garde-fous, de la gestion des acc\u00e8s et des contr\u00f4les sur l\u2019ensemble des agents et des workflows, capable de s\u2019adapter \u00e0 la croissance du nombre d\u2019agents, d\u2019\u00e9quipes et de syst\u00e8mes. JetBrains Central<\/a> a \u00e9t\u00e9 con\u00e7u pour r\u00e9pondre \u00e0 ce besoin\u00a0: int\u00e9grer la gouvernance directement dans l’infrastructure de d\u00e9veloppement, plut\u00f4t que de la consid\u00e9rer comme un \u00e9l\u00e9ment rajout\u00e9 apr\u00e8s coup, une fois les workflows d’IA d\u00e9j\u00e0 en production.<\/p>\nTraitez les agents comme de nouvelles recrues. Ne laissez pas un agent d’IA improviser sur la politique de remboursement ou acc\u00e9der aux syst\u00e8mes de RH sans autorisation. Accordez-lui plut\u00f4t une autonomie progressive. Limitez l\u2019agent \u00e0 un p\u00e9rim\u00e8tre d\u2019action restreint et imposez-lui des r\u00e8gles d\u2019interdiction absolues (\u00ab ne jamais \u00bb) tant que vous n\u2019\u00eates pas certain qu\u2019il est capable d\u2019assumer davantage de responsabilit\u00e9s.<\/p>\n
Mettez en place une piste d\u2019audit efficace<\/strong><\/h2>\nLes applications traditionnelles suivent des chemins de code d\u00e9terministes. Lorsqu\u2019un incident survient, les journaux d\u2019ex\u00e9cution permettent d\u2019en retracer l\u2019origine. Les agents bas\u00e9s sur des LLM ne se comportent pas ainsi. La m\u00eame entr\u00e9e peut produire des sorties diff\u00e9rentes selon le contexte, le mod\u00e8le, l’\u00e9tat du syst\u00e8me et m\u00eame le moment. La tra\u00e7abilit\u00e9 est donc essentielle.<\/p>\n
Une piste d\u2019audit pertinente doit permettre de consigner : qui a initi\u00e9 l\u2019action, l\u2019intention ou le workflow qui l\u2019a d\u00e9clench\u00e9e, les syst\u00e8mes et les donn\u00e9es auxquels l\u2019agent a acc\u00e9d\u00e9, les r\u00e9sultats qu\u2019il a produits ou les modifications qu\u2019il a apport\u00e9es, l\u2019\u00e9ventuelle violation d\u2019une politique de s\u00e9curit\u00e9 ou de gouvernance, ainsi que la dur\u00e9e d\u2019ex\u00e9cution et le co\u00fbt de l\u2019op\u00e9ration.<\/p>\n
C’est l\u00e0 que les outils prennent toute leur importance. Chez JetBrains, nous consid\u00e9rons cela comme un probl\u00e8me produit concret. Un tableau de bord d\u2019audit de l\u2019IA doit permettre d\u2019inspecter le comportement des agents au niveau de chaque action et de chaque workflow, sans laisser place \u00e0 l\u2019interpr\u00e9tation ou aux conjectures.<\/p>\n
Gardez un humain dans la boucle strat\u00e9gique<\/strong><\/h2>\nPar exemple, un agent qui approuve automatiquement les factures de plus de 10 000 $ devrait afficher, pour chaque approbation, un indicateur de risque, la r\u00e8gle de gouvernance ou de politique qu\u2019il a appliqu\u00e9e, ainsi qu\u2019un lien permettant \u00e0 un r\u00e9viseur de l\u2019examiner, plut\u00f4t qu\u2019un simple horodatage dans un fichier journal. La r\u00e9vision humaine a son importance, mais certaines approches sont meilleures que d’autres. Une approbation syst\u00e9matique n\u2019est pas la bonne approche, pas plus qu\u2019exiger une validation manuelle pour chaque action.<\/p>\n
La solution consiste \u00e0 concevoir des workflows avec des points de contr\u00f4le pertinents et une \u00e9valuation des risques. Laissez l’agent g\u00e9rer de mani\u00e8re autonome les t\u00e2ches de routine, mais signalez les actions \u00e0 fort impact pour une r\u00e9vision par un humain.<\/p>\n
Les organisations peuvent accro\u00eetre progressivement l\u2019autonomie d\u2019un agent, mais uniquement lorsqu\u2019il existe des preuves claires de l\u2019efficacit\u00e9 des contr\u00f4les et que le syst\u00e8me continue de fonctionner dans le respect des politiques \u00e9tablies. Les seuils doivent s’appuyer sur des donn\u00e9es probantes, pas sur une intuition. Cela permet de maintenir l\u2019intervention humaine l\u00e0 o\u00f9 le discernement est essentiel, tout en laissant le syst\u00e8me passer \u00e0 l\u2019\u00e9chelle.<\/p>\n
R\u00e9duire l\u2019impact potentiel des incidents et d\u00e9finir clairement les responsabilit\u00e9s.<\/strong><\/h2>\nDeux autres aspects deviennent centraux pour la confiance des entreprises :<\/p>\n
\n- Isolation<\/strong>\u00a0: les agents doivent op\u00e9rer dans des environnements contr\u00f4l\u00e9s, avec des identifiants \u00e0 p\u00e9rim\u00e8tre restreint, un rayon d\u2019impact limit\u00e9 et des capacit\u00e9s de retour en arri\u00e8re (rollback). En cas de probl\u00e8me, les dommages doivent \u00eatre contenus. Il s\u2019agit d\u2019un principe classique d\u2019isolation des d\u00e9faillances appliqu\u00e9 aux syst\u00e8mes autonomes, particuli\u00e8rement critique lorsque l\u2019acteur est non d\u00e9terministe.<\/li>\n<\/ul>\n
\n- Indemnisation<\/strong>\u00a0: l\u2019autre question que les entreprises soul\u00e8vent syst\u00e9matiquement concerne la responsabilit\u00e9 lorsque des incidents surviennent, en particulier en mati\u00e8re de propri\u00e9t\u00e9 intellectuelle. Un fournisseur de confiance ne propose pas seulement des outils, mais aussi des garanties contractuelles et techniques encadrant la responsabilit\u00e9 et la gestion des risques.<\/li>\n<\/ul>\n
La gouvernance est une d\u00e9cision produit<\/strong><\/h2>\nLa gouvernance ne se rajoute pas apr\u00e8s coup. Elle fait partie int\u00e9grante de l\u2019architecture, des workflows et des relations que cr\u00e9e un produit. Les organisations qui consid\u00e8rent la gouvernance comme une fonctionnalit\u00e9 essentielle avanceront plus rapidement, r\u00e9soudront les probl\u00e8mes de mani\u00e8re plus propre, fonctionneront avec des p\u00e9rim\u00e8tres plus clairs et auront la confiance n\u00e9cessaire pour laisser des agents d\u2019IA effectuer des t\u00e2ches utiles sans supervision constante.<\/p>\n
Concevoir pour la responsabilit\u00e9 signifie qu’en cas de probl\u00e8me (et des probl\u00e8mes finissent toujours par survenir), vous savez d\u00e9j\u00e0 qui en est responsable, ce que l’agent a fait et comment corriger cela. C’est la condition de la viabilit\u00e9 de l’IA agentique dans l’entreprise. Et c’est l\u00e0 que d\u00e9bute le v\u00e9ritable travail.<\/p>\n
Nous travaillons avec un petit groupe d’organisations tri\u00e9es sur le volet afin d’explorer ces d\u00e9fis en pratique. Cliquez ici<\/a> pour devenir partenaire de conception de JetBrains Central.<\/p>\n\n\nAuteur de l’article original en anglais<\/em> :<\/p>\n\n\n \n \n \n \n ![\"Orit](\"https:\/\/blog.jetbrains.com\/wp-content\/uploads\/2026\/03\/LW_JIT_10_Orit_1072_low_res-e1773920909901-200x200.jpg\")
\n <\/div>\n
Traitez les agents comme de nouvelles recrues. Ne laissez pas un agent d’IA improviser sur la politique de remboursement ou acc\u00e9der aux syst\u00e8mes de RH sans autorisation. Accordez-lui plut\u00f4t une autonomie progressive. Limitez l\u2019agent \u00e0 un p\u00e9rim\u00e8tre d\u2019action restreint et imposez-lui des r\u00e8gles d\u2019interdiction absolues (\u00ab ne jamais \u00bb) tant que vous n\u2019\u00eates pas certain qu\u2019il est capable d\u2019assumer davantage de responsabilit\u00e9s.<\/p>\n
Mettez en place une piste d\u2019audit efficace<\/strong><\/h2>\nLes applications traditionnelles suivent des chemins de code d\u00e9terministes. Lorsqu\u2019un incident survient, les journaux d\u2019ex\u00e9cution permettent d\u2019en retracer l\u2019origine. Les agents bas\u00e9s sur des LLM ne se comportent pas ainsi. La m\u00eame entr\u00e9e peut produire des sorties diff\u00e9rentes selon le contexte, le mod\u00e8le, l’\u00e9tat du syst\u00e8me et m\u00eame le moment. La tra\u00e7abilit\u00e9 est donc essentielle.<\/p>\n
Une piste d\u2019audit pertinente doit permettre de consigner : qui a initi\u00e9 l\u2019action, l\u2019intention ou le workflow qui l\u2019a d\u00e9clench\u00e9e, les syst\u00e8mes et les donn\u00e9es auxquels l\u2019agent a acc\u00e9d\u00e9, les r\u00e9sultats qu\u2019il a produits ou les modifications qu\u2019il a apport\u00e9es, l\u2019\u00e9ventuelle violation d\u2019une politique de s\u00e9curit\u00e9 ou de gouvernance, ainsi que la dur\u00e9e d\u2019ex\u00e9cution et le co\u00fbt de l\u2019op\u00e9ration.<\/p>\n
C’est l\u00e0 que les outils prennent toute leur importance. Chez JetBrains, nous consid\u00e9rons cela comme un probl\u00e8me produit concret. Un tableau de bord d\u2019audit de l\u2019IA doit permettre d\u2019inspecter le comportement des agents au niveau de chaque action et de chaque workflow, sans laisser place \u00e0 l\u2019interpr\u00e9tation ou aux conjectures.<\/p>\n
Gardez un humain dans la boucle strat\u00e9gique<\/strong><\/h2>\nPar exemple, un agent qui approuve automatiquement les factures de plus de 10 000 $ devrait afficher, pour chaque approbation, un indicateur de risque, la r\u00e8gle de gouvernance ou de politique qu\u2019il a appliqu\u00e9e, ainsi qu\u2019un lien permettant \u00e0 un r\u00e9viseur de l\u2019examiner, plut\u00f4t qu\u2019un simple horodatage dans un fichier journal. La r\u00e9vision humaine a son importance, mais certaines approches sont meilleures que d’autres. Une approbation syst\u00e9matique n\u2019est pas la bonne approche, pas plus qu\u2019exiger une validation manuelle pour chaque action.<\/p>\n
La solution consiste \u00e0 concevoir des workflows avec des points de contr\u00f4le pertinents et une \u00e9valuation des risques. Laissez l’agent g\u00e9rer de mani\u00e8re autonome les t\u00e2ches de routine, mais signalez les actions \u00e0 fort impact pour une r\u00e9vision par un humain.<\/p>\n
Les organisations peuvent accro\u00eetre progressivement l\u2019autonomie d\u2019un agent, mais uniquement lorsqu\u2019il existe des preuves claires de l\u2019efficacit\u00e9 des contr\u00f4les et que le syst\u00e8me continue de fonctionner dans le respect des politiques \u00e9tablies. Les seuils doivent s’appuyer sur des donn\u00e9es probantes, pas sur une intuition. Cela permet de maintenir l\u2019intervention humaine l\u00e0 o\u00f9 le discernement est essentiel, tout en laissant le syst\u00e8me passer \u00e0 l\u2019\u00e9chelle.<\/p>\n
R\u00e9duire l\u2019impact potentiel des incidents et d\u00e9finir clairement les responsabilit\u00e9s.<\/strong><\/h2>\nDeux autres aspects deviennent centraux pour la confiance des entreprises :<\/p>\n
\n- Isolation<\/strong>\u00a0: les agents doivent op\u00e9rer dans des environnements contr\u00f4l\u00e9s, avec des identifiants \u00e0 p\u00e9rim\u00e8tre restreint, un rayon d\u2019impact limit\u00e9 et des capacit\u00e9s de retour en arri\u00e8re (rollback). En cas de probl\u00e8me, les dommages doivent \u00eatre contenus. Il s\u2019agit d\u2019un principe classique d\u2019isolation des d\u00e9faillances appliqu\u00e9 aux syst\u00e8mes autonomes, particuli\u00e8rement critique lorsque l\u2019acteur est non d\u00e9terministe.<\/li>\n<\/ul>\n
\n- Indemnisation<\/strong>\u00a0: l\u2019autre question que les entreprises soul\u00e8vent syst\u00e9matiquement concerne la responsabilit\u00e9 lorsque des incidents surviennent, en particulier en mati\u00e8re de propri\u00e9t\u00e9 intellectuelle. Un fournisseur de confiance ne propose pas seulement des outils, mais aussi des garanties contractuelles et techniques encadrant la responsabilit\u00e9 et la gestion des risques.<\/li>\n<\/ul>\n
La gouvernance est une d\u00e9cision produit<\/strong><\/h2>\nLa gouvernance ne se rajoute pas apr\u00e8s coup. Elle fait partie int\u00e9grante de l\u2019architecture, des workflows et des relations que cr\u00e9e un produit. Les organisations qui consid\u00e8rent la gouvernance comme une fonctionnalit\u00e9 essentielle avanceront plus rapidement, r\u00e9soudront les probl\u00e8mes de mani\u00e8re plus propre, fonctionneront avec des p\u00e9rim\u00e8tres plus clairs et auront la confiance n\u00e9cessaire pour laisser des agents d\u2019IA effectuer des t\u00e2ches utiles sans supervision constante.<\/p>\n
Concevoir pour la responsabilit\u00e9 signifie qu’en cas de probl\u00e8me (et des probl\u00e8mes finissent toujours par survenir), vous savez d\u00e9j\u00e0 qui en est responsable, ce que l’agent a fait et comment corriger cela. C’est la condition de la viabilit\u00e9 de l’IA agentique dans l’entreprise. Et c’est l\u00e0 que d\u00e9bute le v\u00e9ritable travail.<\/p>\n
Nous travaillons avec un petit groupe d’organisations tri\u00e9es sur le volet afin d’explorer ces d\u00e9fis en pratique. Cliquez ici<\/a> pour devenir partenaire de conception de JetBrains Central.<\/p>\n\n\nAuteur de l’article original en anglais<\/em> :<\/p>\n\n\n \n \n \n \n \n <\/div>\n
Par exemple, un agent qui approuve automatiquement les factures de plus de 10 000 $ devrait afficher, pour chaque approbation, un indicateur de risque, la r\u00e8gle de gouvernance ou de politique qu\u2019il a appliqu\u00e9e, ainsi qu\u2019un lien permettant \u00e0 un r\u00e9viseur de l\u2019examiner, plut\u00f4t qu\u2019un simple horodatage dans un fichier journal. La r\u00e9vision humaine a son importance, mais certaines approches sont meilleures que d’autres. Une approbation syst\u00e9matique n\u2019est pas la bonne approche, pas plus qu\u2019exiger une validation manuelle pour chaque action.<\/p>\n
La solution consiste \u00e0 concevoir des workflows avec des points de contr\u00f4le pertinents et une \u00e9valuation des risques. Laissez l’agent g\u00e9rer de mani\u00e8re autonome les t\u00e2ches de routine, mais signalez les actions \u00e0 fort impact pour une r\u00e9vision par un humain.<\/p>\n
Les organisations peuvent accro\u00eetre progressivement l\u2019autonomie d\u2019un agent, mais uniquement lorsqu\u2019il existe des preuves claires de l\u2019efficacit\u00e9 des contr\u00f4les et que le syst\u00e8me continue de fonctionner dans le respect des politiques \u00e9tablies. Les seuils doivent s’appuyer sur des donn\u00e9es probantes, pas sur une intuition. Cela permet de maintenir l\u2019intervention humaine l\u00e0 o\u00f9 le discernement est essentiel, tout en laissant le syst\u00e8me passer \u00e0 l\u2019\u00e9chelle.<\/p>\n
R\u00e9duire l\u2019impact potentiel des incidents et d\u00e9finir clairement les responsabilit\u00e9s.<\/strong><\/h2>\nDeux autres aspects deviennent centraux pour la confiance des entreprises :<\/p>\n
\n- Isolation<\/strong>\u00a0: les agents doivent op\u00e9rer dans des environnements contr\u00f4l\u00e9s, avec des identifiants \u00e0 p\u00e9rim\u00e8tre restreint, un rayon d\u2019impact limit\u00e9 et des capacit\u00e9s de retour en arri\u00e8re (rollback). En cas de probl\u00e8me, les dommages doivent \u00eatre contenus. Il s\u2019agit d\u2019un principe classique d\u2019isolation des d\u00e9faillances appliqu\u00e9 aux syst\u00e8mes autonomes, particuli\u00e8rement critique lorsque l\u2019acteur est non d\u00e9terministe.<\/li>\n<\/ul>\n
\n- Indemnisation<\/strong>\u00a0: l\u2019autre question que les entreprises soul\u00e8vent syst\u00e9matiquement concerne la responsabilit\u00e9 lorsque des incidents surviennent, en particulier en mati\u00e8re de propri\u00e9t\u00e9 intellectuelle. Un fournisseur de confiance ne propose pas seulement des outils, mais aussi des garanties contractuelles et techniques encadrant la responsabilit\u00e9 et la gestion des risques.<\/li>\n<\/ul>\n
La gouvernance est une d\u00e9cision produit<\/strong><\/h2>\nLa gouvernance ne se rajoute pas apr\u00e8s coup. Elle fait partie int\u00e9grante de l\u2019architecture, des workflows et des relations que cr\u00e9e un produit. Les organisations qui consid\u00e8rent la gouvernance comme une fonctionnalit\u00e9 essentielle avanceront plus rapidement, r\u00e9soudront les probl\u00e8mes de mani\u00e8re plus propre, fonctionneront avec des p\u00e9rim\u00e8tres plus clairs et auront la confiance n\u00e9cessaire pour laisser des agents d\u2019IA effectuer des t\u00e2ches utiles sans supervision constante.<\/p>\n
Concevoir pour la responsabilit\u00e9 signifie qu’en cas de probl\u00e8me (et des probl\u00e8mes finissent toujours par survenir), vous savez d\u00e9j\u00e0 qui en est responsable, ce que l’agent a fait et comment corriger cela. C’est la condition de la viabilit\u00e9 de l’IA agentique dans l’entreprise. Et c’est l\u00e0 que d\u00e9bute le v\u00e9ritable travail.<\/p>\n
Nous travaillons avec un petit groupe d’organisations tri\u00e9es sur le volet afin d’explorer ces d\u00e9fis en pratique. Cliquez ici<\/a> pour devenir partenaire de conception de JetBrains Central.<\/p>\n\n\nAuteur de l’article original en anglais<\/em> :<\/p>\n\n\n \n \n \n \n \n <\/div>\n
- \n
- Indemnisation<\/strong>\u00a0: l\u2019autre question que les entreprises soul\u00e8vent syst\u00e9matiquement concerne la responsabilit\u00e9 lorsque des incidents surviennent, en particulier en mati\u00e8re de propri\u00e9t\u00e9 intellectuelle. Un fournisseur de confiance ne propose pas seulement des outils, mais aussi des garanties contractuelles et techniques encadrant la responsabilit\u00e9 et la gestion des risques.<\/li>\n<\/ul>\n
La gouvernance est une d\u00e9cision produit<\/strong><\/h2>\n
La gouvernance ne se rajoute pas apr\u00e8s coup. Elle fait partie int\u00e9grante de l\u2019architecture, des workflows et des relations que cr\u00e9e un produit. Les organisations qui consid\u00e8rent la gouvernance comme une fonctionnalit\u00e9 essentielle avanceront plus rapidement, r\u00e9soudront les probl\u00e8mes de mani\u00e8re plus propre, fonctionneront avec des p\u00e9rim\u00e8tres plus clairs et auront la confiance n\u00e9cessaire pour laisser des agents d\u2019IA effectuer des t\u00e2ches utiles sans supervision constante.<\/p>\n
Concevoir pour la responsabilit\u00e9 signifie qu’en cas de probl\u00e8me (et des probl\u00e8mes finissent toujours par survenir), vous savez d\u00e9j\u00e0 qui en est responsable, ce que l’agent a fait et comment corriger cela. C’est la condition de la viabilit\u00e9 de l’IA agentique dans l’entreprise. Et c’est l\u00e0 que d\u00e9bute le v\u00e9ritable travail.<\/p>\n
Nous travaillons avec un petit groupe d’organisations tri\u00e9es sur le volet afin d’explorer ces d\u00e9fis en pratique. Cliquez ici<\/a> pour devenir partenaire de conception de JetBrains Central.<\/p>\n\n\n
Auteur de l’article original en anglais<\/em> :<\/p>\n\n\n
\n\n\n\n\n <\/div>\n