Les conseils d'administration doivent gouverner le fonctionnement des agents IA, et non seulement les outils qu'ils achètent

À notre avis, les agents IA sont prêts à prendre en charge des travaux réels dans toute l'entreprise. Pour les conseils d'administration des entreprises établies, la décision importante n'est donc pas simplement quel outil acheter. Il s'agit de savoir comment laisser les agents agir sans perdre le contrôle sur les décisions, les données ou la livraison. Nous pensons que cela appelle un cadre agentique, construit au sein de l'entreprise plutôt qu'imposé de l'extérieur.

Par cadre, nous entendons la manière organisée dont les agents travaillent aux côtés des humains : leurs rôles, règles, autorisations, approbations, contrôles et connaissances partagées. Il doit s'adapter au fonctionnement réel de l'entreprise, y compris à l'endroit où se situe la responsabilité et à ce qui compte comme une livraison acceptable. Notre position est simple : les humains décident et les agents exécutent. Déléguer une tâche ne doit pas signifier déléguer la responsabilité.

Chez DevMojos, nous construisons ce cadre avec la propre équipe de l'entreprise. Ensemble, nous mettons des agents spécialisés au travail dans quelques domaines choisis et prouvons l'approche sur un ou deux problèmes réels. Nous formons une équipe interne pour l'exploiter et l'améliorer continuellement. Nous vendons de l'expertise et de l'accompagnement : une aide pratique pour construire la capacité, et non des logiciels, du matériel ou des licences.

L'entreprise possède le cadre, les agents que nous construisons, les règles et les connaissances rassemblées au fil du travail. Elle conserve ses propres comptes et son choix de modèles d'IA. Nous pensons que la propriété doit signifier une indépendance pratique, et non une simple garantie contractuelle. L'équipe interne doit comprendre le système suffisamment bien pour le modifier, utiliser plusieurs fournisseurs de modèles et continuer sans notre aide.

Notre principale promesse est la vitesse : un chemin plus court de la demande à la livraison acceptée. Nous convenons d'une référence au départ et mesurons par rapport à celle-ci. L'acceptation est importante car produire quelque chose rapidement n'est pas la même chose que livrer un travail qui répond aux exigences de l'entreprise. Nous ne promettons pas de chiffre d'économies avant que quoi que ce soit n'ait été mesuré, ni des agents qui ne font jamais d'erreurs. Les contrôles et les approbations existent parce que les erreurs restent possibles.

La sécurité doit être intégrée dès la conception. Chaque agent ne reçoit que l'accès nécessaire à son rôle, travaille dans un environnement isolé et n'atteint la production que par des voies autorisées par l'entreprise, avec une approbation humaine. Tout ce qui est irréversible ou destiné aux clients nécessite l'approbation d'une personne désignée. Les actions et les approbations sont journalisées afin que l'entreprise puisse auditer ce que chaque agent a fait, sous quelle autorité et conformément à quelles règles.

Pour nous, la responsabilité signifie des approbateurs désignés et des règles définies par des humains, et non une responsabilité qui disparaît dans un processus automatisé. L'entreprise décide où ses données peuvent aller et quels fournisseurs sont autorisés. Ses politiques ont la priorité, et ses avocats tranchent les questions juridiques. Nous ne considérerions jamais la sortie d'un agent, ou notre propre jugement technique, comme un substitut à cette autorité.

Le contrôle des coûts doit être tout aussi explicite. Chaque tâche doit être confiée au modèle le moins cher qui l'exécute bien, dans le cadre de budgets convenus et avec une utilisation visible. Le cadre doit prendre en charge plusieurs fournisseurs plutôt que d'en rendre un inévitable. Pour gérer le rythme du changement, nous établissons une routine pour tester les nouveaux modèles à l'aide des propres tests de l'entreprise. L'entreprise décide quoi adopter ; la nouveauté seule n'est pas une raison de changer.

Un conseil d'administration doit juger le travail à travers un petit ensemble de questions pratiques. Le temps de la demande à la livraison acceptée s'améliore-t-il ? Que se passe-t-il avec les retouches et les défauts ? Les actions enregistrées des agents correspondent-elles à ce que les humains ont approuvé ? Les équipes utilisent-elles réellement la capacité ? L'équipe interne peut-elle le gérer sans aide extérieure ? Chaque étape doit se terminer par une décision claire sur la poursuite, basée sur des preuves plutôt que sur l'enthousiasme.

Nous pensons que c'est une ambition plus utile que d'acheter des outils en espérant que la gouvernance suivra. La permission d'agir ne doit augmenter que si l'entreprise gagne en confiance dans les contrôles et les résultats. Chez DevMojos, nous construisons des cadres agentiques avec les entreprises, afin que les agents IA travaillent plus vite selon des règles qui appartiennent à l'entreprise. Le programme d'IA le plus solide est celui que le conseil d'administration peut voir, diriger et arrêter.