Encadrez votre agent IA avant qu'il ne puisse envoyer des e-mails ou dépenser de l'argent

Je pense qu'un agent IA doit mériter l'accès à votre entreprise, et non le recevoir comme un cadeau de bienvenue. Si vous dirigez une petite ou moyenne entreprise, l'attrait est compréhensible : aide pour les e-mails, les dossiers, le code de routine et les achats. Mais ma position est simple. Avant qu'un agent ne puisse agir sur vos systèmes, donnez-lui un enclos. Ce n'est qu'ensuite qu'il faut envisager de lui remettre les clés.

Je ne considérerais pas cela comme un argument contre l'IA. J'y vois la différence entre essayer un outil utile et donner à un processus non testé l'autorité sur les clients, l'argent et les opérations. Une démonstration persuasive ne m'en dirait pas assez sur la façon dont un agent gère une demande ambiguë ou une situation inattendue. Je voudrais des limites qui tiennent même lorsque son jugement flanche.

Ma première étape serait un bac à sable ou une copie de test : un endroit où l'agent peut s'exercer sans contacter de vrais clients, modifier des dossiers réels ou effectuer des achats. Je vérifierais cette séparation plutôt que de la supposer. Le compte de test peut-il encore atteindre une boîte de réception réelle ? Les identifiants de paiement réels sont-ils disponibles ? Si la clôture a une porte vers la production, je voudrais savoir exactement qui la contrôle.

Ensuite, je donnerais à l'agent son propre compte, avec uniquement les autorisations requises par sa tâche actuelle. Jamais mes identifiants d'administrateur. Un agent rédigeant des rappels de rendez-vous n'a aucune raison évidente de modifier les paramètres de paie. Je garderais également les mots de passe et autres identifiants hors de sa portée, sauf s'ils sont essentiels à la tâche autorisée. Un accès séparé me donne quelque chose de spécifique à restreindre ou à révoquer.

Puis, je noterais deux catégories : ce qu'il peut faire seul, et ce qui nécessite l'approbation d'une personne. Rédiger un e-mail pourrait être autorisé ; l'envoyer pourrait nécessiter une approbation. Préparer une mise à jour de dossier pourrait être acceptable ; supprimer des dossiers pourrait ne pas l'être. Je rendrais ces règles applicables via des autorisations système et des étapes d'approbation autant que possible, plutôt que de compter uniquement sur des instructions pour se comporter prudemment.

Je fixerais des limites sur les dépenses, le volume et le temps avant de commencer le travail réel. Cela signifie un plafond d'achat, un plafond sur les messages ou les modifications de dossiers, et une fenêtre d'exploitation définie. Les bonnes limites dépendent de l'entreprise et de la tâche. Mon test serait pratique : si l'agent répétait la mauvaise action jusqu'à atteindre la limite, pourrions-nous absorber et annuler le résultat sans difficulté ?

Je garderais un journal de ses actions et le lirais attentivement durant les premières semaines. Je voudrais voir ce qu'il a modifié, ce qu'il a envoyé, quelles approbations il a demandées et où il s'est arrêté. Pour moi, la journalisation n'est pas une case à cocher. C'est ainsi que je comparerais le travail que je pensais avoir délégué avec le travail réellement effectué.

Il doit également y avoir un bouton d'arrêt, et quelqu'un doit savoir qu'il est chargé d'appuyer dessus. Je testerais que l'arrêt de l'agent empêche effectivement toute action ultérieure, y compris le travail en file d'attente. Je planifierais également comment révoquer son accès et annuler les changements lorsque c'est possible. Une procédure d'urgence n'est pas d'un grand réconfort si personne ne sait où elle se trouve.

Ce n'est qu'après avoir examiné un travail réel mais à faible risque que j'élargirais les autorisations, une responsabilité à la fois. Je rechercherais un comportement cohérent dans les règles, et non pas seulement un résultat impressionnant. À mon avis, la possibilité qu'un agent franchisse une limite est une raison suffisante pour établir des limites avant la confiance, sans attendre un exemple effrayant. Mon conseil est de commencer petit, de surveiller de près et de garder le contrôle. DevMojos aide les entreprises à adopter des agents IA en toute sécurité, en posant d'abord les clôtures.