Omheun uw AI-agent voordat deze e-mails kan versturen of geld kan uitgeven

Ik ben van mening dat een AI-agent toegang tot uw bedrijf moet verdienen, in plaats van deze als welkomstcadeau te ontvangen. Als u een klein of middelgroot bedrijf runt, is de aantrekkingskracht begrijpelijk: hulp bij e-mails, administratie, routinematige code en inkoop. Maar mijn standpunt is simpel. Voordat een agent kan handelen in uw systemen, geef het dan een omheind terrein. Overweeg pas daarna om het sleutels te geven.

Ik zou dit niet zien als een argument tegen AI. Ik zie het als het verschil tussen het uitproberen van een nuttig hulpmiddel en een ongetest proces zeggenschap geven over klanten, geld en bedrijfsvoering. Een overtuigende demonstratie zou mij niet genoeg vertellen over hoe een agent omgaat met een vage vraag of een onverwachte situatie. Ik zou grenzen willen die standhouden, zelfs als het oordeel van de agent faalt.

Mijn eerste stap zou een sandbox of testkopie zijn: ergens waar de agent kan oefenen zonder contact op te nemen met echte klanten, live records te wijzigen of aankopen te doen. Ik zou die scheiding controleren in plaats van er vanuit te gaan. Kan het testaccount nog steeds een live inbox bereiken? Zijn echte betalingsgegevens beschikbaar? Als de omheining een poort naar de productieomgeving heeft, wil ik precies weten wie die controleert.

Vervolgens zou ik de agent een eigen account geven, met alleen de rechten die de huidige taak vereist. Nooit mijn administrator-login. Een agent die herinneringen voor afspraken opstelt, heeft geen duidelijke reden om loonadministratie-instellingen te wijzigen. Ik zou ook wachtwoorden en andere inloggegevens buiten bereik houden, tenzij ze essentieel zijn voor de toegestane taak. Aparte toegang geeft mij iets specifieks om te beperken of in te trekken.

Daarna zou ik twee categorieën opschrijven: wat het alleen mag doen, en wat goedkeuring van een persoon vereist. Het opstellen van een e-mail mag misschien wel; het versturen ervan kan goedkeuring vereisen. Het voorbereiden van een record-update mag acceptabel zijn; het verwijderen van records misschien niet. Ik zou die regels waar mogelijk afdwingbaar maken via systeemrechten en goedkeuringsstappen, in plaats van alleen te vertrouwen op instructies om voorzichtig te handelen.

Ik zou limieten stellen aan uitgaven, volume en tijd voordat live werk begint. Dat betekent een plafond voor inkoop, een maximum aan berichten of recordwijzigingen, en een gedefinieerd werkvenster. De juiste limieten hangen af van het bedrijf en de taak. Mijn test zou praktisch zijn: als de agent de verkeerde actie zou herhalen tot aan de limiet, zouden we het resultaat dan comfortabel kunnen opvangen en ongedaan maken?

Ik zou een logboek bijhouden van zijn acties en dit de eerste weken nauwkeurig lezen. Ik wil zien wat het heeft gewijzigd, wat het heeft verzonden, welke goedkeuringen het heeft aangevraagd en waar het is gestopt. Voor mij is logging geen vinkje op een checklist. Het is hoe ik de taak die ik dacht te hebben gedelegeerd, vergelijk met de taak die daadwerkelijk wordt uitgevoerd.

Er moet ook een stopknop zijn, en iemand moet weten dat zij verantwoordelijk zijn voor het indrukken ervan. Ik zou testen of het stoppen van de agent daadwerkelijk verdere acties voorkomt, inclusief taken in de wachtrij. Ik zou ook plannen hoe de toegang kan worden ingetrokken en wijzigingen waar mogelijk ongedaan kunnen worden gemaakt. Een noodprocedure is weinig troost als niemand weet waar deze is.

Pas na het beoordelen van echt maar risicoarm werk zou ik rechten uitbreiden, één verantwoordelijkheid tegelijk. Ik zou zoeken naar consistent gedrag binnen de regels, niet alleen naar indrukwekkende output. Naar mijn mening is de mogelijkheid dat een agent een grens overschrijdt reden genoeg om grenzen vast te stellen vóór vertrouwen, zonder te wachten op een schrikvoorbeeld. Mijn advies is om klein te beginnen, nauwlettend toe te zien en controle te houden. DevMojos helpt bedrijven om AI-agents veilig in te voeren, met eerst de omheining op zijn plaats.