Begrenzen Sie Ihren KI-Agenten, bevor er E-Mails senden oder Geld ausgeben kann

Ich bin der Meinung, dass ein KI-Agent den Zugang zu Ihrem Unternehmen verdienen sollte, anstatt ihn als Willkommensgeschenk zu erhalten. Wenn Sie ein kleines oder mittleres Unternehmen führen, ist die Anziehungskraft verständlich: Hilfe bei E-Mails, Datensätzen, Routinecode und Einkäufen. Aber meine Position ist einfach. Bevor ein Agent in Ihren Systemen handeln kann, geben Sie ihm einen eingezäunten Bereich. Erst dann sollten Sie in Betracht ziehen, ihm die Schlüssel zu übergeben.

Ich würde dies nicht als Argument gegen KI betrachten. Ich sehe darin den Unterschied zwischen dem Ausprobieren eines nützlichen Werkzeugs und dem Übertragen von Autorität über Kunden, Geld und Abläufe auf einen ungetesteten Prozess. Eine überzeugende Vorführung würde mir nicht genug darüber verraten, wie ein Agent mit einer mehrdeutigen Anfrage oder einer unerwarteten Situation umgeht. Ich würde Grenzen wünschen, die auch dann halten, wenn sein Urteilsvermögen versagt.

Mein erster Schritt wäre eine Sandbox oder eine Testkopie: ein Ort, an dem der Agent üben kann, ohne echte Kunden zu kontaktieren, Live-Datensätze zu ändern oder Einkäufe zu tätigen. Ich würde diese Trennung überprüfen, anstatt sie einfach vorauszusetzen. Kann das Testkonto noch auf ein Live-Postfach zugreifen? Sind echte Zahlungsdaten verfügbar? Wenn der Zaun ein Tor zur Produktionsumgebung hat, möchte ich genau wissen, wer es kontrolliert.

Als Nächstes würde ich dem Agenten ein eigenes Konto mit nur den Berechtigungen geben, die seine aktuelle Aufgabe erfordert. Niemals mein Administrator-Login. Ein Agent, der Terminerinnerungen entwirft, hat keinen offensichtlichen Grund, Gehaltseinstellungen zu ändern. Ich würde auch Passwörter und andere Zugangsdaten außerhalb seiner Reichweite halten, es sei denn, sie sind für die autorisierte Aufgabe unerlässlich. Getrennter Zugang gibt mir etwas Spezifisches, das ich einschränken oder widerrufen kann.

Dann würde ich zwei Kategorien festlegen: was er allein tun darf und was die Genehmigung einer Person erfordert. Das Entwerfen einer E-Mail könnte erlaubt sein; das Senden könnte eine Genehmigung erfordern. Das Vorbereiten einer Datensatzaktualisierung könnte akzeptabel sein; das Löschen von Datensätzen könnte es nicht sein. Ich würde diese Regeln nach Möglichkeit über Systemberechtigungen und Genehmigungsschritte durchsetzbar machen, anstatt mich nur auf Anweisungen zu verlassen, sich vorsichtig zu verhalten.

Ich würde Limits für Ausgaben, Volumen und Zeit festlegen, bevor der Echtbetrieb beginnt. Das bedeutet eine Obergrenze für Einkäufe, eine Obergrenze für Nachrichten oder Datensatzänderungen und ein definiertes Zeitfenster für den Betrieb. Die richtigen Limits hängen vom Unternehmen und der Aufgabe ab. Mein Test wäre praktisch: Wenn der Agent die falsche Aktion wiederholen würde, bis er das Limit erreicht, könnten wir das Ergebnis gut verkraften und rückgängig machen?

Ich würde ein Protokoll seiner Aktionen führen und es in den ersten Wochen genau lesen. Ich möchte sehen, was er geändert hat, was er gesendet hat, welche Genehmigungen er angefordert hat und wo er aufgehört hat. Für mich ist das Protokollieren kein Pflichtprogramm. So vergleiche ich die Arbeit, die ich zu delegieren glaubte, mit der Arbeit, die tatsächlich erledigt wird.

Es muss auch einen Stopp-Button geben, und jemand muss wissen, dass er dafür verantwortlich ist, ihn zu drücken. Ich würde testen, ob das Stoppen des Agenten tatsächlich weitere Aktionen verhindert, einschließlich in der Warteschlange befindlicher Aufgaben. Ich würde auch planen, wie sein Zugang widerrufen und Änderungen, wo möglich, rückgängig gemacht werden können. Ein Notfallverfahren ist kein großer Trost, wenn niemand weiß, wo es sich befindet.

Erst nach der Überprüfung von echten, aber risikoarmen Aufgaben würde ich die Berechtigungen erweitern, eine Verantwortung nach der anderen. Ich würde nach konsistentem Verhalten innerhalb der Regeln suchen, nicht nur nach beeindruckenden Ergebnissen. Meiner Ansicht nach ist die Möglichkeit, dass ein Agent eine Grenze überschreitet, Grund genug, Grenzen vor dem Vertrauen festzulegen, ohne auf ein beängstigendes Beispiel zu warten. Mein Rat ist, klein anzufangen, genau hinzuschauen und die Kontrolle zu behalten. DevMojos hilft Unternehmen, KI-Agenten sicher einzuführen, mit den Zäunen zuerst.