Ein klarer Ablauf braucht nicht automatisch einen Agenten
Eine Datei geht ein, bestimmte Felder werden ausgelesen, geprüft und in eine Tabelle geschrieben. Wenn diese Schritte feststehen, lässt sich der Ablauf häufig als feste Folge beschreiben. Eine KI kann darin einzelne Aufgaben übernehmen, ohne den gesamten Prozess zu steuern.
Ein Agent wird eher interessant, wenn die nötigen Schritte von der Frage abhängen. Beispielsweise muss er entscheiden, welche von mehreren freigegebenen Wissensquellen für eine Recherche gebraucht wird. Auch dann sollte sein Auftrag begrenzt bleiben.
Den Spielraum ausdrücklich beschreiben
Welche Werkzeuge darf das System verwenden? Darf es nur lesen oder auch Daten ändern? Wie viele Schritte und welche Kosten sind erlaubt? Wann muss es aufhören und eine Person fragen? Diese Fragen gehören vor die Umsetzung.
Ein fiktiver Rechercheagent darf beispielsweise freigegebene Handbücher durchsuchen und eine Antwort mit Quellen erstellen. Er darf weder Kundendaten ändern noch Nachrichten versenden. Dieser Umfang ist leichter zu prüfen als ein allgemeiner Auftrag, „den Vorgang zu erledigen“.
Fremde Inhalte sind keine neuen Befehle
Ein Agent kann auf E-Mails, Webseiten oder Dokumente treffen, die Anweisungen enthalten. OWASP beschreibt Prompt Injection als Risiko von Sprachmodellanwendungen. OWASP-Projekt. Solche Inhalte dürfen nicht selbst die Berechtigungen oder den Arbeitsauftrag erweitern.
Begrenzen Sie Werkzeugzugriffe technisch und testen Sie manipulierte Eingaben. Eine reine Aufforderung an das Modell, vorsichtig zu sein, schafft keine belastbare Zugriffskontrolle.
Freigaben an konkrete Aktionen binden
Für folgenreiche Aktionen braucht die prüfende Person den tatsächlichen Inhalt: Empfänger und Nachricht, betroffener Datensatz oder geplanter Kauf. Eine pauschale Zustimmung zum gesamten Agentenlauf lässt offen, was später ausgeführt wird.
Wenn sich die geplante Aktion nach der Prüfung ändert, muss der Ablauf damit ausdrücklich umgehen. Eine Freigabe für einen Entwurf sollte nicht stillschweigend einen anderen Text einschließen.
Mit dem einfacheren prüfbaren Umfang beginnen
Beschreiben Sie zuerst einen festen Ablauf. Markieren Sie dann die Stellen, an denen tatsächlich eine flexible Entscheidung nötig ist. Nur diese Stellen benötigen möglicherweise einen Agenten. Das reduziert den Teil, dessen Verhalten schwer vorherzusagen ist.
Für die Abnahme zählen erfolgreiche Fälle ebenso wie Abbruch, fehlende Informationen und unerlaubte Aktionen. Wenn das System seine Grenzen zuverlässig einhält und den Arbeitsaufwand senkt, kann der Umfang gezielt erweitert werden. Das Wort „Agent“ allein sagt noch nichts über den Nutzen für Ihr Büro aus.
Quellen und weiterführende Grundlagen
Über den Autor
Julian Süllner hat Provehor gegründet und führt das Unternehmen als Geschäftsführer. Er verantwortet Produktentwicklung, Kundenprojekte und die Ratgeber auf dieser Website.