Vom Antworten zum Handeln
Ein Agent kann beispielsweise ein Ticket anlegen, einen Auftragsstatus abrufen, Daten zwischen Systemen übertragen oder einen Antwortentwurf im CRM speichern. Der Zugriff sollte auf genau die Werkzeuge und Datensätze begrenzt sein, die für seine Aufgabe notwendig sind.
Freigaben für kritische Aktionen
Lesen und Vorschlagen ist weniger riskant als Löschen, Bezahlen oder Versenden. Kritische Aktionen sollten eine menschliche Bestätigung erfordern. Zusätzlich helfen Betragsgrenzen, Rollen, Zeitfenster und eine vollständige Protokollierung.
Evaluation statt Bauchgefühl
Vor dem Start braucht der Agent realistische Testfälle: normale Aufgaben, unklare Eingaben, fehlende Daten, Manipulationsversuche und Systemausfälle. Nach dem Launch werden Fehler, Eskalationen und Nutzerfeedback ausgewertet.
Aktueller Trend: produktionsreife Agentensysteme
Enterprise-Plattformen konzentrieren sich zunehmend auf klar definierte Aufgaben, Richtlinien, Guardrails und Übergaben an Menschen. OpenAI beschreibt diesen Ansatz beispielsweise für Voice- und Chat-Agenten mit begrenztem Wissen und Systemzugriff.
Quelle: OpenAI – Introducing Presence.
Klein beginnen und kontrolliert erweitern
Ein einzelner, gut messbarer Prozess ist ein besserer Start als ein universeller Agent. Erst wenn Qualität, Berechtigungen und Nutzen stabil sind, sollten weitere Werkzeuge oder automatisierte Aktionen hinzukommen.
Hinweis: Inhalte zu Datenschutz und EU AI Act dienen der allgemeinen Orientierung und sind keine Rechtsberatung.
