Kurzantwort

Ein KI-Agent erledigt Aufgaben selbstständig über mehrere Schritte. Damit das im Unternehmen sicher funktioniert, braucht er klar begrenzte Rechte, Freigaben durch Menschen bei folgenreichen Schritten, nachvollziehbare Protokolle und eine verantwortliche Person. Der Spielraum wächst schrittweise, wenn der Agent sich bewährt hat.

Was ist ein KI-Agent?

Ein Chatbot beantwortet Fragen. Ein KI-Agent geht weiter: Er bekommt ein Ziel, plant die nötigen Schritte, ruft Daten ab, nutzt Werkzeuge wie E-Mail, Kalender oder Unternehmenssoftware und führt Aktionen aus. Ein Agent könnte etwa eingehende Anfragen lesen, den passenden Kunden im System suchen, eine Antwort entwerfen und einen Termin vorschlagen.

Genau diese Selbstständigkeit macht Agenten nützlich, und genau sie verlangt Regeln.

Wo liegt das Risiko?

  • Zu weite Rechte: Ein Agent, der lesen soll, darf auch schreiben oder löschen.
  • Fehlinterpretationen: Sprachmodelle können Anweisungen missverstehen oder überzeugend falsche Schlüsse ziehen.
  • Manipulierte Eingaben: Inhalte aus E-Mails oder Webseiten können versteckte Anweisungen enthalten, die den Agenten in die Irre führen.
  • Fehlende Nachvollziehbarkeit: Niemand kann im Nachhinein sagen, warum der Agent etwas getan hat.

Welche Regeln braucht ein Agent?

  1. Eine klar umrissene Aufgabe: Was soll der Agent tun, und was ausdrücklich nicht?
  2. Minimale Rechte: Zugriff nur auf die Daten und Funktionen, die für die Aufgabe nötig sind, möglichst nur lesend.
  3. Freigaben bei folgenreichen Schritten: Zahlungen, Bestellungen, Nachrichten an Kunden oder Änderungen an Stammdaten gibt ein Mensch frei.
  4. Protokolle: Jeder Schritt wird nachvollziehbar festgehalten, damit Fehler gefunden und verbessert werden können.
  5. Eine verantwortliche Person: Jemand kennt den Agenten, prüft seine Arbeit regelmäßig und kann ihn stoppen.
  6. Umgang mit Daten: Welche Daten der Agent verarbeiten darf und welches Modell dafür freigegeben ist, ist schriftlich geregelt.

Wie viel Selbstständigkeit ist sinnvoll?

Bewährt hat sich ein Vorgehen in Stufen:

Stufen der Selbstständigkeit eines KI-Agenten
StufeDer Agent …Der Mensch …
1. Vorschlagenbereitet vor und schlägt vorentscheidet und führt aus
2. Ausführen nach Freigabeführt aus, sobald freigegebenprüft und gibt frei
3. Ausführen mit Stichprobeführt Routinefälle selbst ausprüft Stichproben und alle Ausnahmen

Für viele Aufgaben ist Stufe 2 dauerhaft richtig. Stufe 3 kommt nur für klar geregelte Routinefälle in Frage, bei denen ein Fehler wenig Schaden anrichtet und schnell bemerkt wird.

Wie startet man sicher?

Mit einer Aufgabe, die häufig vorkommt, gut beschrieben ist und bei der ein Fehler überschaubare Folgen hat. Der Agent startet auf Stufe 1, die Ergebnisse werden einige Wochen lang beobachtet. Erst wenn Qualität und Nutzen stimmen, wächst der Spielraum. Voraussetzung ist ein sauberer Ablauf, sonst automatisiert auch der beste Agent nur das Chaos. Mehr dazu im Artikel Digitalisieren, optimieren, automatisieren.

Häufige Fragen

Ist ein KI-Agent dasselbe wie ein Chatbot?

Nein. Ein Chatbot antwortet auf Fragen. Ein Agent erledigt Aufgaben: Er ruft Daten ab, nutzt Werkzeuge und führt mehrere Schritte selbstständig aus. Genau deshalb braucht er klare Grenzen.

Wer haftet, wenn ein Agent einen Fehler macht?

Das Unternehmen, das ihn einsetzt. Deshalb gehören Freigaben für folgenreiche Schritte, nachvollziehbare Protokolle und eine verantwortliche Person zu jedem Agenten. Rechtliche Einzelfragen klären Sie bitte mit Ihrer Rechtsberatung.

Wie fängt man am besten an?

Mit einer klar umrissenen Aufgabe, bei der der Agent nur vorbereitet und ein Mensch freigibt. Erst wenn das über Wochen zuverlässig läuft, wächst der Spielraum.

Sie planen den ersten KI-Agenten? Wir legen mit Ihnen Aufgabe, Rechte und Freigaben fest.

Zur Prozessautomatisierung

Über den Autor

Stefan Lederer, EMBA

Gründer und Geschäftsführer der Leitcon GmbH. Über 20 Jahre IT- und Business-Know-how, vom EDV-Techniker über das eigene Unternehmertum bis zum Konzern, Executive MBA in Digital Transformation & Change Management. Aktuell baut er im Konzernumfeld eine abgesicherte KI-Plattform mit Governance für KI-Agenten mit auf. Mehr über Stefan Lederer