3-Stufen-Modell für KI-Agenten: Welche Aufgabe auf welche Stufe gehört

Warum viele KI-Vorhaben an der falschen Stelle ansetzen

Das Bild in vielen mittelständischen Unternehmen: Es gab einen Workshop und ein paar Lizenzen, einzelne Mitarbeitende lassen sich Entwürfe und Zusammenfassungen schreiben. Im Betrieb selbst hat sich wenig verändert. KI wurde ausprobiert, betrieben wird sie nicht.

Wie früh viele noch stehen, zeigen die Zahlen des Statistischen Bundesamts: 2025 nutzten 26 Prozent der Unternehmen in Deutschland mit mindestens zehn Beschäftigten KI, bei Unternehmen mit 50 bis 249 Beschäftigten waren es 36 Prozent.

Für die Lücke zwischen Ausprobieren und Betreiben gibt es viele Gründe. Einer wiegt besonders schwer: Jede Aufgabe wird gleich behandelt. Daraus entstehen zwei Fehler, die in entgegengesetzte Richtungen gehen.

Der erste: Kleine Helfer werden überplant. Ein Assistent, der Angebotstexte vorformuliert, landet im selben Prozess wie ein neues ERP-System, mit Lastenheft, Ausschreibung und Lenkungskreis. Nach sechs Monaten läuft nichts, und das Team hat das Interesse verloren.

Der zweite: Kritische Prozesse werden zu leichtfertig automatisiert. Jemand in einer Fachabteilung baut einen Agenten, der Kundenanfragen beantwortet oder Daten im CRM ändert. Es gibt keine Rechteprüfung, keine Protokollierung und niemanden, der für das Ergebnis geradesteht. Das geht gut bis zum ersten Fehler mit Außenwirkung.

Beide Fehler haben dieselbe Ursache: Gefragt wird, was die Software kann. Besser wäre: Was kostet ein Fehler bei dieser Aufgabe, welche Daten sind betroffen, und wer steht für das Ergebnis ein?

Der passende Aufwand hängt von der Aufgabe ab, nicht vom Werkzeug.

Das Modell im Überblick

Das folgende Modell ist eine Arbeitshilfe für genau diese Einordnung, kein Branchenstandard.

Zwei Begriffe vorab. Der KI-Anbieter Anthropic unterscheidet in seinem Leitfaden zum Bau von Agenten zwei Bauformen. Bei einem Workflow folgt die KI einem fest programmierten Ablauf. Bei einem Agenten entscheidet das Sprachmodell selbst, welche Schritte es geht und welche Werkzeuge es nutzt. Agenten eignen sich laut dem Leitfaden für offene Aufgaben, bei denen sich die Zahl der Schritte nicht vorhersagen lässt. Sie erkaufen bessere Ergebnisse mit längeren Laufzeiten und höheren Kosten. Die Empfehlung daraus: mit der einfachsten Lösung beginnen und die Komplexität nur erhöhen, wenn es nötig ist. Manchmal heißt das, gar keinen Agenten zu bauen. Dieser Grundsatz trägt das ganze Modell.

Stufe 1: Was Ihre Mitarbeitenden selbst bauen können

Hierher gehören Aufgaben, bei denen ein Fehler wenig kostet und klar ist, was hineingeht und was herauskommen soll: die erste Fassung eines Angebotsanschreibens oder einer Stellenanzeige, die Zusammenfassung eines langen E-Mail-Verlaufs, eine Recherche zu einem Lieferanten oder einer Norm, eine Checkliste für die Einarbeitung.

Ein Mensch liest das Ergebnis, bevor es weiterverwendet wird. Ein schwacher Entwurf wird überarbeitet oder verworfen. Das Risiko bleibt gering, solange die Prüfung ernsthaft erfolgt, ganz ausgeschlossen ist es nicht.

Eine Entwicklungsabteilung brauchen Sie dafür nicht. Heutige KI-Assistenten lassen sich ohne Programmierung einrichten: Ihre Mitarbeitenden hinterlegen Anweisungen und Dokumente, der Assistent arbeitet damit. Über die Qualität entscheidet das Material, das Sie dem Assistenten mitgeben.

Das Drei-Ordner-Prinzip

Ein praktischer Weg: Geschäftskontext, Arbeitsdaten und Arbeitsanweisungen liegen getrennt. Die Trennung zwingt zur Klarheit. Wer die Arbeitsanweisung nicht in drei Sätzen aufschreiben kann, hat die Aufgabe meist noch nicht verstanden.

Wo Stufe 1 endet

Selbstbau funktioniert nur mit klaren Grenzen. Zwei davon sollten schriftlich feststehen, bevor die ersten Helfer entstehen.

Keine Kundendaten ohne dokumentierte Prüfung. Sobald personenbezogene Daten, Vertragsinhalte oder vertrauliche Kundeninformationen in ein Werkzeug fließen, stellen sich Fragen zu Datenschutz, Vertraulichkeit, Speicherort und Zugriff, etwa nach Rechtsgrundlage und Auftragsverarbeitungsvertrag mit dem Anbieter. Die beantwortet das Unternehmen, nicht die einzelne Mitarbeiterin. Bis dahin bleiben solche Daten draußen.

Keine Entscheidungen mit Außenwirkung. Der Assistent darf eine Kundenmail entwerfen, aber nicht versenden. Er darf Angebotsvarianten vorbereiten, den Preis legt ein Mensch fest. Was Kunden, Lieferanten oder Behörden erreicht, geht vorher über einen Schreibtisch.

Als Prüffrage für den Alltag: Würde es Sie stören, wenn das Ergebnis ungeprüft beim Kunden landet? Wenn ja, gehört die Aufgabe nicht in Stufe 1. Diese Grenzen bremsen nicht. Wer weiß, was erlaubt ist, kann frei ausprobieren.

Stufe 2: Was Profis in Ihre Systeme integrieren sollten

In Stufe 2 arbeitet die KI nicht mehr neben Ihren Systemen, sondern in ihnen. Ein Agent liest Anfragen aus dem Ticketsystem, gleicht sie mit Kundendaten im CRM ab, prüft im ERP den Lieferstatus und schreibt eine Antwort. Er führt einen Prozess über mehrere Schritte aus und greift dabei auf Daten zu, die Ihr Tagesgeschäft tragen. Sobald ein Agent in Ihre Systeme schreibt, hat ein Fehler Folgen außerhalb des Entwurfsordners. Ob er verlässlich läuft, entscheiden fünf Punkte:

• Schnittstellen: ein sauberer, dokumentierter Zugang zu CRM, ERP oder Ticketsystem. Kopierte Exporte und Zwischentabellen sind die typischen Bruchstellen.
• Rechte: Der Agent sieht und ändert nur, was seine Aufgabe erfordert. Wer Anfragen beantwortet, braucht keinen Zugriff auf Konditionen oder Personaldaten.
• Protokollierung: Nachvollziehbar festgehalten wird, was der Agent gelesen, entschieden und ausgelöst hat, und zwar so weit, wie der Zweck es erfordert. Was protokolliert wird, wer es einsehen darf und wann es gelöscht wird, legen Sie vorab fest, auch aus Datenschutzgründen. So können Sie im Fehlerfall klären, was passiert ist, und Anfragen von Kunden sachgerecht beantworten.
• Tests: Der Leitfaden empfiehlt, Agenten ausgiebig in abgeschotteten Testumgebungen mit passenden Leitplanken zu prüfen, bevor sie auf echte Daten treffen.
• Wartung: Schnittstellen und Modelle ändern sich. Ein Agent in Stufe 2 braucht jemanden, der ihn betreut, wie jedes andere Fachsystem auch.

Der Leitfaden rät außerdem, für den Dauerbetrieb auf einfache, kombinierbare Bausteine statt auf komplexe Rahmenwerke zu setzen. Fragen Sie einen Dienstleister deshalb, wie gut Ihr Team die Lösung später noch verstehen und prüfen kann.

Wann ein Selbstbau in Stufe 2 gehört

Viele Agenten der Stufe 2 beginnen als Selbstbau. Das ist in Ordnung, solange jemand den Moment bemerkt, in dem der Helfer seine Stufe verlässt. Drei Signale sind typisch:

1. Er ist zum Engpass geworden. Die Arbeit einer Abteilung stockt, wenn der Helfer ausfällt oder die Person fehlt, die ihn gebaut hat.
2. Andere hängen davon ab. Was als persönliche Arbeitshilfe begann, nutzen inzwischen Vertrieb, Service oder Buchhaltung, ohne zu wissen, wie er funktioniert.
3. Echte Daten fließen. Der Helfer verarbeitet Kundendaten, Aufträge oder Rechnungen, oder seine Ergebnisse gehen ungeprüft nach außen.

Trifft eines davon zu, müssen Sie den Helfer nicht abschalten. Setzen Sie ihn neu auf: mit geregeltem Zugang, klaren Rechten, Protokoll, Tests und einer verantwortlichen Person. Wir sehen immer wieder, dass genau dieser Übergang verpasst wird. Dann läuft ein kritischer Prozess auf einer Lösung, die nie dafür gedacht war.

Stufe 3: Was beim Menschen bleibt

Auf der dritten Stufe ist die technische Machbarkeit zweitrangig. Hier stehen Urteilsvermögen, eine Kundenbeziehung oder eine Haftungsfrage im Mittelpunkt. Im Mittelstand sind das zum Beispiel:

• Preisverhandlungen. Wie weit Sie einem langjährigen Kunden entgegenkommen, hängt von der Geschichte der Beziehung, der Marktlage und Ihrer Strategie ab. Das steht in keinem Datensatz vollständig.
• Personalentscheidungen. Einstellungen, Beförderungen und Kündigungen betreffen Menschen unmittelbar. Diese Verantwortung lässt sich nicht an ein System abgeben. KI in Bewerberauswahl oder Leistungsbewertung kann nach dem AI Act zudem als hochriskant gelten, und Artikel 22 DSGVO setzt ausschließlich automatisierten Entscheidungen über Menschen enge Grenzen. Ein bloßer Bestätigungsklick ersetzt keine eigene Prüfung.
• Kritische Kundengespräche. Eine Reklamation eskaliert, ein Vertrag steht auf der Kippe. Hier zählen Ton, Timing und Vertrauen.
• Freigaben mit rechtlicher Wirkung. Verträge, Zusagen gegenüber Behörden oder Erklärungen mit Haftungsfolgen verantwortet eine Person mit Namen und Befugnis.

Die Regel lautet: KI bereitet vor, der Mensch entscheidet. Ein Agent kann für eine Preisverhandlung die Umsatzhistorie, offene Reklamationen und die Margen der letzten Aufträge zusammenstellen. Das Ergebnis bleibt eine Vorlage. Entscheiden muss der Mensch, und er muss die Entscheidung auch ohne die Vorlage begründen können.

Technisch ist das gut abbildbar. Laut dem Leitfaden zum Bau von Agenten lassen sich Agenten so bauen, dass sie an festgelegten Kontrollpunkten oder bei Hindernissen anhalten und auf menschliche Rückmeldung warten.

Was der AI Act dazu sagt

Für KI-Systeme, die der AI Act als hochriskant einstuft, verlangt Artikel 14, dass sie wirksam von Menschen beaufsichtigt werden können. Der Anbieter muss das System dafür auslegen, der Betreiber muss nach Artikel 26 geeignete, geschulte und befugte Personen mit der Aufsicht betrauen. Nach der geltenden Fassung wären diese Pflichten für die meisten Hochrisiko-Systeme ab dem 2. August 2026 anzuwenden. Der beschlossene, aber noch nicht in Kraft getretene Omnibus soll sie verschieben (siehe Häufige Fragen). Die zuständigen Personen müssen die Fähigkeiten und Grenzen des Systems verstehen, Auffälligkeiten erkennen, sich der Neigung bewusst sein, den Ergebnissen der Maschine zu sehr zu vertrauen, und in den Betrieb eingreifen oder ihn anhalten können. Ob ein interner Agent in diese Kategorie fällt, hängt vom konkreten Einsatz ab. Als Maßstab für eigene Regeln taugt die Logik aber auch außerhalb der Hochrisiko-Klasse.

Eine zweite Pflicht betrifft jedes Unternehmen, das KI einsetzt. Seit dem 2. Februar 2025 gilt Artikel 4: Anbieter und Betreiber von KI-Systemen müssen Maßnahmen ergreifen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit KI-Systemen arbeiten, über ausreichende KI-Kompetenz verfügen. Das gilt unabhängig vom Risiko des Systems, ein einfacher Textassistent fällt genauso darunter wie ein Agent im CRM. Der beschlossene Omnibus soll diese Pflicht nach seinem Inkrafttreten abschwächen: KI-Kompetenz soll dann gefördert statt sichergestellt werden. Bis dahin gilt die bisherige Fassung.

Ab dem 2. August 2026 gelten außerdem die Transparenzpflichten aus Artikel 50. Anbieter von KI-Systemen, die direkt mit Menschen interagieren, müssen diese so gestalten, dass die Betroffenen erfahren, dass sie es mit einer KI zu tun haben, sofern das nicht offensichtlich ist. Wer einen eigenen Agenten für den Kundenkontakt baut oder bauen lässt, kann selbst Anbieter sein. Für die maschinenlesbare Kennzeichnung KI-erzeugter Inhalte nach Absatz 2 sieht der Omnibus bei Systemen, die vor dem 2. August 2026 in Verkehr gebracht wurden, eine Übergangsfrist bis zum 2. Dezember 2026 vor. Auch diese Erleichterung ist beschlossen, aber noch nicht in Kraft.

Wer eine Vorlage der KI prüft und darauf eine Entscheidung stützt, muss wissen, wo das System typischerweise danebenliegt und welche Daten es gesehen hat. Diese Kompetenz entsteht nur, wenn feststeht, wer was tut. Halten Sie deshalb für jede Aufgabe der Stufe 3 schriftlich fest:

1. Was die KI vorbereiten darf, zum Beispiel Daten zusammenstellen, Entwürfe schreiben oder Unterlagen prüfen.
2. Wer entscheidet: eine benannte Person oder Rolle, nicht "die Fachabteilung".
3. Was diese Person wissen muss: welche Grenzen das Werkzeug hat und woran man eine fehlerhafte Vorlage erkennt.

Vier Fragen, mit denen Sie jede Aufgabe einordnen

Stellen Sie diese vier Fragen für jede einzelne Aufgabe, nicht für ein Werkzeug als Ganzes, denn dasselbe Programm kann eine Aufgabe der Stufe 1 und eine der Stufe 3 unterstützen. Dabei gilt: Die strengste Antwort entscheidet. Führen drei Fragen zu Stufe 1 und eine zu Stufe 3, gehört die Aufgabe in Stufe 3.

Das Modell ist eine betriebliche Einordnung, keine rechtliche Klassifikation. Vorab gehört geklärt, ob ein Einsatz nach Artikel 5 AI Act verboten ist, nach Artikel 6 und Anhang III als hochriskant gilt oder als ausschließlich automatisierte Entscheidung über Menschen unter Artikel 22 DSGVO fällt. Trifft das zu, hilft keine Stufe weiter, dann ist eine rechtliche Prüfung nötig.

1. Was kostet ein Fehler?

Denken Sie an den schlechtesten realistischen Fall. Ein missglückter interner Entwurf kostet Minuten, eine falsche Auftragsbestätigung Vertrauen, ein zugesagter Preis lässt sich unter Umständen nicht mehr zurückholen.

• Stufe 1: Der Fehler fällt auf, bevor das Ergebnis das Haus verlässt.
• Stufe 2: Der Fehler kann Kunden oder andere Systeme erreichen, lässt sich aber dank Protokollierung und Tests erkennen und korrigieren.
• Stufe 3: Der Fehler ist nicht umkehrbar oder hat rechtliche oder finanzielle Wirkung nach außen.

2. Welche Daten sind betroffen?

• Stufe 1: Allgemein zugängliche oder unkritische interne Informationen, etwa Produkttexte oder Vorlagen.
• Stufe 2: Kunden- und Vertragsdaten aus CRM, ERP oder Ticketsystem. Zugriffsrechte, Schnittstellen und Protokolle müssen sauber geregelt sein.
• Stufe 3: Daten, auf deren Grundlage über Menschen entschieden wird, etwa bei Bewerbungen oder Leistungsbeurteilungen.

3. Wie oft kommt die Aufgabe vor, und wie gleichförmig ist sie?

Eine Aufgabe, die täglich hundertfach nach demselben Muster abläuft, braucht oft keinen Agenten. Ein fester Workflow genügt (siehe die Unterscheidung oben).

• Stufe 1: Die Aufgabe kommt gelegentlich vor, eine Person erledigt sie, ein Helfer spart ihr Zeit.
• Stufe 2: Die Aufgabe kommt häufig vor, betrifft mehrere Personen oder Abteilungen und läuft weitgehend gleich ab. Hier lohnt sich eine saubere Integration.
• Stufe 3: Jeder Fall ist anders und verlangt Urteilsvermögen.

4. Wer trägt die Verantwortung für das Ergebnis?

Kann niemand diese Frage beantworten, ist die Aufgabe noch nicht reif für einen Agenten, auf keiner Stufe.

• Stufe 1: Wer den Helfer nutzt, verantwortet das Ergebnis und prüft es vor der Weitergabe.
• Stufe 2: Das Ergebnis fließt in Abläufe anderer ein. Es braucht eine benannte Person und jemanden, der die Lösung wartet.
• Stufe 3: Am Ergebnis hängen eine Unterschrift, eine Haftung oder eine Kundenbeziehung.

Die Checkliste zum Mitnehmen

Die vier Fragen lassen sich zu einer Matrix verdichten, eine Zeile je Frage, eine Spalte je Stufe. Und wenn Sie bei einer Frage unsicher sind? Dann ordnen Sie die Aufgabe vorläufig eine Stufe höher ein, denn meist fehlt Wissen über den Ablauf oder die Verantwortung ist ungeklärt.

Drei Festlegungen für jede Aufgabe

Für den Einstieg brauchen Sie kein Governance-Handbuch. Operativ genügen pro Aufgabe oft drei Festlegungen. Sie ersetzen nicht die Prüfungen, die das Recht im Einzelfall verlangt, etwa zum Datenschutz oder, wenn Beschäftigte betroffen sind, die Beteiligung des Betriebsrats.

1. Eine verantwortliche Person

Jede Aufgabe bekommt einen Namen, keine Abteilung. "Der Vertrieb" ist nicht verantwortlich, die Leiterin des Innendienstes schon. Sie entscheidet, ob der Agent weiterläuft, meldet Probleme und ist ansprechbar, wenn ein Ergebnis falsch war. Diese interne Zuständigkeit ordnet die Arbeit, an der rechtlichen Verantwortung des Unternehmens ändert sie nichts.

2. Ein Prüfmodus

Legen Sie fest, wie stark ein Mensch die Ergebnisse prüft. Wir arbeiten mit drei Prüfmodi, die sich als handhabbar bewährt haben:

Prüfmodus und Stufe hängen zusammen. Ein Selbstbau, der nur interne Entwürfe erstellt, kommt ohne laufende Prüfung aus. Ein integrierter Agent, der E-Mails an Kunden verschickt, startet mit Prüfung jedes Ergebnisses.

3. Ein fester Überprüfungstermin

Jede Einordnung ist eine Annahme. Legen Sie bei der Einführung einen Termin fest, an dem die verantwortliche Person Stufe und Prüfmodus überprüft: für neue Agenten eher früh, für bewährte in größeren Abständen. Dann stellen Sie die vier Fragen erneut und ergänzen zwei aus dem Betrieb: Wie viele Ergebnisse mussten korrigiert werden? Hat sich an Daten oder Nutzern etwas geändert?

Aufgaben wechseln die Stufe, in beide Richtungen

Ein Agent, der über Monate verlässlich arbeitet, kann von vollständiger Prüfung auf Stichproben wechseln. Der Weg führt auch zurück: Werden Fehler häufiger, ändert sich eine Datenquelle oder bekommt eine Aufgabe plötzlich Außenwirkung, wird die Prüfung enger oder die Aufgabe geht an einen Menschen zurück. Das ist kein Scheitern. So sieht Governance aus, die funktioniert.

Typische Fehler bei der Einordnung

Vier Muster tauchen häufig auf.

Wildwuchs. Ein Helfer, der eingehende Anfragen zusammenfasst, funktioniert. Kollegen nutzen ihn mit, einige Monate später arbeitet der halbe Vertrieb damit. Dass daraus ein System der Stufe 2 geworden ist, hat niemand entschieden, und niemand übernimmt, wenn die Erstellerin im Urlaub ist.

Überplanung. Ein Werkzeug für Gesprächsnotizen durchläuft Lastenheft und Budgetfreigabe. Bis es fertig ist, haben sich die Mitarbeitenden eigene Lösungen gesucht, ohne jede Regel.

Blinde Automatisierung. Ein Agent arbeitet rund um die Uhr. Das verleitet dazu, ihm auch Kulanzentscheidungen oder Zusagen mit rechtlicher Wirkung zu überlassen. Ein einziger Fehler kann dort mehr kosten, als die Automatisierung gespart hat.

Fehlende Verantwortung. Das Ergebnis ist falsch. Die IT verweist auf den Fachbereich, der Fachbereich auf den Anbieter, der Anbieter auf die Konfiguration. Das Problem ist selten der erste Agent im Haus, sondern der zwanzigste.

Allen vier Mustern liegt dasselbe zugrunde. Die Einordnung wird einmal getroffen und danach nie wieder angesehen.

So starten Sie am Montag

Sammeln Sie mit den betroffenen Bereichsleitungen wiederkehrende Aufgaben und ordnen Sie jede mit den vier Fragen ein. Daraus folgen zwei Entscheidungen: eine Aufgabe aus Stufe 1, die sofort startet, und eine aus Stufe 2, die als Pilot mit verantwortlicher Person geplant wird, bevor jemand Systeme verbindet.

Die vollständige Einordnungs-Checkliste gehen wir in der AI-Diagnose gemeinsam mit Ihnen durch.

Häufige Fragen

Woran erkenne ich, ob eine Aufgabe für einen KI-Agenten geeignet ist? Wenn sich die Zahl der Schritte nicht vorhersagen lässt. Ist der Weg jedes Mal gleich, reicht oft ein fester Workflow oder eine einzelne, gut vorbereitete Anfrage an ein Sprachmodell.

Wann lohnt es sich, externe Profis für die Integration zu holen? Sobald ein Agent in CRM, ERP, E-Mail oder Ticketsystem Prozesse über mehrere Schritte ausführt, oder sobald ein Selbstbau eines der drei Signale aus Stufe 2 zeigt.

Was ändert sich beim AI Act gerade? Im Mai 2026 haben sich Rat und Europäisches Parlament vorläufig auf eine Vereinfachung des AI Act geeinigt, inzwischen haben Parlament und Rat die Änderung verabschiedet. Wirksam wird sie erst mit Veröffentlichung im Amtsblatt und Inkrafttreten. Danach sollen die Hochrisiko-Pflichten ab dem 2. Dezember 2027 für eigenständige Hochrisiko-Systeme und ab dem 2. August 2028 für Hochrisiko-Systeme in Produkten gelten. Die Pflicht zur KI-Kompetenz nach Artikel 4 gilt bereits seit dem 2. Februar 2025. Ob Ihr konkreter Einsatz als hochriskant gilt, sollten Sie im Einzelfall rechtlich prüfen lassen.

Dieser Beitrag ist keine Rechtsberatung. Er ordnet die rechtlichen Vorgaben aus Sicht der Praxis ein und ersetzt nicht die Prüfung Ihres Einsatzes durch eine Fachanwältin oder einen Fachanwalt.

Quellen

• Statistisches Bundesamt: Unternehmen, die Künstliche Intelligenz nutzen (Stand 24.11.2025)
• Anthropic: Building Effective AI Agents (19.12.2024)
• Amtsblatt der EU: Verordnung (EU) 2024/1689 (KI-Verordnung), Originalfassung vom 12.07.2024, Artikel 4 (KI-Kompetenz), Artikel 14 (Menschliche Aufsicht) und Artikel 50 (Transparenz)
• Rat der EU: Pressemitteilung zur vorläufigen Einigung (07.05.2026)
• Europäisches Parlament: Legislative Train, Digital Omnibus on AI