Zwei Wege zum Agenten im Betrieb
Ob ein KI-Agent gehostet oder selbst gebaut sein sollte, lässt sich nicht allgemein beantworten. Für den Mittelstand gibt es aber eine brauchbare Regel. In Teil 1 dieser Reihe ging es darum, was an OpenAI Dots wirklich neu ist. Hier stelle ich Dots einem selbst gebauten Agent-Harness gegenüber.
Zuerst zwei Begriffe. Ein gehosteter Agent läuft beim Anbieter auf dessen Rechner, den Betrieb übernimmt der Anbieter. Dots ist so ein Fall: Jeder Dot arbeitet laut Engadget auf einem eigenen Cloud-Rechner mit Browser. Ein Harness ist die selbst gebaute Umgebung, in der ein Agent arbeitet. Sie legt fest, nach welchen Verfahren er vorgeht, was er sich merkt und welche Regeln für ihn gelten.
Fairerweise sollten Sie wissen: Ich betreibe selbst ein solches Setup und berate Unternehmen dazu. Ich habe also ein Interesse an einem der beiden Wege. Deshalb gehören die Schwächen des eigenen Harness mit in diesen Beitrag.
Der Vergleich in acht Achsen
Die mittlere Spalte stützt sich auf Berichte von Engadget, TechCrunch und NBC News sowie auf eine Produktanalyse von Vellum (Sekundärquellen, keine eigenen Tests). Die rechte Spalte beschreibt mein eigenes Setup.
| Achse | Dots (gehostet) | Eigener Harness |
|---|---|---|
| Laufzeit und Betrieb | Gehosteter Rechner samt Browser beim Anbieter (Vellum, Engadget). Sie betreiben nichts selbst. | Eigener Rechner, der durchgehend eingeschaltet bleibt. Betrieb und Pflege liegen bei mir. |
| Auslöser | Laut OpenAI „always-on“ und über Slack und Teams ansprechbar (TechCrunch). Proaktive Recherche nur lesend, dazu geplante Aufgaben (Vellum). | Geplante Jobs zu festen Zeiten. Einen Kanal, über den ein Job zurückfragt, gibt es kaum. |
| Gedächtnis | ChatGPT-Memories plus Gelerntes aus Gesprächen und Apps, gehalten vom Anbieter (Vellum). | Lesbare Dateien unter Versionskontrolle. Jede Änderung bleibt nachvollziehbar, der Inhalt lässt sich mitnehmen. |
| Verfahrenswissen | Allgemeiner Assistent, der aus Gesprächen und Apps lernt (Vellum). | Eigene Verfahren als Skills, also schriftlich festgelegte Arbeitsanweisungen, die der Agent bei passender Aufgabe lädt. |
| Werkzeuge | Mehr als 4.000 Apps über Plugins (Engadget). Stärke: Breite. | Jede Anbindung selbst verdrahtet. Weniger Breite, dafür eng an den eigenen Abläufen. |
| Freigaben | Eingebaute Regeln des Anbieters, eigene Regeln des Nutzers, einsehbarer Rechner (Engadget); automatische Prüfung bei Wirkung auf Konten, Monitoring kann Arbeit pausieren (Vellum). | Eigene Berechtigungen, Hooks (automatische Prüfungen vor oder nach einem Arbeitsschritt), ein Protokoll und manuelle Freigabe vor jeder Veröffentlichung. |
| Modelle | Festgelegt auf GPT-6 Astra von OpenAI (TechCrunch). | Frei wählbar je Aufgabe, dazu eine Zweitmeinung von Modellen anderer Anbieter. Jeder Aufruf geht an den Anbieter des gewählten Modells. |
| Verfügbarkeit | Pro zum Start ohne EWR, Vereinigtes Königreich und Schweiz (Vellum); laut NBC News in Europa und im Vereinigten Königreich nicht verfügbar. Business Premium: kein ausdrücklicher Regionsausschluss genannt, Lage unklar. | Läuft heute. |
Gehen Sie die Tabelle mit einer konkreten Aufgabe aus Ihrem Haus durch. Fragen Sie bei jeder Achse, welche der beiden Antworten Sie stören würde.
Wo der gehostete Agent gewinnt
Für persönliche Delegation von Wissensarbeit ist der gehostete Agent die einfachere Wahl: eine Recherche vorbereiten, Termine sortieren, Rechnungen zusammensuchen, eine Bestellung anstoßen. Das sind auch die Beispiele, die in den Berichten zu Dots auftauchen. Dafür braucht ein KMU nicht automatisch einen eigenen Harness.
Einfacher heißt aber nicht unbedenklich. Kalender, Postfach und Rechnungen enthalten Daten Dritter. Im Postfach, in dem die Rechnungen liegen, können auch Bewerbungen, Beschwerden von Kunden und Krankmeldungen liegen. Was der Agent dort liest, kann in sein Gedächtnis beim Anbieter wandern. Für Recherche zu einem Markt spielt das kaum eine Rolle, für ein Postfach schon.
Drei Dinge sprechen für den gehosteten Weg. Niemand in Ihrem Haus muss einen Rechner am Laufen halten oder nach ausgefallenen Jobs suchen. Die Breite der Anbindungen (über 4.000 Apps) selbst zu verdrahten, lohnt sich für die Aufgaben einer einzelnen Person nicht. Und der Assistent ist über Slack und Teams ansprechbar, also dort, wo Ihr Team ohnehin schreibt.
Die Grenze liegt beim Gedächtnis. Laut Vellum nutzt ein Dot die ChatGPT-Memories und lernt aus Gesprächen und verbundenen Apps. Trennen Sie eine App, bleibt das Gelernte erhalten. Ein Reset löscht Gespräche, Memories und geplante Aufgaben gemeinsam. Für Wissen, das auf Dauer Ihrem Unternehmen gehören soll, ist das relevant.
Bevor Sie einen Dot mit Firmenkonten verbinden, sollte der Anbieter vier Fragen beantworten:
- Wo liegen die Daten, die der Dot aus Gesprächen und verbundenen Apps speichert, und in welcher Region werden sie verarbeitet?
- Welche Protokolle zeigen, was der Dot wann getan hat?
- Wer außer dem Nutzer kann den Rechner des Dots einsehen?
- Fließen Inhalte aus Gesprächen und verbundenen Apps in das Training von Modellen ein, und lässt sich das abschalten?
Wo ein eigener Harness gewinnt
Ein eigener Harness lohnt sich bei prozesskritischen Strecken: Abläufe, bei denen ein Fehler nach außen geht, Geld kostet oder sich später nicht mehr erklären lässt. Vier Anforderungen sprechen dann für das eigene Setup. Freigabe-Gates sind feste Punkte, an denen ein Mensch zustimmen muss. Ein Audit-Pfad ist ein Protokoll, aus dem sich später ablesen lässt, wer was auf welcher Grundlage entschieden hat. Bei der Modellwahl entscheiden Sie, welches Modell welche Aufgabe übernimmt. Kontrolle über den Datenfluss heißt, dass Sie bestimmen, wo Gedächtnis und Arbeitsstände liegen, welche Daten überhaupt an ein Modell gehen und was wie lange gespeichert wird.
Volle Datenhoheit bringt ein eigener Harness allerdings nicht automatisch. Was der Harness an ein Modell schickt, geht an dessen Anbieter, in meinem Setup an Anbieter aus den USA. Steuern lässt sich, was in diesen Aufruf geht. Verfahren, Gedächtnis und Protokolle liegen bei mir, weil ich Speicher und Rechner selbst betreibe. Die Verarbeitung im Modell liegt beim Anbieter. Ein Standort des Anbieters in der EU verkürzt den Datenweg, volle Kontrolle ist das noch nicht. Die gibt es erst mit einem Modell, das Sie selbst betreiben, auf eigener oder selbst verwalteter Infrastruktur.
Mein eigenes Setup besteht aus wenigen Bausteinen. Verfahren sind als Skills festgehalten: Welche Quellen gelten, welche Schritte in welcher Reihenfolge laufen, was geprüft wird. Das Gedächtnis liegt in Textdateien unter Versionskontrolle, sodass ich jeden früheren Stand zurückholen kann. Wiederkehrende Aufgaben starten als geplante Jobs auf einem Rechner, der durchläuft. Vor jeder Veröffentlichung steht meine manuelle Freigabe. Für Planung und Prüfung nutze ich ein leistungsstarkes Modell, für einfache Such- und Sortierarbeit ein kleineres. Wichtige Ergebnisse liest zusätzlich ein Modell eines anderen Anbieters gegen.
Der eigentliche Unterschied zum gehosteten Agenten liegt in den kodierten Verfahren. Das Modell darunter ist austauschbar. Wie Ihr Haus eine Aufgabe erledigt, steht in Dateien, die Sie lesen, ändern und prüfen können. Ein gehosteter Agent bringt allgemeine Fähigkeiten mit. Ein eigener Harness führt Ihre Arbeitsweise aus.
Ein Beispiel aus meinem Setup ist die Veröffentlichung eines Fachbeitrags:
Dasselbe Muster passt auf viele Strecken im Mittelstand: Angebote, deren Preise jemand freigeben muss, verbindliche Antworten an Kunden, Berichte an Gesellschafter. Überall dort, wo Sie später zeigen müssen, wer freigegeben hat und auf welcher Grundlage, spricht vieles für den eigenen Harness.
Die Schwächen des eigenen Harness
Ein eigener Harness kostet dauerhaft Aufmerksamkeit. Wer das verschweigt, verkauft ein Bastelprojekt als Betriebsmodell. In meinem Setup sehe ich drei Schwächen deutlich.
Erstens der Pflegeaufwand. Geplante Jobs fallen zeitweise still aus: Der Rechner läuft, aber ein Job bleibt aus, und niemand bemerkt es, bis ein Ergebnis fehlt. Dazu wachsen Skills, Regeln und Gedächtnisdateien mit jeder Anpassung. Ohne laufende Prüfung driften sie auseinander, und eine Regel steht dann in zwei Dateien unterschiedlich. Beim gehosteten Agenten übernimmt diese Arbeit der Anbieter.
Zweitens stehen viele Regeln nur im Prompt, also in der Arbeitsanweisung an das Modell. Technisch erzwungen werden sie nicht. Ein Agent kann sie übersehen, in einer langen Aufgabe vergessen oder umgehen, wenn eine andere Anweisung plausibler wirkt. Eine Textanweisung ist eine Bitte, eine fehlende Berechtigung ist eine Grenze.
Drittens fehlt ein Rückkanal. Kommt ein geplanter Job nicht weiter, bricht er ab oder liefert ein halbes Ergebnis. Dots dagegen sind über Slack und Teams ansprechbar (TechCrunch). Dieser Kanal fehlt meinem Setup.
Die Lehre daraus: Regeln, die zählen, gehören in Berechtigungen und automatische Prüfungen. Was nur als Satz im Prompt steht, bleibt eine Empfehlung an das Modell.
Das gilt auch für den gehosteten Agenten. Den Bezug zu Teil 1 liefert OpenAI selbst: In einem eigenen kontrollierten Test stiegen laut The Rundown die Flags für moderate Scope-Verstöße von 8,6 auf 19,7 %, als die zwischengeschobenen Aufgaben von fünf auf zehn wuchsen. Schwere Verstöße wurden nicht beobachtet. Ich lese daraus: Aufsicht ist Arbeit, ob Sie den Agenten selbst betreiben oder beim Anbieter nutzen.
Die Entscheidungsregel für den Mittelstand
Die Regel hat zwei Achsen. Die erste fragt nach der Wirkung: Bleibt die Aufgabe bei einer Person, oder geht ihr Ergebnis nach außen, kostet Geld oder muss sich später erklären lassen? Die zweite fragt nach den Daten: Berührt die Aufgabe Namen, Mails oder Zahlen von Kunden, Bewerbern oder Mitarbeitenden, oder vertrauliche Firmendaten? Unkritisch heißt hier: öffentliche Quellen oder Unterlagen, die ausdrücklich für diesen Zweck freigegeben sind.
Persönliche Delegation mit unkritischen Daten gehört zum gehosteten Agenten. Persönliche Aufgaben mit sensiblen Daten kommen dafür erst in Frage, wenn der Anbieter die Fragen nach Region, Speicherdauer, Training und Einsicht beantwortet hat und die Antworten für Ihr Haus passen. Prozesskritische Strecken, die Freigabe-Gates, einen Audit-Pfad oder eigene Modellwahl verlangen, gehören in einen eigenen Harness, erst recht, wenn sensible Daten durchlaufen. Für die meisten Häuser passt eine Mischung aus beidem. Das ist eine Empfehlung aus meiner Sicht, kein Befund über die Verbreitung im Mittelstand und keine rechtliche Prüfung.
Entschieden wird pro Aufgabe, nicht pro Unternehmen. Dasselbe Haus kann dem Vertrieb einen gehosteten Agenten für Marktrecherche geben, das Postfach der Personalabteilung davon fernhalten und die Strecke, über die Angebote an Kunden gehen, durch einen eigenen Harness mit manueller Freigabe führen. Wie sich Aufgaben nach Stufen einordnen lassen, zeigt das 3-Stufen-Modell für KI-Agenten.
Schreiben Sie die Aufgaben auf, die ein Agent übernehmen soll, und beantworten Sie für jede vier Fragen. Wer gibt frei, und genügt die Person, die delegiert, oder braucht der Schritt eine zweite Freigabe, bevor etwas das Haus verlässt? Welche Daten berührt die Aufgabe, und wo verarbeitet und speichert der Anbieter sie? Stehen darin Daten von Kunden, Bewerbern oder Mitarbeitenden, gehört diese Frage vor den Start, zusammen mit der Person, die bei Ihnen für Datenschutz zuständig ist. Wer darf das Modell wechseln? Laut NBC News hielt OpenAI ein neueres Modell vorerst zurück; ein gehosteter Agent bringt das Modell des Anbieters mit, wenn dieser es wechselt. Und was passiert, wenn der Job ausfällt: Wer bemerkt es, und wer übernimmt?
Lautet bei jeder Aufgabe die Antwort „die Person selbst“ und „egal“, reicht der gehostete Agent. Muss feststehen, wer zusätzlich freigibt, wer das Modell bestimmt oder wer bei einem Ausfall übernimmt, beginnt der Bereich des eigenen Harness. Berührt die Aufgabe sensible Daten, klären Sie vor dem Start, ob die Antworten des Anbieters für Ihr Haus genügen. Genügen sie nicht, bleibt die Aufgabe beim Menschen oder wandert in den eigenen Harness.
In Teil 3 geht es um die KI-Transformation im Mittelstand: Wer verantwortet welche Strecke, wie werden Freigabestufen eingeführt, und wer betreibt das Ganze am Montag früh? Teil 4 wechselt die Perspektive und fragt, was sich ändert, wenn Ihre Kunden mit einem eigenen Agenten bei Ihnen anfragen oder bestellen.
Welche Strecke in Ihrem Haus braucht heute schon Freigabe und Protokoll, und wer würde es merken, wenn ein Agent dort einen Schritt auslässt? Eine erste Einordnung gibt es in der KI-Diagnose.
Häufige Fragen
Brauche ich als Mittelständler überhaupt einen eigenen Harness? Für viele Aufgaben nicht. Wenn Mitarbeitende Recherche oder Bestellungen an einen Assistenten abgeben wollen, deckt ein gehosteter Agent das ab. Ein eigener Harness lohnt sich bei einer Strecke, die Freigabe vor jedem Schritt mit Außenwirkung, ein nachvollziehbares Protokoll, freie Modellwahl oder Kontrolle darüber braucht, welche Daten an welches Modell gehen.
Was ist mit Postfach, Kalender und Rechnungen? Dort stecken Daten Dritter: Namen, Gesprächsinhalte, Bankverbindungen. Bevor Sie solche Konten mit einem gehosteten Agenten verbinden, sollte feststehen, in welcher Region der Anbieter die Daten verarbeitet, wie lange er sie speichert, ob sie in das Training einfließen und wer sie einsehen kann. Ob die Antworten für Ihr Haus genügen, entscheidet die Person, die bei Ihnen für Datenschutz zuständig ist. Dieser Beitrag beschreibt die Praxis, er ersetzt keine rechtliche Prüfung.
Bleiben meine Daten im eigenen Harness vollständig bei mir? Nicht ganz. Verfahren, Gedächtnis und Protokolle können bei Ihnen liegen, wenn Sie Speicher und Protokolle selbst betreiben. Was Ihr Harness an ein Modell schickt, geht aber an dessen Anbieter. Sie bestimmen, welche Daten in einen Aufruf gehen, welcher Anbieter welche Aufgabe bekommt und was wie lange gespeichert wird. Ein Standort des Anbieters in der EU verkürzt den Datenweg. Ganz in Ihrer Hand bleibt die Verarbeitung erst mit einem Modell, das Sie selbst betreiben.
Kann ich beides kombinieren? Ja. Unkritische persönliche Aufgaben liegen dann beim gehosteten Agenten, die prozesskritischen Abläufe im eigenen Setup. Aufgaben mit sensiblen Daten kommen erst nach der Prüfung beim Anbieter in den gehosteten Agenten. Legen Sie fest, welche Daten in welches System dürfen: Was ein gehosteter Agent lernt, speichert der Anbieter, und laut Vellum löscht das Trennen einer App das bereits Gelernte nicht.
Was kostet mich der Betrieb eines eigenen Setups an Aufmerksamkeit? Mehr, als die Einrichtung vermuten lässt. In meinem Setup fallen Jobs zeitweise aus, und Verfahren wie Regeln müssen laufend gepflegt werden. Eine Person sollte fest dafür zuständig sein, regelmäßig zu prüfen, ob alles gelaufen ist. Diese Zeit gehört in die Rechnung, bevor Sie sich für den eigenen Weg entscheiden.