Der Pilot ist vorbei, der Betrieb hat noch nicht begonnen
Über die Auswahl von KI-Werkzeugen wird viel geschrieben. Über die Einführung auch. Über den Alltag danach fast nichts: die Wochen und Monate, in denen die KI einfach laufen soll, ohne dass sich jemand besonders um sie kümmert.
Vielleicht kennen Sie den Moment. Der Pilot hat überzeugt, das Budget für den Regelbetrieb ist freigegeben, das Projektteam löst sich auf. Und in der nächsten Runde fragt jemand: Wer kümmert sich jetzt eigentlich darum?
In dieser Phase zeigt sich oft dasselbe Muster. Der Pilot hatte eine engagierte Person mit Zeit dafür, er lief unter Beobachtung und mit ausgewählten Fällen. Genau diese Bedingungen fallen weg, sobald aus dem Projekt Routine wird.
Ein erfolgreicher Pilot beweist, dass etwas funktionieren kann. Er beweist nicht, dass es im Betrieb funktioniert. Im Betrieb gibt es keinen Projektplan und keine Sonderaufmerksamkeit mehr. Es gibt Montagmorgen, volle Postfächer und Mitarbeitende mit anderen Aufgaben.
Nach einer KI-Einführung bleiben oft vier Fragen offen. Wer betreut die KI? Wer bemerkt Fehler? Was kostet sie laufend? Wer haftet, wenn etwas schiefgeht?
Ein offenes Praxisbeispiel: Die KI, die Angebotsanfragen vorsortiert
Vorweg: Dieses Unternehmen gibt es nicht. Das Beispiel ist konstruiert und beruht weder auf einem Klienten noch auf eigenen Betriebsdaten. Es zeigt die Stellen, an denen der Betrieb kippen kann.
Die Ausgangslage. Ein Hersteller von Industriekomponenten erhält täglich Anfragen per E-Mail und über das Kontaktformular. Darunter sind Katalogteile, Sonderanfertigungen nach Zeichnung, Ersatzteilbestellungen und Nachrichten, die gar keine Anfrage sind. Bisher sortiert der Vertriebsinnendienst von Hand, fragt fehlende Angaben nach und leitet Sonderanfertigungen an die Technik weiter.
Was die KI tut. Ein KI-Workflow übernimmt den ersten Schritt. Gemeint ist eine Abfolge von Arbeitsschritten, die ein Sprachmodell nach festen Anweisungen ausführt. Er ordnet jede Anfrage einer Kategorie zu, prüft, ob Menge, Material und Wunschtermin angegeben sind, und entwirft eine Antwort.
Wie der Pilot lief. Die Leitung des Vertriebsinnendienstes betreut den Piloten, im Folgenden der Pilot-Champion. Sie bekommt dafür ein festes Zeitbudget. Einige Wochen lang läuft nur das zentrale Anfragepostfach durch die KI. Sie schreibt die Arbeitsanweisungen, sammelt gute und schlechte Beispielantworten und liest jeden Entwurf, bevor er rausgeht. Falsche Zuordnungen korrigiert sie sofort. Das Team ist zufrieden, die Geschäftsführung gibt den Regelbetrieb frei.
Was sich im Betrieb ändert. Damit sich die Entlastung lohnt, beschließt das Team: Reine Informationsanfragen beantwortet die KI künftig selbst. Alles andere geht weiter als Entwurf an einen Menschen. Das Kontaktformular kommt dazu.
Bis hierhin ist das eine gute Geschichte. Offen wird sie an vier Stellen:
- Betreuung. Das Zeitbudget entfällt. Die Arbeitsanweisungen liegen in einem Ordner, den nur eine Person wirklich versteht. Wer passt sie an, wenn eine neue Produktlinie dazukommt?
- Fehler. Statt einer erfahrenen Person geben jetzt mehrere Kolleginnen und Kollegen frei, unter Zeitdruck. Und einen Teil der Antworten liest niemand mehr. Wer bemerkt eine falsch einsortierte Sonderanfertigung, bevor der Kunde nachfragt?
- Kosten. Das Pilotbudget umfasste Lizenz und Einrichtung. Die Stunden des Pilot-Champions standen nirgends. Was kostet der Workflow, wenn diese Stunden jemand anderes leisten muss?
- Haftung. Ein Entwurf nennt einen Liefertermin, den die Fertigung nicht halten kann. Die Freigabe erfolgt ungeprüft, der Kunde plant damit. Wer steht dafür ein?
Keine dieser Stellen ist ein technischer Mangel. Verändert hat sich das Umfeld: weniger Aufmerksamkeit, mehr Beteiligte, keine feste Zuständigkeit.
Frage 1: Wer betreut die KI, wenn der Pilot-Champion wieder seinen eigentlichen Job macht?
Im Pilot besserte eine Person nach, wenn die KI danebenlag. Diese Arbeit stand in keinem Plan. Im Betrieb kehrt die Person zu ihren eigentlichen Aufgaben zurück. Die Arbeit an der KI bleibt, zuständig ist niemand mehr ausdrücklich.
Das ist keine Randfrage. Die Studie „The GenAI Divide: State of AI in Business 2025“ des MIT (Projekt NANDA, Juli 2025) fragt, warum viele KI-Piloten keine messbare Wirkung zeigen. Ihr Befund: Es liegt nicht an der Qualität der Modelle, sondern am Vorgehen. Werkzeuge, die sich schlecht in die Arbeitsabläufe einfügen und nicht dazulernen, bleiben stecken. Wer die KI betreut, ist ein Teil genau dieser Einbindung.
Drei Rollen, die im Pilot meist in einer Person stecken
„Die KI betreuen“ sind drei verschiedene Aufgaben. Benennen Sie sie einzeln, auch wenn am Ende zwei davon bei derselben Person landen.
Fachliche Verantwortung. Wem gehört der Prozess? Im Beispiel: Wer legt fest, welche Anfrage in welche Kategorie gehört, und wer steht dafür ein, wenn ein Auftrag im falschen Stapel landet? Diese Rolle gehört in den Fachbereich, nicht in die IT.
Technische Betreuung. Wer kümmert sich um Zugänge, um die Anbindung an Postfach und CRM, um Updates des Anbieters? Ändert der Anbieter sein Modell, muss das jemand bemerken.
Inhaltliche Pflege. Wer hält Arbeitsanweisungen, Beispiele und Geschäftskontext aktuell? Neue Produkte, geänderte Preise, eine neue Zuständigkeit für Großkunden: Davon erfährt die KI nur, wenn es jemand einträgt. Diese Rolle wird leicht übersehen, weil sie im Pilot unbemerkt mitlief.
Was gepflegt wird, braucht einen Namen
Wir machen das Pflegeobjekt mit dem Drei-Ordner-Prinzip greifbar. Alles, was eine KI für eine Aufgabe braucht, liegt in drei Ablagen: dem Geschäftskontext (wer Sie sind, was Sie anbieten, für wen), den Daten (etwa Preislisten und Produktblätter) und den Arbeitsanweisungen, mit Beispielen für gute und unbrauchbare Ergebnisse.
Diese Ordner sind ein Arbeitsmittel wie Ihre Angebotsvorlagen, kein Projektergebnis fürs Archiv. Sie brauchen einen festen Ort und eine zuständige Person. Veraltet ein Ordner, arbeitet die KI mit veralteten Angaben.
Die Prüffrage für Ihr Unternehmen
Steht die Betreuung Ihres KI-Piloten in einer Stellenbeschreibung, einer Zielvereinbarung oder einem Rollenplan? Oder nur im Kopf einer Person?
Wenn nur im Kopf, reichen Urlaub, Krankheit oder ein Stellenwechsel, und niemand pflegt die KI mehr. Jede der drei Rollen braucht einen Namen, eine Vertretung und ein festes Zeitbudget. Leicht ist das nicht: In der Bitkom-Befragung zu Künstlicher Intelligenz 2025 nennen 51 Prozent der Unternehmen fehlendes Personal als Hemmnis für den KI-Einsatz.
Frage 2: Wer bemerkt Fehler, bevor der Kunde es tut?
Im Pilot fallen Fehler auf, weil jemand jeden Vorgang ansieht. Im Betrieb fällt diese Aufmerksamkeit weg. Dann bemerkt Fehler nur noch, wer gezielt danach sucht. Oder der Kunde.
Zurück zum Praxisbeispiel
Eine Anfrage enthält einen konkreten Auftrag, ist aber knapp formuliert und hat einen ungewöhnlichen Betreff. Die KI stuft sie als Informationsanfrage ein. Die beantwortet sie seit dem Regelbetrieb selbst: freundliche Standardantwort, Produktbroschüre im Anhang.
Im Pilot hätte der Pilot-Champion das am selben Tag gesehen. Jetzt sieht es niemand. Der Kunde wartet auf ein Angebot, bekommt eine Broschüre und bestellt woanders. Im System steht: Anfrage beantwortet. Solche Fehler erzeugen keine Fehlermeldung.
Vier Stellschrauben
Freigabe-Stufen festlegen. Legen Sie für jede Aufgabe fest, was die KI allein erledigen darf und was erst nach menschlicher Freigabe rausgeht. Im Beispiel: Einsortieren und Antworten auf reine Informationsanfragen darf die KI allein. Alles, was nach Auftrag, Preis oder Reklamation aussieht, geht als Entwurf an eine Person. Verbindliche Aussagen zu Preisen, Lieferterminen oder Verfügbarkeit gehören nicht in automatische Antworten. Die Grenze gehört dorthin, wo ein Fehler Geld oder Vertrauen kostet.
Stichproben statt Vollkontrolle. Es reicht, regelmäßig eine feste Zahl zufällig gezogener Vorgänge durchzusehen, vor allem aus dem Teil, den die KI allein erledigt. Dort landen die falsch einsortierten Aufträge. Die Prüffrage lautet nicht, ob die Antwort gut formuliert ist. Sie lautet: Hätte eine erfahrene Kollegin den Vorgang genauso eingeordnet?
Einen Rückmeldeweg schaffen. Wer täglich mit den Ergebnissen arbeitet, sieht Fehler zuerst und braucht einen festen Ort für Meldungen, eine zuständige Person und eine kurze Rückmeldung. Fehlt dieser Weg, korrigieren die Leute Fehler stillschweigend von Hand. Das Problem bleibt, nur sieht es keiner mehr.
Mit schleichender Verschlechterung rechnen. KI-Ergebnisse können sich ändern, ohne dass im Unternehmen jemand etwas umgestellt hat. Eine Studie aus dem Jahr 2023 hat zwei Versionen von GPT-4 dieselbe Aufgabe gestellt: Die Version vom März 2023 erkannte Primzahlen mit 84 Prozent Genauigkeit, die Version vom Juni 2023 mit 51 Prozent. Die Autoren raten deshalb zu laufender Überwachung. Dasselbe gilt für Ihre eigenen Daten: Ändern sich Sortiment oder Preise, passen die Anweisungen womöglich nicht mehr.
Ein Prüfrhythmus statt eines Monitoring-Projekts
Dafür brauchen Sie weder ein Dashboard noch ein IT-Projekt. Bei einer risikoarmen Aufgabe wie dieser reicht für den Anfang ein fester Rhythmus mit benannter Zuständigkeit. Je größer die möglichen Folgen eines Fehlers, desto engmaschiger sollte die Kontrolle sein:
- Wöchentlich: eine Zufallsstichprobe aus den Vorgängen, die die KI allein erledigt. Befunde kurz festhalten.
- Monatlich: gemeldete Fehler durchgehen und entscheiden, ob Anweisungen, Beispiele oder Freigabe-Stufen angepasst werden.
- Bei jeder Änderung: Wechselt der Anbieter das Modell oder ändern sich Sortiment, Preise oder Prozesse, laufen bekannte Testfälle erneut durch. Im Beispiel wären das etwa zehn typische Anfragen mit feststehender Einordnung, darunter mindestens ein knapp formulierter Auftrag. Stammen sie aus echten Kundenmails, entfernen Sie Namen und Kontaktdaten vorher.
Das kostet wenig Zeit, aber jemand muss sie einplanen.
Frage 3: Was kostet die KI, wenn sie läuft?
Im Pilot war die Rechnung überschaubar: Lizenz oder Nutzung, vielleicht etwas Hilfe bei der Einrichtung. Die Zeit des Pilot-Champions stand auf keiner Rechnung. Pilotkosten taugen darum nicht als Maßstab für Betriebskosten.
Auch große Organisationen verschätzen sich hier. Gartner prognostizierte im Juli 2024, dass mindestens 30 Prozent der Projekte mit generativer KI bis Ende 2025 nach dem Machbarkeitsnachweis aufgegeben werden. Als Gründe nannte das Analysehaus schlechte Datenqualität, unzureichende Risikokontrollen, steigende Kosten und unklaren Geschäftsnutzen. Im Oktober 2024 legte Gartner nach: Wer nicht versteht, wie die KI-Kosten mit der Nutzung wachsen, kann sich in der Kostenrechnung um 500 bis 1.000 Prozent verschätzen.
Rechnen Sie deshalb Posten für Posten.
Die Posten, die Sie selbst beziffern sollten
1. Nutzungsabhängige Modell- oder Lizenzkosten. Viele KI-Dienste rechnen nach Menge ab: Zahl der Anfragen, Länge der Texte, Zahl der Nutzer. Im Beispiel lief im Pilot ein Postfach über einige Wochen. Im Betrieb kommen das Kontaktformular und die Hochsaison dazu. Ihre Frage: Wie rechnet unser Anbieter ab, und was passiert mit der Rechnung, wenn das Volumen steigt?
2. Interne Betreuungszeit. Die Aufgaben aus Frage 1 und 2: fachliche Verantwortung, technische Betreuung, Stichproben, Rückmeldungen. Kein anderer Posten bleibt im Pilot so zuverlässig unsichtbar. Ihre Frage: Wie viele Stunden pro Monat, von wem, zu welchem internen Stundensatz?
3. Pflege der Anweisungen und Daten. Die drei Ordner veralten. Führt das Unternehmen eine neue Produktlinie ein, sortiert die KI Anfragen dazu erst richtig ein, wenn jemand Anweisungen und Beispiele angepasst hat. Ihre Frage: Wer pflegt die Ordner, bei welchem Anlass, wie oft?
4. Anpassungen bei Modell-, Preis- oder Anbieterwechseln. Tauscht der Anbieter das Modell aus, ändert er die Preise oder wechseln Sie selbst den Anbieter, müssen Anweisungen überprüft, Testfälle wiederholt und Anbindungen womöglich umgebaut werden. Ihre Frage: Wer prüft nach einer Änderung, ob die Ergebnisse noch stimmen, und wie viel Zeit planen wir dafür ein?
5. Schulung neuer Mitarbeitender. Neue Kolleginnen und Kollegen müssen lernen, KI-Entwürfe zu prüfen, statt sie zu übernehmen. Dahinter steht auch eine gesetzliche Pflicht zur KI-Kompetenz (mehr dazu in Frage 4). Ihre Frage: Wie lange dauert die Einarbeitung, und wer übernimmt sie?
Setzen Sie hinter jeden Posten eine grobe Schätzung und einen Namen. Ein Posten ohne Eigentümer fällt erst auf, wenn die Rechnung kommt oder die Qualität sinkt.
Frage 4: Wer haftet, wenn etwas schiefgeht?
Im Beispiel nennt ein Antwortentwurf eine falsche Lieferfrist, und der Kunde plant damit. Wer trägt die Folgen? Gegenüber dem Kunden ist nach unserer Einschätzung in aller Regel Ihr Unternehmen der erste Ansprechpartner. Die KI liefert den Entwurf, die Entscheidung, ihn zu verschicken, trifft Ihr Unternehmen. Ob und in welchem Umfang Sie tatsächlich haften und ob Sie Ihren Anbieter in Anspruch nehmen können, hängt vom Einzelfall ab: vom Vertrag, von der konkreten Aussage, vom Verschulden und vom Schaden.
Ein Fall aus Kanada zeigt, wie ein Gericht das sehen kann. Das Civil Resolution Tribunal, ein Streitbeilegungsgericht in British Columbia, hat 2024 über den Chatbot einer Fluggesellschaft entschieden, der falsche Auskünfte zu Sondertarifen gegeben hatte (2024 BCCRT 149). Die Fluggesellschaft argumentierte, der Chatbot sei eine eigenständige Einheit. Das Tribunal wies das zurück und sah das Unternehmen in der Haftung für fahrlässige Falschauskunft. Der zugesprochene Betrag war mit 812,02 kanadischen Dollar klein. Das Prinzip ist es nicht.
Ein vergleichbares Urteil aus Deutschland oder Österreich ist uns nicht bekannt, und übertragen lässt sich der kanadische Fall nicht ohne Weiteres. Sich hinter dem eigenen Werkzeug zu verstecken, ist trotzdem keine tragfähige Strategie.
Was der EU AI Act von Ihnen als Betreiber verlangt
KI-Kompetenz (Art. 4). Die Pflicht gilt seit dem 2. Februar 2025. Mit dem Digital Omnibus zum AI Act, Verordnung (EU) 2026/1744, seit 27. Juli 2026 in Kraft, hat der Gesetzgeber sie neu gefasst: Anbieter und Betreiber von KI-Systemen müssen Maßnahmen ergreifen, die die KI-Kompetenz ihres Personals fördern, angemessen zu Vorkenntnissen und Einsatzkontext. Ein bestimmtes Niveau jedes Einzelnen müssen sie nicht garantieren, ein Zertifikat oder Kursformat ist nicht vorgeschrieben. Für das Beispiel heißt das: Wer Antwortentwürfe freigibt, sollte wissen, wo die KI typischerweise danebenliegt. Halten Sie fest, wer wann wie geschult wurde.
Transparenz (Art. 50). Die Transparenzpflichten des AI Act gelten seit dem 2. August 2026. Für Systeme, mit denen Menschen direkt interagieren (Abs. 1), hat der Omnibus nichts verschoben. Nur für die Kennzeichnung KI-erzeugter Inhalte (Abs. 2) gilt bei Systemen, die schon vor dem 2. August 2026 in Verkehr waren, eine Übergangsfrist bis zum 2. Dezember 2026. Die Hinweispflicht nach Abs. 1 trifft in erster Linie den Anbieter des Systems; sie entfällt, wenn für die Nutzer ohnehin offensichtlich ist, dass sie mit einer KI kommunizieren. Antwortet die KI selbst, wie bei den Informationsanfragen im Beispiel, oder läuft ein Chatbot auf Ihrer Website, lassen Sie prüfen, ob Sie Anbieter oder Betreiber sind und welche Hinweise nötig sind. Zentrale Aufsichtsbehörde in Deutschland ist nach dem deutschen Durchführungsgesetz zum AI Act (KI-MIG, seit Ende Juli 2026 verkündet) die Bundesnetzagentur.
Hochrisiko-Systeme (Art. 26). Für Betreiber hochriskanter KI-Systeme sieht Art. 26 weitergehende Pflichten vor, darunter menschliche Aufsicht durch befugte Personen, Überwachung des Betriebs und die Aufbewahrung der automatisch erzeugten Protokolle, soweit sie unter ihrer Kontrolle stehen, für mindestens sechs Monate, vorbehaltlich anderer Vorgaben etwa aus dem Datenschutzrecht. Für Systeme aus Anhang III greifen sie durch den Omnibus erst ab dem 2. Dezember 2027. Eine KI, die nur allgemeine Angebotsanfragen vorsortiert, fällt in aller Regel nicht darunter. Maßgeblich sind aber Zweck und tatsächlicher Einsatz; in Bereichen wie Personalauswahl oder Kreditprüfung kann eine ähnliche Sortierfunktion anders einzuordnen sein. Als Vorlage für ordentlichen Betrieb taugt die Liste trotzdem.
Haftung außerhalb des AI Act
Ein eigenes EU-Gesetz zur KI-Haftung gibt es nicht: Die EU-Kommission hat ihren Entwurf einer KI-Haftungsrichtlinie 2025 zurückgezogen. Wichtig wird die neue Produkthaftungsrichtlinie (EU) 2024/2853. Sie behandelt Software und KI-Systeme ausdrücklich als Produkte, Updates eingeschlossen, und muss bis zum 9. Dezember 2026 in nationales Recht umgesetzt sein. Sie gilt nur für Produkte, die nach diesem Tag in Verkehr gebracht werden; für ältere bleibt es beim bisherigen Produkthaftungsrecht. Die Haftung für falsche Auskünfte wie im kanadischen Fall beruht auf einer anderen Rechtsgrundlage.
Daneben gilt der Datenschutz. Anfragen per E-Mail und Kontaktformular enthalten personenbezogene Daten, etwa Namen und Kontaktdaten der Ansprechpartner. Rechtsgrundlage, Vertrag zur Auftragsverarbeitung mit dem Anbieter, Speicher- und Löschfristen und ein möglicher Datentransfer in Drittländer müssen nach der DSGVO geklärt sein, bevor echte Anfragen durch die KI laufen. Die Übergabe-Checkliste unten ersetzt diese Prüfung nicht.
Was das für Ihren Betrieb bedeutet
Aus Betreiber-Sicht helfen drei Fragen:
- Ist festgelegt, welche Ergebnisse der KI ohne menschliche Freigabe nach außen gehen?
- Können Sie belegen, welche Schulungsmaßnahmen es gab?
- Lässt sich im Nachhinein nachvollziehen, welcher Entwurf von der KI kam und wer ihn freigegeben hat?
Wie die einzelnen Fristen greifen, behandeln wir ausführlicher im AI-Act-Betreiber-Check.
Vom Pilot zum Betrieb: eine Übergabe-Checkliste
Gehen Sie diese Liste einmal durch, bevor Sie den Piloten offiziell übergeben, und zwar an einem konkreten Workflow, nicht an „der KI“ im Allgemeinen. Jede Frage lässt sich mit Ja oder Nein beantworten. Ein Nein heißt nicht, dass Sie stoppen müssen. Es zeigt, wo noch jemand entscheiden muss.
Zuständigkeit
- Ist eine Person namentlich fachlich verantwortlich, also diejenige, die festlegt, wie Anfragen sortiert und beantwortet werden?
- Ist geklärt, wer Zugänge, Anbindungen und Updates technisch betreut?
- Ist festgelegt, wer Geschäftskontext, Daten und Arbeitsanweisungen pflegt?
- Stehen diese Aufgaben mit Zeitbudget und Vertretung in einer Rollenbeschreibung?
Freigabe und Kontrolle
- Ist schriftlich festgelegt, was die KI allein darf und was erst nach Freigabe das Haus verlässt?
- Gibt es einen festen Prüfrhythmus mit Zufallsstichproben und einer zuständigen Person?
- Wissen die Mitarbeitenden, wo sie einen Fehler der KI melden, und kommt die Meldung an?
- Laufen nach jeder Änderung an Modell, Anweisungen oder Datenquellen bekannte Testfälle erneut durch?
Kosten
- Hat jeder laufende Kostenposten einen Eigentümer, von der Nutzung über die Betreuungszeit bis zur Schulung?
- Ist die Betreuungszeit, die im Pilot im Engagement einer Person steckte, jetzt als Aufwand erfasst?
- Gibt es eine Schwelle, ab der steigende Kosten eine Überprüfung des Workflows auslösen?
Dokumentation und Kompetenz
- Sind die Arbeitsanweisungen so dokumentiert, dass eine andere Person sie ohne den Pilot-Champion versteht und ändern kann?
- Gibt es eine einfache Aufstellung, wer wann was gelernt hat?
- Ist der Datenschutz für den Workflow geprüft, von der Rechtsgrundlage bis zum Vertrag zur Auftragsverarbeitung?
Ausstieg und Abschaltung
- Gibt es einen Plan, wie der Workflow abgeschaltet wird, und ist geklärt, wer das entscheidet?
- Läuft der Prozess weiter, wenn die KI eine Woche ausfällt? Wer sortiert dann die Anfragen?
- Ist festgelegt, was bei einem Ausstieg mit Daten, Anweisungen und Beispielen passiert?
Wie viele Nein Sie akzeptieren, entscheiden Sie. Zuständigkeit und Freigabe gehören aber vor den Regelbetrieb geklärt. Der Rest darf auf eine Liste, aber jeweils mit Namen und Termin.
Was Montag früh anders läuft
Ein KI-Workflow im Regelbetrieb fällt kaum auf, weil die offenen Fragen beantwortet sind. Im Beispiel sieht der Montagmorgen dann so aus:
- Zuständigkeit: Die Leitung des Vertriebsinnendienstes weiß, dass der Workflow zu ihrem Bereich gehört. Technik und die drei Ordner haben je eine benannte Person.
- Fehler: Auftrag, Preis und Reklamation gehen nie ohne Mensch raus. Montags zieht jemand eine Zufallsstichprobe aus den Anfragen, die die KI in der Vorwoche selbst beantwortet hat.
- Kosten: Nutzung, Betreuung und Pflege stehen mit Verantwortlichem im Budget. Eine Preisänderung des Anbieters ist eine Budgetfrage, keine Überraschung.
- Verantwortung: Alle wissen, dass die KI Entwürfe liefert und das Unternehmen entscheidet.
Nichts davon ist aufwendig. Nichts davon läuft von allein.
Ergibt die Checkliste bei Ihnen mehr Nein als Ja, wissen Sie, wo die Arbeit nach dem Piloten liegt. Wenn Sie das mit jemandem durchgehen möchten, der auf den Betrieb schaut statt auf das nächste Werkzeug: In der AI-Diagnose machen wir genau diese Bestandsaufnahme. Wer kümmert sich bei Ihnen ab Montag?
Häufige Fragen
Wann ist ein KI-Pilot bereit für den Regelbetrieb? Wenn Sie die vier Betriebsfragen mit Namen und Terminen beantworten können: Betreuung, Fehlerkontrolle, laufende Kosten, Verantwortung.
Brauchen wir für den Betrieb von KI eine eigene Stelle oder reicht eine Zusatzrolle? Für einen einzelnen Workflow kann eine Zusatzrolle reichen, wenn sie ausdrücklich vergeben ist und ein festes Zeitbudget hat.
Wie prüfen wir die Qualität von KI-Ergebnissen, ohne jeden Vorgang zu kontrollieren? Mit Freigabe-Stufen, regelmäßigen Zufallsstichproben, einem Meldeweg für Mitarbeitende und wiederholten Testfällen nach jeder Änderung.
Welche laufenden Kosten entstehen nach der Einführung, die im Pilot nicht sichtbar waren? Vor allem die interne Betreuungszeit, dazu Pflege von Anweisungen und Daten, Anpassungen bei Modell- oder Anbieterwechseln und Schulung. Beziffern Sie jeden Posten selbst.
Wer ist verantwortlich, wenn eine KI im Unternehmen einen Fehler macht? Gegenüber Kunden nach unserer Lesart in aller Regel zuerst das Unternehmen, das die KI einsetzt. Ob es tatsächlich haftet und ob es Rückgriff beim Anbieter nehmen kann, hängt vom Einzelfall ab.
Was verlangt der EU AI Act von Unternehmen, die KI einsetzen? Seit Februar 2025 eine Pflicht zur KI-Kompetenz, seit dem Digital Omnibus als Pflicht, Maßnahmen zur Förderung der KI-Kompetenz zu ergreifen. Seit August 2026 gelten die Transparenzpflichten, mit einer Übergangsfrist bis Dezember 2026 nur für die Kennzeichnung KI-erzeugter Inhalte bei älteren Systemen. Die weitergehenden Betreiberpflichten für Hochrisiko-Systeme nach Anhang III greifen ab Dezember 2027.
Dieser Beitrag ist keine Rechtsberatung. Für Ihren konkreten Fall ziehen Sie bitte Ihre Rechtsberatung hinzu.
Quellen
- MIT NANDA: The GenAI Divide: State of AI in Business 2025 (Bericht, PDF)
- Bitkom: Presseinformation zur KI-Studie (September 2025)
- arXiv: How is ChatGPT’s behavior changing over time? (2023)
- Gartner: Prognose zu abgebrochenen GenAI-Projekten nach dem Proof of Concept (Pressemitteilung vom 29.07.2024)
- Gartner via Business Wire: Four Emerging Challenges to Delivering Value from AI (21.10.2024)
- Civil Resolution Tribunal British Columbia: Entscheidung 2024 BCCRT 149, CanLII
- Verordnung (EU) 2026/1744 (Digital Omnibus zur KI), Amtsblatt der EU
- Verordnung (EU) 2024/1689 (AI Act), EUR-Lex
- IAPP: EU-Kommission zieht die KI-Haftungsrichtlinie zurück
- Richtlinie (EU) 2024/2853 (Produkthaftung), EUR-Lex