KI im Mittelstand: vom Test in den Betrieb, und warum die Reihenfolge der Hürden zählt

Ausprobiert ist nicht eingeführt

In den meisten Geschäftsführungen ist KI längst getestet. Offen ist, was nach dem Test kommt.

Ein Chat-Zugang, ein Pilot in einer Abteilung, ein Workshop mit dem Führungskreis. Das ist Ausprobieren. Eingeführt ist KI erst, wenn ein Prozess regelmäßig damit läuft, jemand dafür verantwortlich ist und das Ergebnis gemessen wird.

Wie viele Betriebe diesen Schritt geschafft haben, weiß niemand genau. Oft liest man, nur jeder fünfte Mittelständler nutze KI. Die Zahl von rund 20 Prozent stammt von der KfW: Laut KfW Research (11.02.2026) setzten im Zeitraum 2022 bis 2024 rund 20 Prozent der mittelständischen Unternehmen KI ein, etwa 780.000 Betriebe. Gezählt wird jede Form des Einsatzes, nicht nur der produktive.

Die Verbandsumfragen messen anders. Bitkom meldete im September 2025, dass 36 Prozent der Unternehmen ab 20 Beschäftigten KI nutzen, nach 20 Prozent im Vorjahr. Weitere 47 Prozent planen oder diskutieren den Einsatz.

Keine dieser Quellen trennt „getestet“ von „im Betrieb verankert“. Einen qualitativen Hinweis gibt das IW Köln (dazu gleich). Die Lücke zwischen Test und Betrieb sehen wir immer wieder.

Rückständig ist der Mittelstand deshalb nicht. Er ist vorsichtig. Ein Unternehmen ohne Datenteam und ohne Reserve in der IT holt nicht jedes neue Werkzeug in den Betrieb, nur weil es verfügbar ist. Schwierig wird es erst, wenn aus Vorsicht Stillstand wird, weil niemand weiß, wie der nächste Schritt aussieht.

Was „aktiv nutzen“ im Betrieb bedeutet

„Ein Unternehmen nutzt KI“ sagt wenig darüber, wie tief die Nutzung reicht. Das IW Köln (IW-Report 33/2025, 04.07.2025) beschreibt den Einsatz als meist punktuell, auf einzelne Unternehmensbereiche begrenzt und überwiegend mit kostenlosen Tools. Das Institut wertet die Nutzung insgesamt als eher oberflächlich.

Unsere Arbeitsdefinition: Ein Unternehmen nutzt KI aktiv, wenn mindestens ein Geschäftsprozess regelmäßig mit KI läuft, eine namentlich verantwortliche Person hat und sein Ergebnis gemessen wird.

Drei Stufen machen den Unterschied sichtbar:

• Ausprobiert: Einige Mitarbeitende haben Zugang zu einem Chat-Tool und fassen damit gelegentlich Dokumente zusammen. Wer es wie nutzt, weiß niemand genau.
• Pilot: Ein Team testet einige Wochen lang Angebotsentwürfe. Danach gibt es eine Präsentation, aber keinen Entscheid.
• Im Betrieb: Eingehende Anfragen werden jeden Montag mit KI vorsortiert. Eine Person im Vertriebsinnendienst ist zuständig und prüft. Festgelegt ist, was ohne Freigabe rausgehen darf. Durchlaufzeit und Fehlerquote werden verfolgt.

Das Tool kann in allen drei Fällen dasselbe sein.

Drei Fragen zur Selbsteinschätzung:

1. Gibt es einen Prozess, der ohne einzelne Enthusiasten jede Woche mit KI läuft?
2. Können Sie eine Person nennen, die für Ergebnis und Freigaben geradesteht?
3. Wissen Sie, wie lange der Prozess vorher gedauert hat und wie lange heute?

Dreimal Ja: Sie betreiben KI. Sonst sind Sie in der Testphase. Das ist kein Versäumnis. Es fehlt nur der nächste Schritt.

Die drei Hürden laut Bitkom und DIHK

Warum kommt KI in vielen Betrieben nicht über den Test hinaus? Die Technik wird dabei selten genannt. Es geht um Menschen, Zeit und Regeln.

Bitkom (Presseinformation vom 15.09.2025, 604 Unternehmen ab 20 Beschäftigten). Drei Hemmnisse liegen fast gleichauf (Quelle):

• rechtliche Hürden und Unklarheiten: 53 %
• fehlendes technisches Know-how: 53 %
• fehlende personelle Ressourcen: 51 %

Knapp dahinter folgen Anforderungen des Datenschutzes (48 %). Das ist keine reine Mittelstandsstudie. Für Betriebe mit 50 oder 200 Mitarbeitenden dürften die Werte trotzdem vertraut klingen.

DIHK-Digitalisierungsumfrage 2026 (4.686 Unternehmen, befragt im November 2025). Die DIHK fragt nach Herausforderungen der Digitalisierung insgesamt, nicht nur bei KI. 58 % der Unternehmen nennen Zeit, 56 % die Komplexität, knapp ein Drittel rechtliche Unsicherheiten (Quelle).

Nebeneinandergelegt ergeben sich drei Hürden:

1. Kompetenz. Bitkom: „fehlendes technisches Know-how“. Im Betrieb heißt das: Niemand im Haus kann sicher beurteilen, welcher Prozess sich für KI eignet.
2. Kapazität. Bitkom: „fehlende personelle Ressourcen“, DIHK: Zeit als größte Herausforderung. Die Leute, die die Prozesse kennen, stecken im Tagesgeschäft. Für einen Pilot reicht die Zeit, für den Regelbetrieb oft nicht mehr.
3. Recht und Regeln. Bei Bitkom gleichauf an der Spitze, bei der DIHK von knapp einem Drittel genannt und auf Digitalisierung allgemein bezogen.

Und die Kosten? Viele erwarten sie auf dieser Liste. Sie stehen dort, aber nicht an der Spitze: Bitkom nennt fehlendes Budget mit 36 %, die DIHK Geld mit 40 %, jeweils deutlich hinter den erstgenannten Hürden. Die Ausgabenpläne bei Bitkom deuten eher auf Zurückhaltung als auf Ablehnung: Unter den Unternehmen, die KI nutzen, planen oder diskutieren, wollen 29 % ihre KI-Ausgaben erhöhen, 60 % halten sie stabil, 5 % senken sie. Die Kostenfrage gehört deshalb ans Ende der Kette.

Warum die Reihenfolge entscheidet

In den Umfragen stehen die Hürden nebeneinander. Im Betrieb hängen sie voneinander ab. Was folgt, ist unsere Herleitung.

Erster Weg: Sie beginnen mit der Kostenfrage

Viele Geschäftsführungen starten mit einer Kosten-Nutzen-Rechnung. Das ist nachvollziehbar. Die Kosten lassen sich schnell beziffern: Lizenzen, Einführung, interne Stunden. Beim Nutzen fehlt die Grundlage, denn niemand im Haus weiß, welcher Prozess sich eignet und was sich konkret ändern würde.

Also wird mit vorsichtigen Annahmen gerechnet. Vorsichtige Annahmen gegen feste Kosten ergeben in der Regel: „lohnt sich nicht“ oder „noch nicht“.

Schwerer wiegt etwas anderes: Die Rechnung berührt keine der drei Hürden. Die Kompetenz fehlt weiter. Die Kapazität bleibt ungeplant. Und die Rechtsfrage bleibt abstrakt, weil niemand sagen kann, welche Daten in welches System sollen.

Zweiter Weg: Sie beginnen mit Kompetenz

Zwei oder drei Personen, die ihre Prozesse gut kennen, lernen zuerst, mit KI zu arbeiten. Sie merken, wo KI in ihrer Arbeit Zeit spart und wo sie Fehler macht. Am Ende steht eine kurze Liste konkreter Anwendungsfälle.

Damit wird die Kapazitätsfrage planbar: feste Stunden für einen bestimmten Prozess statt „Zeit für KI“. Für diesen Prozess lässt sich der Nutzen messen. Die Rechtsfrage wird ebenfalls konkret: bestimmte Daten, ein bestimmtes System, eine verantwortliche Person. Und aus „Lohnt sich KI?“ wird „Lohnt sich dieser Anwendungsfall?“. Diese Frage beantworten Sie mit eigenen Zahlen.

Ein Teil der Rechtsunsicherheit folgt aus fehlender Kompetenz. Wer nicht weiß, was ein Werkzeug mit den eigenen Daten macht, kann auch die Rechtslage nicht einschätzen. Daraus ergibt sich die Kette:

Kompetenz im Team (Schritt 1) → ein gemessener Workflow, der in die verfügbare Zeit passt (Schritt 2) → Recht und Freigaben als konkrete Detailfragen (Schritt 3) → Kostenentscheid auf Basis eigener Zahlen

Wer bei den Kosten anfängt, bewertet etwas, das es im eigenen Betrieb noch nicht gibt.

Schritt 1: Kompetenz aufbauen, bevor Tools gekauft werden

Der naheliegende erste Schritt ist ein Lizenzvertrag. Wir empfehlen einen anderen: Bestimmen Sie zwei bis drei Personen, die Ihre Prozesse im Detail kennen. Selten die IT-Verantwortlichen. Meist die Leute, die heute Angebote schreiben, Reklamationen bearbeiten oder Anfragen sortieren.

Warum so klein? Weil fehlendes Know-how und fehlende Zeit zusammen auftreten. Ein großes Schulungsprogramm soll die erste Hürde lösen und verschärft die zweite. Ein kleines Team, das an einem echten Prozess lernt, bindet wenig Kapazität. Geben Sie ihm feste Stunden im Kalender, sonst bleibt das Lernen ein Nebenbei-Versuch.

Gelernt wird am eigenen Material, zunächst nur mit unkritischen Inhalten wie öffentlichen Produktinformationen oder anonymisierten Beispielen.

Das Drei-Ordner-Prinzip

Für den Einstieg brauchen Sie keine Plattform. Es reicht eine einfache Ordnung, die das Team parallel zu den ersten Versuchen anlegt:

1. Geschäftskontext. Kunden, Angebot, Tonalität, interne Regeln. Das Wissen, das eine neue Kollegin in den ersten Wochen aufnimmt. Ohne diesen Kontext liefert KI allgemeine Antworten statt Antworten für Ihr Unternehmen.
2. Daten. Die Unterlagen, mit denen ein Prozess arbeitet: Preislisten, Produktblätter, frühere Angebote, typische Anfragen. Hier zeigt sich schnell, wo die Datenqualität fehlt.
3. Arbeitsanweisungen. Die Schritte, die ein Mensch heute ausführt: Was kommt rein, was wird geprüft, was geht raus, wer gibt frei? Diese Beschreibung ist die Vorlage, nach der eine KI später arbeitet.

Wer die Ordner füllt, muss einen Prozess so genau beschreiben, dass ein Außenstehender ihn versteht. Genau dabei entsteht die Kompetenz, die beim Toolkauf fehlt. Und die Ordnung ist an kein Werkzeug gebunden. Wechseln Sie später das System, bleiben Kontext, Daten und Anweisungen erhalten.

Kompetenz ist auch Pflicht

Seit dem 2. Februar 2025 verlangt der AI Act (Artikel 4), dass Unternehmen, die KI einsetzen, für ausreichende KI-Kompetenz ihrer Mitarbeitenden sorgen. Ein gezielt aufgebautes Kernteam zahlt also auf den Betrieb ein und auf diese Pflicht. Was sonst für Betreiber gilt, steht in Schritt 3.

Schritt 2: Der erste Workflow, bei dem sich der Nutzen rechnen lässt

Der erste produktive Anwendungsfall entscheidet, ob KI im Haus als Arbeitsmittel oder als Experiment gilt. Wählen Sie ihn nicht nach dem größten denkbaren Hebel. Wählen Sie ihn danach, ob sich der Nutzen belegen lässt und ob Ihr Team die Zeit hat.

Fünf Kriterien für den ersten Workflow

1. Häufig. Täglich oder mehrmals pro Woche. Was einmal im Quartal passiert, liefert zu wenige Durchläufe.
2. Regelbasiert. Die Regeln lassen sich aufschreiben. Entscheidet Ihre erfahrenste Mitarbeiterin nur „aus dem Bauch“, ist der Prozess für den Anfang zu offen.
3. Messbar. Sie wissen, wie lange ein Vorgang dauert und wie oft nachgearbeitet wird. Fehlt die Zahl, erheben Sie sie vor dem Start.
4. Eine verantwortliche Person. Namentlich benannt, zuständig mit KI und ohne. Ein Gremium ist zu langsam.
5. Klare Freigabestufe. Vorher festgelegt: Was darf die KI allein, was gibt ein Mensch frei? Für den Einstieg empfehlen wir die vorsichtigste Stufe. Die KI bereitet vor, ein Mensch prüft.

Kapazität einplanen, bevor der Workflow startet

Viele Piloten liefern ein brauchbares Ergebnis, und danach hat niemand Zeit für den Regelbetrieb. Planen Sie vorher, wer wie viele Stunden pro Woche für Prüfung, Korrekturen und Pflege der Anweisungen aufwendet. Am Anfang kostet die Prüfung Zeit, bevor sie Zeit spart.

• Ein Workflow, nicht fünf.
• Zeit umwidmen statt draufpacken. Klären Sie, welche Aufgabe dafür liegen bleibt.
• Passt es nicht, wählen Sie kleiner. Lieber ein Teilschritt als ein verschobener Start.

Ein typisches Muster

Eingehende Anfragen eignen sich oft als erster Workflow. Heute liest eine Person jede Anfrage, ordnet sie zu, ergänzt Informationen aus dem CRM und leitet weiter. Mit KI schlägt das System Kategorie, zuständige Stelle und einen Antwortentwurf vor. Die verantwortliche Person prüft und gibt frei. Die Zuordnungsregeln liegen im Ordner für Arbeitsanweisungen.

Das passt zu dem, wofür Betriebe KI bereits einsetzen. In der DIHK-Digitalisierungsumfrage 2026 nennen die KI nutzenden Unternehmen nach generativer KI für Texte, Bilder oder Code (78 %) am häufigsten personalisierte Kundenansprache und Kundensupport (43 %).

Messen statt schätzen

Eine Rendite-Rechnung vor dem Start beruht auf Annahmen, die sich kaum begründen lassen. Verlässlicher ist ein Vorher-nachher-Vergleich an drei Werten:

• Zeit pro Vorgang: Wie viele Minuten Arbeit stecken in einer Anfrage?
• Durchlaufzeit: Wie lange vom Eingang bis zur Antwort?
• Fehler und Nacharbeit: Wie oft wird falsch zugeordnet oder korrigiert?

Erheben Sie die Werte einige Wochen vor dem Start, dann über denselben Zeitraum mit KI. Zählen Sie die Prüfzeit ehrlich mit. Heraus kommt eine Zahl aus Ihrem Betrieb, keine Hochrechnung.

Was das IW Köln zur Produktivität sagt

Die Frage jeder Geschäftsführung: Wie viel produktiver macht KI? Die Antwort des IW ist nüchtern. Im Gutachten „Wie wird KI die Produktivität in Deutschland verändern?“ (18.03.2025) projiziert es für 2025 bis 2030 ein Produktivitätswachstum von 0,9 Prozent pro Jahr, für 2030 bis 2040 von 1,2 Prozent. Ein Produktivitätswunder ist das nicht, und die Gewinne stellen sich laut IW nicht automatisch ein.

Drei Grenzen sollten Sie kennen:

• Projektion statt Messung. Die Werte sind eine Modellrechnung für die Gesamtwirtschaft. Über Ihren Betrieb sagen sie nichts.
• Selbstauskunft statt Beobachtung. In der DIHK-Umfrage stufen 41 % der KI nutzenden Betriebe den Einfluss auf ihre Produktivität als hoch ein. Das ist eine Einschätzung, keine Messung.
• Zusammenhang ist nicht Ursache. Laut IW-Report 33/2025 nutzen große Unternehmen KI zu 66 Prozent, kleine zu 36 Prozent. Warum, klärt die Zahl nicht. Gut organisierte Unternehmen führen KI vermutlich eher ein. Ob KI sie produktiver macht oder ob sie es schon vorher waren, trennt keine Umfrage.

Belastbar für Ihren Betrieb ist nur der eigene Vorher-nachher-Wert aus Schritt 2.

Schritt 3: Governance und Recht mitlaufen lassen

Rechtsunsicherheit steht bei Bitkom gleichauf an der Spitze der Hemmnisse. Die Sorge ist berechtigt. Warten, bis alle Rechtsfragen abschließend geklärt sind, heißt aber: nicht anfangen. Governance muss nicht vor dem ersten Workflow fertig sein. Sie wächst mit ihm, von Anfang an und in kleinem Umfang.

Für den ersten Anwendungsfall reichen drei Festlegungen auf einer Seite:

• Wer gibt frei? Eine benannte Person entscheidet. Am Anfang gilt: Alles, was das Haus verlässt, sieht vorher ein Mensch.
• Welche Daten dürfen in welches System? Eine Liste genügt: unkritisch, personenbezogen, vertraulich, und welches Werkzeug was verarbeiten darf. Damit beantworten Sie auch die häufigste Frage im Team: „Darf ich das hier eingeben?“
• Wer protokolliert? Festhalten, welches Werkzeug in welchem Prozess läuft, wer verantwortlich ist und welche Freigaberegel gilt.

Das ist Betriebsorganisation. Sie macht auch die Gespräche mit Datenschutzbeauftragten oder Betriebsrat konkreter: Gesprochen wird über einen Prozess mit bekannten Daten und einer verantwortlichen Person, nicht über „KI“ im Allgemeinen.

Diese Seite ersetzt keine rechtliche Prüfung. Welche Pflichten der AI Act für Betreiber vorsieht und welche Fristen gelten, behandeln wir in unserer AI-Act-Betreiber-Serie.

Beratung als Abkürzung statt als weiteres Kostenrisiko

Wer mit Kompetenz anfängt, stößt schnell auf die Kapazitätsfrage. Externe Begleitung kann diese Lücke schließen. Sie kann sie auch vergrößern: wenn am Ende ein Workflow steht, den nur die Berater bedienen können. Dann haben Sie Kosten verschoben und keine Kompetenz aufgebaut.

Die Messlatte: Begleitung lohnt sich, wenn sie Ihrem Team Lernzeit erspart und das Wissen danach bei Ihnen bleibt. Das erkennen Sie vor der Beauftragung an drei Punkten:

• Klar begrenzter Rahmen. Start, Ende, Budget, etwa ein Prozess mit Freigaberegeln. Offene Stundenkontingente ohne Ziel sind ein Warnsignal.
• Ihr Team arbeitet von Anfang an mit. Kontext, Datenquellen und Arbeitsanweisungen sind so dokumentiert, dass Ihr Team den Workflow allein weiterbetreiben kann.
• Ein vereinbarter Messpunkt. Ausgangswert vor dem Start, derselbe Wert nach einigen Wochen. Zeigt sich nichts, sprechen Sie es an, bevor weiteres Budget fließt.

Nicht jedes Unternehmen braucht Begleitung. Haben Sie Leute mit Zeit und Know-how, reicht oft ein strukturierter Start nach den Schritten oben. Den Weg gehen muss ohnehin Ihr Team.

Was Montag früh anders läuft

Für den Einstieg reichen vier Schritte, und sie passen in 30 Tage:

1. Verantwortliche bestimmen und lernen lassen (Woche 1). Zwei bis drei Personen, die den Prozess kennen. Eine davon verantwortet das Ergebnis. Feste Stunden im Kalender. Das Team arbeitet ab der ersten Woche mit einem KI-Werkzeug, zunächst mit unkritischen Inhalten, und legt die drei Ordner an.

2. Einen Prozess auswählen (Woche 1 bis 2). Einen, nicht fünf. Häufig, regelbasiert, messbar, passend zur freigeräumten Zeit. Das Team beschreibt ihn im Ordner für Arbeitsanweisungen.

3. Ausgangswert messen (Woche 2 bis 3). Dauer pro Durchlauf, Durchläufe pro Woche, Nacharbeit. Zwei Wochen Strichliste genügen.

4. Freigaberegeln festlegen und erste Durchläufe starten (Woche 3 bis 4). Die Seite aus Schritt 3 schreiben. Danach laufen die ersten echten Vorgänge mit KI, jeder geprüft und freigegeben.

Den belastbaren Vergleich liefern die Wochen danach, gemessen über denselben Zeitraum wie der Ausgangswert.

Das sieht unspektakulär aus: Ein Prozess hat eine verantwortliche Person, und das Ergebnis wird gemessen. Genau darin liegt der Unterschied zwischen Test und Betrieb.

Wenn Sie vorher einschätzen möchten, wo Ihr Unternehmen steht, nutzen Sie unseren Readiness-Check oder vereinbaren ein unverbindliches Erstgespräch. Die vier Schritte funktionieren auch ohne uns.

Welcher Prozess in Ihrem Haus würde nächsten Montag als erster in Frage kommen?

Häufige Fragen

Wie viele mittelständische Unternehmen nutzen KI tatsächlich produktiv? Bitkom nennt für 2025 36 Prozent KI-Nutzung bei Unternehmen ab 20 Beschäftigten, die KfW rund 20 Prozent im Mittelstand für jeden KI-Einsatz 2022 bis 2024. Test und Betrieb trennt keine dieser Zahlen.

Warum sollten wir mit Kompetenz anfangen und nicht mit der Kostenrechnung? Ohne Erfahrung im Haus beruht jede Kostenrechnung auf Annahmen und löst keine der genannten Hürden. Mit Kompetenz rechnen Sie am Ende mit eigenen Zahlen.

Brauchen wir für den Einstieg ein Datenteam oder eine IT-Abteilung? Nein. Für den Einstieg reichen zwei bis drei Personen, die die Prozesse kennen und feste Zeit dafür bekommen. Die Zeit ist der Engpass: Bitkom nennt fehlende personelle Ressourcen bei 51 Prozent der Unternehmen als Hemmnis.

Welche Pflichten aus dem AI Act gelten schon heute? Seit dem 2. Februar 2025 gilt die Pflicht zur KI-Kompetenz der Mitarbeitenden (Artikel 4). Welche weiteren Pflichten Sie treffen, hängt vom Einsatzzweck ab. Das behandelt unsere AI-Act-Betreiber-Serie.

Wann lohnt sich externe Begleitung beim KI-Einstieg? Wenn sie Ihrem Team Lernzeit spart und das Wissen danach im Haus bleibt. Ein klar begrenzter Rahmen und ein vereinbarter Messpunkt zeigen das vor der Beauftragung.

Dieser Beitrag ist keine Rechtsberatung.

Quellen

• Bitkom: Durchbruch bei Künstlicher Intelligenz, Presseinformation, 15.09.2025
• KfW Research: Pressemitteilung zur KI-Nutzung im Mittelstand, 11.02.2026
• DIHK: Digitalisation 2026: Businesses stay the course, 28.01.2026
• DIHK: Digitalisierung 2026: Unternehmen halten Kurs, 28.01.2026
• DIHK: DIHK-Digitalisierungsumfrage 2026, Auswertung (PDF), Januar 2026
• IW Köln: Künstliche Intelligenz als Wettbewerbsfaktor für die deutsche Wirtschaft, IW-Report 33/2025, 04.07.2025
• IW Köln: Wie wird KI die Produktivität in Deutschland verändern?, Gutachten, 18.03.2025
• Verordnung (EU) 2024/1689 (AI Act): EUR-Lex