Warum die Modellwahl die falsche erste Frage ist
Die Demo überzeugt. Ein KI-Assistent beantwortet in Sekunden eine Angebotsanfrage, die Beispieldaten sind sauber. Offen scheint nur, welches Werkzeug Sie kaufen.
Im eigenen Betrieb sieht es anders aus. Dieselbe Kundenadresse liegt in drei Systemen mit drei Ständen. Die aktuelle Preisliste steht auf dem Netzlaufwerk, eine ältere im Postfach des Vertriebs. Der Assistent gibt jetzt Antworten, die überzeugt klingen und trotzdem falsch sind. Am Modell liegt das nicht. Es liest aus Ihren Daten, und die sind nicht bereit.
Laut Bitkom nutzen 36 % der Unternehmen KI, ein Jahr zuvor waren es 20 %. Weitere 47 % planen oder diskutieren den Einsatz (604 Unternehmen ab 20 Beschäftigten, befragt im Sommer 2025). Als Hemmnisse nennen die Befragten unter anderem fehlendes technisches Know-how (53 %), fehlende personelle Ressourcen (51 %), Anforderungen an den Datenschutz (48 %), die Nachvollziehbarkeit der Ergebnisse (38 %) und deren Qualität (36 %). Mehrere dieser Punkte entscheiden sich an der eigenen Datenlage: Wer darf was sehen, woher stammt eine Antwort, und stimmt sie?
Modelle sind austauschbar, Ihre Datenlage ist es nicht. Was Sie heute auswählen, ersetzen Sie womöglich im nächsten Jahr. Kundenlisten, Preisstände und Zugriffsrechte bleiben. Wer mit der Modellwahl anfängt, trifft die unbequemen Fragen im Pilotbetrieb wieder, wenn Zeit und Budget schon gebunden sind.
Deshalb hier acht Fragen zu Ihren Daten. Vier davon bleiben in Unternehmen ohne eigenes Datenteam besonders leicht liegen. Wir markieren sie als Schwerpunktfragen: Wem gehören die Daten? Welche Quelle gilt als wahr? Wer darf was sehen? Woran messen Sie die Antwortqualität?
So nutzen Sie die Checkliste in etwa einer Stunde
Für einen ersten ehrlichen Blick reicht eine konzentrierte Stunde, wenn drei Dinge vorbereitet sind.
Ein konkreter Anwendungsfall. Prüfen Sie nicht „KI im Unternehmen“, sondern eine Aufgabe, die heute Zeit kostet, etwa Antwortentwürfe auf Angebotsanfragen oder die Suche nach gültigen Verfahrensanweisungen. Alle acht Fragen beziehen sich auf diesen einen Fall.
Drei Perspektiven am Tisch. Die Geschäftsführung entscheidet über Vorrang und benennt Verantwortliche. Eine Person aus dem Fachbereich weiß, welche Liste gepflegt wird und welche nur herumliegt. Wer die IT betreut, intern oder extern, weiß, wo Daten liegen und wer worauf zugreift.
Eine Ampel pro Frage. Grün heißt geklärt, mit Namen und Ort. Gelb heißt lückenhaft oder abhängig von einer einzelnen Person. Rot heißt offen oder widersprüchlich. Im Zweifel gilt die schlechtere Farbe. Zu jedem Gelb und Rot notieren Sie in einem Satz, was fehlt.
Die Stunde ersetzt kein Audit. Aber Sie sehen, wo es wehtut.
Frage 1: Welche Frage soll die KI beantworten?
„Wir wollen KI im Vertrieb nutzen“ ist eine Absicht, kein Anwendungsfall. Welche Daten gebraucht werden, wer sie verantwortet und woran Sie gute Antworten messen, ergibt sich erst aus dem Zweck. Ein gut geschnittener Fall hat eine Nutzergruppe, eine Art von Frage (Sie könnten fünf echte Beispiele aus der letzten Woche aufschreiben), zwei oder drei vermutete Quellen und einen Nutzen für benennbare Personen.
| Zu breit | Eng genug |
|---|---|
| „Die KI soll unseren Vertrieb unterstützen.“ | „Der Innendienst bekommt zu Angebotsanfragen einen Antwortentwurf mit Preisen und Lieferzeiten aus der aktuellen Preisliste.“ |
| „Wir wollen unser Firmenwissen durchsuchbar machen.“ | „Servicetechniker finden zu einer Fehlermeldung die passende Stelle in den Wartungsanleitungen der drei meistverkauften Maschinentypen.“ |
| „Die KI soll den Kundenservice entlasten.“ | „Das Serviceteam beantwortet Rückfragen zum Lieferstatus auf Basis der Auftragsdaten im Warenwirtschaftssystem.“ |
Ein breiter Fall hängt sofort an allen offenen Baustellen. Ein enger hat dieselben Probleme, nur weniger davon.
Ampel für Frage 1:
- Grün: Der Fall steht in einem Satz, mit Nutzergruppe, Art der Frage und Quellen. Alle verstehen dasselbe.
- Gelb: Der Zweck ist klar, Nutzergruppe oder Datenbestand noch nicht.
- Rot: Der Satz beginnt mit „Die KI soll uns generell …“, oder jede Person beschreibt etwas anderes.
Frage 2: Wo liegen die Daten heute wirklich?
Im IT-Überblick stehen zwei oder drei Systeme. Im Alltag verteilt sich das Wissen auf mehr Orte: das CRM (so vollständig, wie der Vertrieb pflegt), das ERP (gepflegt, aber schwer zugänglich), E-Mail-Postfächer mit Sonderkonditionen, Netzlaufwerke mit mehreren Versionen desselben Vertrags, Excel-Listen auf Einzelrechnern und Wissen in Köpfen, etwa welcher Kunde welche Ausnahme bekommt. Wer die Fundorte mit Fachbereich und IT durchgeht, merkt meist: Gerade die letzten drei sind entscheidend und fehlen in der ersten Aufzählung, weil niemand sie als System betrachtet.
Unterscheiden Sie auch die Form. Strukturierte Daten beantworten „Was hat Kunde X im letzten Quartal bestellt?“. Dokumente und Mails beantworten „Welche Gewährleistungsregeln gelten für Produktlinie Y?“. Existiert die entscheidende Information nur in Mails oder Köpfen, verändert das den Aufwand erheblich.
Als Raster helfen drei Ordner: Geschäftskontext (was verkaufen wir an wen, zu welchen Regeln), Daten (Kunden, Aufträge, Dokumente) und Arbeitsanweisungen (Abläufe, Freigaberegeln, Vorlagen). Oft ist nur der Ordner „Daten“ gefüllt. Die KI kennt dann Ihre Preise, aber nicht die Regeln, nach denen Sie Rabatte geben.
Ampel für Frage 2:
- Grün: Alle relevanten Fundorte sind benannt und den drei Ordnern zugeordnet.
- Gelb: Die Fundorte sind bekannt, wichtige Teile liegen aber verstreut in Postfächern oder Einzeldateien.
- Rot: Das entscheidende Wissen steht nirgends, nur bei einzelnen Mitarbeitenden.
Frage 3: Wer besitzt welche Daten?
Schwerpunktfrage 1 von 4.
Fragen Sie in der Runde: Stehen für denselben Kunden zwei Adressen in der Datenbank, wer entscheidet, welche stimmt? Oft folgt Schweigen, dann „das macht der Vertrieb“ oder „das liegt bei der IT“. Daten, die allen gehören, gehören niemandem. Im Alltag gleichen erfahrene Mitarbeitende die Lücken aus dem Kopf aus. Eine KI gleicht nichts aus. Sie liest, was da ist.
Trennen Sie zwei Rollen. Die technische Zuständigkeit betreibt das System und vergibt Zugänge. Die fachliche Verantwortung entscheidet, was inhaltlich stimmt. Die IT kann sicherstellen, dass die Artikeldatenbank läuft, aber nicht, ob die Preise darin stimmen. Ein KI-Projekt braucht die zweite Rolle.
Tragen Sie zu jeder Quelle aus Frage 2 einen Namen ein, keine Abteilung. In „Vertrieb“ verlässt sich jeder darauf, dass ein anderer pflegt. Diese Person gibt nicht jeden Datensatz selbst ein. Sie entscheidet im Zweifel und merkt, wenn die Qualität nachlässt. Hellhörig sollten Sie bei „Das pflegt jeder selbst“ werden. Daraus entstehen für eine KI mehrere Wahrheiten nebeneinander.
Ampel für Frage 3:
- Grün: Für jede benötigte Quelle steht eine Person fest, und sie weiß das.
- Gelb: Namen gibt es nur für einen Teil der Quellen, oder die Zuordnung ist nirgends festgehalten.
- Rot: Die Frage löst eine Diskussion aus, oder die Antwort lautet Abteilung statt Person.
Frage 4: Welche Quelle gilt als wahr?
Schwerpunktfrage 2 von 4.
Im CRM steht die neue Kundenadresse, im ERP noch die alte, in der Excel-Liste des Außendienstes eine dritte mit Tippfehler. Beim Preis dasselbe: Preisliste vom Frühjahr, Angebot mit Sonderrabatt im Postfach, im ERP der Preis nach der letzten Erhöhung. Wer Erfahrung hat, weiß, welcher Liste er traut. Eine KI, die aus allen Quellen liest, gibt auf dieselbe Frage unterschiedliche Antworten, jede gleich überzeugt. Auffallen wird das erst, wenn der Brief zurückkommt oder der Kunde auf dem Frühjahrspreis besteht.
So gehen Sie vor:
- Listen Sie die Datentypen, die der Anwendungsfall braucht: Kundenstammdaten, Preise, Produkttexte, Lieferbedingungen.
- Legen Sie pro Datentyp eine führende Quelle fest, etwa Adressen aus dem CRM und Preise aus dem ERP. Das entscheidet die verantwortliche Person aus Frage 3.
- Kennzeichnen Sie jede weitere Fundstelle als nachrangig oder schließen Sie sie für die KI aus. Im Zweifel ausschließen. Eine Quelle weniger kostet selten Antwortqualität, ein Widerspruch mehr fast immer.
Solche Widersprüche entstehen meist an den Übergaben zwischen Tools, wo Daten per Export statt per Schnittstelle wandern oder jemand „kurz eine eigene Liste“ anlegt. Die KI verursacht diese Brüche nicht, sie macht sie schneller sichtbar.
Ampel für Frage 4:
- Grün: Für jeden Datentyp ist eine führende Quelle festgelegt, Kopien sind gekennzeichnet oder ausgeschlossen.
- Gelb: Führende Quellen sind bekannt, aber nicht verbindlich festgelegt, oder Kopien fließen ungeprüft mit ein.
- Rot: Für mindestens einen Datentyp kann niemand sagen, welche Quelle gilt, oder die Antwort lautet „kommt drauf an, wen Sie fragen“.
Frage 5: Wer darf was sehen?
Schwerpunktfrage 3 von 4.
Zugriffsrechte sind über Jahre gewachsen. Dass wenig passiert ist, lag oft daran, dass niemand Zeit hatte, fremde Ordner zu durchsuchen. Ein KI-Assistent hat sie.
Wie das bei einem verbreiteten Büro-Assistenten geregelt ist, beschreibt Microsoft in der Herstellerdokumentation: Der Assistent kann nur Inhalte zusammenfassen oder referenzieren, auf die der jeweilige Nutzer Zugriff hat. Was er findet, bestimmen die bestehenden Freigaben, und er ändert daran nichts. Das heißt auch: Jeder unbemerkte Berechtigungsfehler wird mit der KI sichtbar. Liegt die Gehaltsliste in einem versehentlich für alle freigegebenen Ordner, beantwortet der Assistent auf Nachfrage, was die Kollegin verdient. Das Problem ist dann die Freigabe.
Prüfen Sie gezielt Personalakten, Kundenkonditionen, Unterlagen der Geschäftsführung und laufende Verhandlungen. Drei Fragen helfen dabei.
Sind die Berechtigungen gepflegt? Wer hat heute Zugriff auf den Ordner mit den Personalunterlagen? „Das müssten wir nachschauen“ ist keine grüne Antwort.
Übernimmt die Lösung diese Rechte? Manche Lösungen lesen mit den Rechten des einzelnen Nutzers, andere mit einem technischen Sammelzugang, der alles sieht. Lassen Sie sich schriftlich bestätigen, welcher Weg gilt. Im zweiten Fall brauchen Sie eine eigene Regel, was die KI erreichen darf.
Sind personenbezogene Daten markiert? Die DSGVO verlangt, dass sie auf das für den Zweck notwendige Maß beschränkt sind (Art. 5 Abs. 1 lit. c). Eine KI für Angebotsanfragen braucht keine Personalakten. Schließen Sie solche Quellen aus.
Wo die Daten verarbeitet werden, ist ein eigenes Thema und hier ausgeklammert.
Ampel für Frage 5:
- Grün: Die Rechte der benötigten Quellen sind geprüft, die Lösung übernimmt sie nachweislich, unnötige personenbezogene Daten sind ausgeschlossen.
- Gelb: Die Rechte sind grob bekannt, aber ungeprüft, oder unklar ist, ob die Lösung mit Nutzerrechten oder Sammelzugang arbeitet.
- Rot: Niemand weiß, wer auf sensible Ordner zugreifen kann, oder die Lösung sieht alles.
Frage 6: Wie aktuell und vollständig sind die Daten?
Eine KI sortiert Veraltetes nicht aus. Liegt die Preisliste von vor drei Jahren neben der aktuellen, kann sie beide zitieren. Frage 4 klärt, welche Quelle gilt, Frage 6, ob diese Quelle gepflegt wird. Achten Sie auf das letzte Änderungsdatum, auf Dateien wie „Angebot_final_v3_neu.docx“ neben „Angebot_final.docx“, auf Dubletten und leere Pflichtfelder.
Dann der Stichprobentest: Ziehen Sie zehn zufällige Datensätze oder Dokumente, nicht die, die Ihnen zuerst einfallen, und prüfen Sie jeden mit der Person aus dem Fachbereich. Sind acht sauber, tendiert die Ampel zu Grün. Sind es drei, wissen Sie, wo die Arbeit liegt.
Wichtiger als die Aufräumaktion vor dem Pilot ist, wer die Daten danach pflegt. Ohne Zuständigkeit veralten sie wieder, und die Antworten werden schleichend schlechter. Klären Sie, wer zuständig ist, in welchem Rhythmus geprüft wird und wie alte Versionen archiviert werden, damit die KI sie nicht mehr findet.
Bei personenbezogenen Daten ist das ohnehin Pflicht: Sie müssen sachlich richtig und erforderlichenfalls auf dem neuesten Stand sein, unrichtige Daten sind unverzüglich zu löschen oder zu berichtigen (Art. 5 Abs. 1 lit. d DSGVO).
Ampel für Frage 6:
- Grün: Die Stichprobe ist überwiegend sauber, und eine Person verantwortet die laufende Pflege.
- Gelb: Die Daten sind brauchbar, aber niemand hat die laufende Pflege übernommen.
- Rot: Schon die Stichprobe zeigt viele Lücken, Dubletten oder alte Versionen.
Frage 7: Kommt die KI technisch an die Daten heran?
Frage 5 klärt, was die KI sehen darf. Hier geht es darum, was sie technisch sehen kann.
Lassen sich die Daten herausholen? Ein Standardexport als Excel oder CSV reicht für einen ersten Test oft aus. Eine dokumentierte Schnittstelle (API) erlaubt den automatischen Abruf. Ob Ihr System eine hat, ob sie freigeschaltet ist und was sie kostet, klärt ein Gespräch mit Ihrem Dienstleister. Kommen Daten nur per Abtippen heraus, ist das ein Warnsignal.
Liegen Dokumente als Text oder als Bild vor? Ein aus einem Textprogramm erzeugtes PDF ist durchsuchbar, ein eingescanntes braucht erst eine Texterkennung. Bei Handschrift, Stempeln oder schiefen Kopien entstehen dabei Fehler, die die KI später überzeugt weitergibt. Der Test dauert meist nur wenige Minuten: Suchen Sie in zehn Dokumenten nach einem Wort. Findet die Suche nichts, haben Sie einen Scan vor sich.
Gibt es abgeschottete Altsysteme? Typische Anzeichen: Den Hersteller gibt es nicht mehr, nur ein Mitarbeiter versteht das System, der Server hängt bewusst nicht am Netz. Planen Sie diese Quelle nicht in den ersten Piloten ein.
Ampel für Frage 7:
- Grün: Die wichtigsten Quellen haben Export oder Schnittstelle, die Dokumente sind durchsuchbar. Ein enger Pilot ist dann in Wochen machbar.
- Gelb: Ein Teil liegt als Scan vor oder muss per Export geholt werden. Der Pilot braucht einen Aufbereitungsschritt mit eigener Zeit und einer verantwortlichen Person.
- Rot: Die entscheidende Quelle steckt in einem Altsystem ohne Ausgang. Dann steht vor dem KI-Projekt ein Integrationsprojekt, oder Sie wählen einen Fall mit zugänglicher Quelle.
Frage 8: Woran messen Sie, ob die Antworten gut sind?
Schwerpunktfrage 4 von 4.
In Unternehmen ohne BI-Team sehen wir gerade diesen Punkt am häufigsten fehlen. Nach einer gelungenen Demo ist die Stimmung gut, und genau dann fällt die Entscheidung. Hat vorher niemand festgelegt, was eine gute Antwort ist, entscheidet das Bauchgefühl.
Legen Sie einen Prüfkatalog an, bevor das erste Tool läuft:
- Echte Fragen sammeln, in der Formulierung Ihrer Mitarbeitenden oder Kunden, auch die unscharfen und kniffligen.
- Richtige Antworten dazuschreiben, jeweils mit Fundstelle: Preisliste, Handbuch, Vertrag.
- Von Fachleuten freigeben lassen, also von denen, die diese Antworten heute geben.
- Jede neue Version dagegen testen, ob neues Modell, neue Dokumente oder geänderte Anweisungen.
Google Cloud empfiehlt für solche Systeme dasselbe Grundmuster: einen Testsatz von Fragen, der reale Formulierungen und Komplexität abdeckt und mit Stakeholdern und Endnutzern abgestimmt ist, dazu einen Referenzsatz gewünschter Antworten. Zwischen zwei Testläufen soll nur eine Stellschraube geändert werden.
Jede Antwort messen Sie an drei Kriterien. Ist sie sachlich richtig? Ein Preis, der fast stimmt, ist falsch. Ist die Quelle nachvollziehbar? Der Beitrag nennt das „Groundedness“: wie weit die Antwort mit den Fakten aus den abgerufenen Quelldokumenten übereinstimmt. Praktisch heißt das, eine Mitarbeiterin kann nachprüfen, statt blind zu vertrauen. Und erkennt das System Wissenslücken? Nehmen Sie Fragen auf, auf die es in Ihren Daten keine Antwort gibt. Richtig ist dann „Dazu liegt mir nichts vor“. Ein System, das hier eine plausible Antwort erfindet, ist im Alltag gefährlicher als eines, das öfter passt.
Die Referenzantworten gibt die fachlich verantwortliche Person aus Frage 3 frei. Fehlt sie, fehlt der Maßstab, und die Qualitätsfrage landet bei jemandem, der die richtige Antwort nicht kennt.
Ampel für Frage 8:
- Grün: Es gibt einen freigegebenen Katalog echter Fragen mit Referenzantworten, und eine Person ist namentlich für die Freigabe zuständig.
- Gelb: Einzelne Beispielfragen existieren, aber ohne dokumentierte Antworten oder ohne festgelegte Freigabe.
- Rot: Die Qualität wird nach Eindruck beurteilt, meist nach der Demo.
Auswertung: Was Ihre Ampel bedeutet
Bilden Sie keinen Durchschnitt. Entscheidend ist, wo Rot steht.
Rot bei Frage 1: Zurück an den Anfang. Ohne klaren Zweck lassen sich die anderen sieben nicht bewerten.
Rot bei einer Schwerpunktfrage (3, 4, 5 oder 8): Jetzt ist nicht der Zeitpunkt, Modelle zu vergleichen. Jedes Modell übernimmt diese Lücken unverändert. Klären Sie sie zuerst.
Gelb bei einer Schwerpunktfrage: Starten ist möglich, mit Auflage. Der Punkt bekommt vor dem Pilotstart einen Namen und einen Termin und wird im Piloten gezielt mitgeprüft, etwa mit Testfragen, die genau diese Lücke treffen. Stehen zwei oder mehr Schwerpunktfragen auf Gelb, behandeln Sie das Ergebnis besser wie Rot.
Rot bei Frage 2, 6 oder 7: Das bremst, blockiert aber nicht immer. Oft lässt sich der Fall so zuschneiden, dass eine einzige gepflegte und erreichbare Quelle genügt.
Sonst überwiegend Grün: Sie können starten. Schneiden Sie den Fall im Zweifel noch enger. Ein Pilot, der eine Art Anfrage zuverlässig beantwortet, sagt mehr als einer, der vieles halb kann.
Die Arbeit an roten Punkten lohnt sich auch ohne KI: Eine führende Quelle hilft dem Vertrieb sofort, gepflegte Rechte schützen Personalakten schon heute, und bei personenbezogenen Daten erfüllen Sie Anforderungen, die ohnehin gelten (Fragen 5 und 6).
Was sich Montag früh ändert
Termin ansetzen. Blocken Sie noch diese Woche eine Stunde mit Geschäftsführung, Fachbereich und der Person, die Ihre IT betreut.
Anwendungsfall vorher festlegen. Schicken Sie mit der Einladung einen Satz nach dem Muster aus Frage 1, etwa: „Der Innendienst bekommt zu Angebotsanfragen für Ersatzteile einen Antwortentwurf mit Preis und Lieferzeit aus Preisliste und ERP.“ Wer mit „KI für den Vertrieb“ in den Termin geht, diskutiert eine Stunde Grundsätzliches.
Verantwortliche noch im Termin benennen. Jede gelbe oder rote Ampel bekommt eine Person und ein Datum: jemanden, der bis zum nächsten Treffen klärt, welche Quelle führt oder wer die Rechte prüft.
Am Ende der Woche haben Sie eine Seite mit acht Ampeln und eine Entscheidung: Pilot starten oder zuerst aufräumen. Beides bringt Sie weiter als die nächste Tool-Demo.
Wer den ersten Durchgang mit Begleitung machen oder eine zweite Meinung zur eigenen Ampel möchte, findet unter /ai-diagnose unser Angebot dazu. Die Checkliste funktioniert auch ohne uns.
Häufige Fragen
Brauchen wir ein eigenes BI- oder Datenteam? Nein. Die Schwerpunktfragen sind Organisationsfragen, die sich mit den Personen klären lassen, die heute schon mit den Daten arbeiten.
Wie lange dauert es, die roten Punkte zu klären? Eine fehlende Verantwortung ist oft in einer Besprechung geklärt, ungepflegte Rechte oder Scan-Bestände können ein eigenes Projekt werden.
Können wir ein Modell wählen und die Daten nebenher bereinigen? Riskant. Die KI arbeitet mit dem Stand beim Start, samt zu großzügiger Rechte (Frage 5) und widersprüchlicher Quellen (Frage 4).
Wer trägt die Verantwortung für die Antwortqualität? Die Fachseite. Pro Anwendungsfall pflegt eine Person aus dem Fachbereich den Prüfkatalog und gibt neue Versionen frei.
Quellen
Dieser Beitrag ist keine Rechtsberatung. Die Hinweise zur DSGVO sind eine Einordnung aus Beratungssicht. Wie eine Vorgabe in Ihrem Fall greift, klären Sie mit Ihrer oder Ihrem Datenschutzbeauftragten oder einer spezialisierten Kanzlei.
- Bitkom: Presseinformation zur KI-Nutzung in Unternehmen, 15.09.2025
- Microsoft Learn: Microsoft Copilot data protection architecture
- Google Cloud Blog: Beitrag zur Optimierung und Bewertung von RAG-Systemen, 19.12.2024
- Verordnung (EU) 2016/679 (DSGVO), Art. 5