AI Act für Betreiber: Drei Nachweise, die Sie der Bundesnetzagentur vorlegen können sollten

Aus dem Gesetz wird Aufsicht

Bisher lautete die Frage: Welche Pflichten aus dem AI Act treffen uns? Ab jetzt lautet sie: Können wir belegen, dass wir sie erfüllen?

Der Grund ist ein deutsches Gesetz. Das KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG) ist am 29. Juli 2026 in Kraft getreten. Der Bundestag hatte es am 11. Juni beschlossen, der Bundesrat am 10. Juli passieren lassen. Nach § 2 ist die Bundesnetzagentur grundsätzlich die Marktüberwachungsbehörde für die KI-Verordnung, nach §§ 6 und 8 außerdem zentrale Anlaufstelle und Beschwerdestelle. Für einzelne Bereiche bleiben Fachbehörden zuständig.

Damit gibt es in Deutschland eine Stelle, die Unterlagen anfordern kann. Eine veröffentlichte Prüfpraxis für Betreiber ist bisher nicht bekannt. Entwarnung ist das nicht. Es ist ein Zeitfenster, und es lässt sich nutzen.

Welche Pflichten wann gelten und was der Digital Omnibus der EU verschoben hat, haben wir im AI-Act-Betreiber-Check aufgeschlüsselt. Dieser Beitrag setzt dort an, wo der Check endet: bei der Dokumentation. Ein Nachweis ist hier ein Dokument, das Sie auf Anfrage vorlegen können, ohne es erst erstellen zu müssen. Drei davon sollten Sie haben.

Erst die Rolle klären: Betreiber oder schon Anbieter?

Jeder Nachweis hängt an einer Vorfrage. In welcher Rolle setzen Sie ein Tool ein?

Betreiber ist nach Art. 3 Nr. 4 der KI-Verordnung, wer ein KI-System in eigener Verantwortung beruflich verwendet. Das ist der Normalfall im Mittelstand: Sie kaufen ein Tool oder ein Abo ein, Ihre Mitarbeitenden arbeiten damit. Anbieter ist, wer ein System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke in Verkehr bringt oder in Betrieb nimmt.

Die Rolle kann kippen. Art. 25 Abs. 1 nennt drei Fälle, in denen ein Betreiber als Anbieter eines Hochrisiko-Systems gilt:

Eigener Name oder eigene Marke auf einem Hochrisiko-System, das bereits auf dem Markt ist.
Wesentliche Änderung eines Hochrisiko-Systems, die in der ursprünglichen Konformitätsbewertung nicht vorgesehen war.
Neuer Zweck: Sie ändern die vom Anbieter vorgesehene Zweckbestimmung eines Systems, das nicht als hochriskant eingestuft war, so, dass es hochriskant wird.

Fall 1 und 2 setzen voraus, dass das System bereits hochriskant ist. Ein Chatbot mit Ihrem Logo, der Produktfragen beantwortet, macht Sie deshalb nicht automatisch zum Anbieter. Gefährlicher für KMU ist der dritte Fall. Ein allgemeiner Schreibassistent sortiert in der Personalabteilung Bewerbungen vor. Beschäftigung ist ein Bereich aus Anhang III. Dafür braucht es keine Entscheidung der Geschäftsführung, es reicht eine Fachabteilung, die ein Problem pragmatisch löst.

Für Ihr Verzeichnis hilft pro eingekauftem Tool eine Einstiegsfrage:

Nutzen wir dieses Tool so, wie der Anbieter es anbietet: unter seinem Namen, ohne Umbau und für den vorgesehenen Zweck?

Ja: Sie gehen vorläufig von der Betreiberrolle aus und halten das so fest. Nein: Halten Sie fest, welcher der drei Fälle in Betracht kommt, und lassen Sie die Rolle prüfen, bevor Sie das Tool weiter ausbauen. Selbst entwickelte oder in Auftrag gegebene Systeme, eingeführte oder weiterverkaufte Systeme prüfen Sie ohnehin gesondert.

Nachweis 1: Das KI-Verzeichnis

Ein Dokument namens „KI-Verzeichnis“ schreibt die Verordnung nach unserer Einschätzung nicht ausdrücklich vor. Auskommen werden Sie ohne trotzdem kaum. Ohne Liste können Sie weder zeigen, dass die richtigen Leute geschult sind, noch dass Ihr Chatbot gekennzeichnet ist, noch dass im Haus keine verbotene Praxis läuft.

Wer den Betreiber-Check gemacht hat, besitzt schon ein Tool-Inventar. Für den Nachweis erweitern Sie es auf acht Spalten. Jede Zeile beschreibt genau ein System in einem konkreten Einsatz. Nutzt das Marketing ein Tool anders als der Vertrieb, sind das zwei Zeilen.

Spalte	Was hineingehört
System und Anbieter	Produkt, Hersteller, Tarif. Auch KI-Funktionen in bestehender Software, etwa im CRM.
Zweck	Ein Satz: was das System bei Ihnen tut und für wen. „Antwortentwürfe im Kundenservice“, nicht „Produktivität“.
Verantwortliche Funktion	Eine Rolle, etwa Leitung Kundenservice. Nicht „die IT“.
Rolle	Betreiber oder möglicher Anbieter, aus der Frage oben.
Risikoeinstufung	Verboten, hochriskant (Anhang III), transparenzpflichtig nach Art. 50 oder keine weiteren KI-VO-Pflichten erkannt. Mehrfachnennung ist möglich, Art. 4 gilt immer.
Prüfung Art. 5	Ja oder Nein, Datum, wer geprüft hat.
Transparenzbedarf	Kundenkontakt, erzeugte Bilder, Videos oder Texte für die Öffentlichkeit? Verknüpft mit Nachweis 3.
Stand	Letzte Prüfung und nächster Termin.

Die Spalte zu Art. 5 ist Pflicht

Die Verbote nach Art. 5 gelten seit dem 2. Februar 2025. Für CX-Teams ist ein Verbot besonders relevant: Nach Art. 5 Abs. 1 lit. f ist es untersagt, KI-Systeme zur Emotionserkennung am Arbeitsplatz einzusetzen, außer aus medizinischen oder Sicherheitsgründen. Gemeint sind Systeme, die Emotionen anhand biometrischer Daten ableiten, etwa aus Stimme oder Mimik. Eine Software, die im Callcenter die Stimme Ihrer Mitarbeitenden auf Stimmung auswertet, gehört deshalb in diese Spalte und im Zweifel zur Rechtsberatung. Eine reine Textauswertung fällt wohl nicht unter dieses Verbot, bleibt aber ein Thema für Datenschutz und Mitbestimmung. Wertet dieselbe Software nur die Stimmung von Kunden aus, landen Sie bei Art. 50 (siehe Nachweis 3).

Findet Ihre Prüfung nichts, ist das gut. Mit einem dokumentierten Nein haben Sie dann etwas in der Hand. Mit „haben wir nicht angeschaut“ haben Sie nichts.

Ein Verzeichnis, das nur aus Lizenzen und Einkaufsbelegen entsteht, bleibt lückenhaft. Private Konten bei Chat-Assistenten und per Update freigeschaltete Funktionen tauchen dort nicht auf. Fragen Sie die Fachabteilungen direkt. Sagen Sie vorher, dass es um eine Bestandsaufnahme geht und niemand Sanktionen befürchten muss. Sonst fehlen genau die Einträge mit dem größten Risiko.

Nachweis 2: KI-Kompetenz, dokumentiert statt nur geschult

Art. 4 gilt seit dem 2. Februar 2025 für Anbieter und Betreiber. Mit dem Digital Omnibus (VO (EU) 2026/1744), in Kraft seit dem 27. Juli 2026, wurde der Wortlaut abgeschwächt. Statt ein ausreichendes Maß an KI-Kompetenz „sicherzustellen“, müssen Unternehmen jetzt Maßnahmen ergreifen, die deren Entwicklung unterstützen. Ein bestimmtes Kompetenzniveau müssen sie nicht mehr garantieren. Die Pflicht zu Maßnahmen bleibt.

Viele Unternehmen haben eine Schulung gemacht. Bei einer Rückfrage hilft Ihnen aber eher, zeigen zu können, wer was gelernt hat und warum genau das zu seiner Arbeit passt.

Was als Beleg taugt

Kompetenzmatrix. Zeilen: Rollen oder Abteilungen. Spalten: die Tools aus Ihrem Verzeichnis. In jede Zelle kommt, was diese Gruppe über dieses Tool wissen muss: Grenzen, Umgang mit Kundendaten, wann ein Ergebnis geprüft werden muss. Die Buchhaltung, die Rechnungen auslesen lässt, braucht anderes Wissen als das Marketing, das Bilder generiert.
Schulungsinhalte je Zeile. Kein Foliensatz für alle. Eher: Wie prüfe ich eine KI-Zusammenfassung auf Fehler? Welche Kundendaten gehören nicht in ein öffentliches Tool?
Teilnahmeliste. Wer hat wann welches Modul absolviert. Neue Mitarbeitende und neue Tools lösen einen neuen Eintrag aus.
Nutzungsrichtlinie. Zwei Seiten: Welche Tools sind freigegeben, welche Daten sind tabu, wer gibt neue Tools frei, wie werden Ergebnisse geprüft.

Die Bundesnetzagentur stellt klar, dass weder ein KI-Beauftragter noch zertifizierte Schulungen vorgeschrieben sind. Sie empfiehlt aber ausdrücklich, die Maßnahmen gründlich zu dokumentieren.

Bußgeld offen, Pflicht nicht

In der Aufzählung der bußgeldbewehrten Pflichten in Art. 99 Abs. 4 taucht Art. 4 nicht auf. Wie die Bundesnetzagentur mit Verstößen gegen Art. 4 umgeht, ist offen. Ein Grund für Alarm ist das nicht.

Die Dokumentation lohnt sich trotzdem, aus zwei Gründen. Erstens hängt jede andere Pflicht daran: Ob Ihr Team eine Kennzeichnungspflicht nach Art. 50 richtig umsetzt, hängt davon ab, ob es sie kennt. Und Verstöße gegen Art. 50 fallen unter Art. 99 Abs. 4. Zweitens die Haftung: War eine KI-generierte Auskunft an einen Kunden falsch, wird gefragt, ob die zuständige Person wusste, dass sie das Ergebnis prüfen muss. Eine datierte Schulung und eine schriftliche Richtlinie beantworten diese Frage. „Wir haben mal darüber gesprochen“ tut das nicht.

Nachweis 3: Transparenz nach Art. 50 im Kundenkontakt

Seit dem 2. August 2026 gelten die Transparenzpflichten nach Art. 50. Der Omnibus hat daran nur einen Punkt verschoben, dazu unten mehr. Für den Mittelstand ist das der Nachweis, der am nächsten am Kunden liegt: Website, Marketing, Service.

Wer was schuldet, regelt die Verordnung Absatz für Absatz:

Fall	Wer ist verpflichtet	Typischer Kontaktpunkt
Hinweis, dass jemand mit einer KI interagiert (Abs. 1)	Anbieter: System muss so gebaut sein	Chatbot auf der Website
Maschinenlesbare Kennzeichnung erzeugter Inhalte (Abs. 2)	Anbieter generativer Systeme	Bild-, Text-, Audio-Tools
Information über Emotionserkennung oder biometrische Kategorisierung (Abs. 3)	Betreiber	Stimmungsanalyse von Kundengesprächen
Offenlegung von Deepfakes (Abs. 4)	Betreiber	KI-Bilder, synthetische Stimmen oder Videos im Marketing
Offenlegung KI-generierter Texte zu Themen von öffentlichem Interesse (Abs. 4)	Betreiber	Blog, Pressemitteilungen, Fachbeiträge

Um die drei Betreiberfälle müssen Sie sich selbst kümmern.

Deepfakes. Ein KI-Bild, das Ihr reales Geschäft oder echte Mitarbeitende zeigt, eine synthetische Stimme, die einer realen Person nachgebildet ist: Wirkt das fälschlich echt, muss offengelegt werden, dass es künstlich erzeugt ist. Eine frei erfundene Figur ist nicht automatisch ein Deepfake; im Zweifel kennzeichnen Sie freiwillig. Halten Sie fest, wer im Marketing diese Kennzeichnung freigibt.

Texte zu Themen von öffentlichem Interesse. Die Offenlegung entfällt, wenn der Text menschlich geprüft oder redaktionell kontrolliert wurde und jemand die redaktionelle Verantwortung trägt. Ihr Nachweis ist also die dokumentierte Prüfung: wer den Text inhaltlich geprüft hat und wer ihn verantwortet. Eine Versandbestätigung oder ein individuelles Serviceschreiben dürfte kein Thema von öffentlichem Interesse sein. Treffen Sie diese Einschätzung für Ihre Mailstrecken einmal bewusst und halten Sie sie fest.

Emotionserkennung bei Kunden. Wer Kundengespräche per KI anhand von Stimme oder Bild auf Stimmung auswertet, muss die Betroffenen informieren, spätestens bei der ersten Interaktion und klar erkennbar (Art. 50 Abs. 5). Unsere Lesart: Ein Eintrag im Datenschutzhinweis allein reicht dafür nicht. Die Informationspflichten nach DSGVO kommen hinzu.

Die Anbieterfälle gehören in den Vertrag

Den Chatbot-Hinweis und die maschinenlesbare Kennzeichnung schuldet der Anbieter. Ihr Kunde sieht aber Ihr Unternehmen. Prüfen Sie die Umsetzung deshalb auch selbst, bevor ein Tool live geht, und klären Sie schriftlich mit jedem Anbieter:

Wie ist der KI-Hinweis im Chatbot umgesetzt, und ist er für Ihre Kunden sichtbar?
Ob und ab wann erzeugte Bilder, Audio und Texte maschinenlesbar gekennzeichnet werden.
Dass er Sie informiert, wenn sich an diesen Funktionen etwas ändert.

Die Antworten legen Sie im Nachweisordner ab.

Für die Auslegung im Detail hat die EU-Kommission Leitlinien zu Art. 50 veröffentlicht. Dazu kommt ein im Juni 2026 veröffentlichter Verhaltenskodex zur Kennzeichnung KI-generierter Inhalte. Sein zweiter Teil richtet sich an Betreiber und behandelt die Kennzeichnung von Deepfakes. Beides ist rechtlich nicht verbindlich, der Kodex ist freiwillig. Einen Blick lohnt es trotzdem, bevor Sie Ihre Kontaktpunkte prüfen.

Was der Omnibus verschiebt und was nicht

Seit dem Omnibus heißt es oft, der AI Act sei verschoben. Das stimmt nur für einen Teil, den wir im Betreiber-Check ausführlich eingeordnet haben. Für die drei Nachweise zählt dieser Stand:

Verschoben: Hochrisiko-Pflichten für Anhang-III-Systeme auf den 2. Dezember 2027, für Anhang I auf den 2. August 2028. Damit greifen auch die Betreiberpflichten nach Art. 26 noch nicht. Ebenfalls verschoben: Die maschinenlesbare Kennzeichnung für Systeme, die vor dem 2. August 2026 auf den Markt kamen, gilt erst ab dem 2. Dezember 2026.
Nicht verschoben: Art. 50 für Betreiber, die Kompetenzpflicht (nur abgeschwächt) und die Verbote nach Art. 5. Ab dem 2. Dezember 2026 kommt dort ein Verbot hinzu: KI-Systeme, die Material über sexuellen Kindesmissbrauch oder nicht einvernehmliche intime Inhalte erzeugen.

Keiner der drei Nachweise hängt an den verschobenen Fristen.

Wer KI in der Personalauswahl oder bei Entscheidungen über Kredite und Zahlungsziele einsetzt, sollte den Dezember 2027 trotzdem jetzt einplanen. Bis dahin müssen Sie wissen, welches System was entscheidet, wer es überwacht und welche Unterlagen der Anbieter liefert. Ob ein Einsatz unter Anhang III fällt, klären Sie im Einzelfall. Diese Klärung gehört schon heute in Ihr Verzeichnis.

In vier Wochen zum Nachweisordner

Klein ist die Arbeit nicht. Mit einer festen Reihenfolge ist sie aber in vier Wochen zu schaffen. Der Plan folgt den drei Nachweisen. Der Ordner ist ein Startpunkt, kein Beleg vollständiger Rechtskonformität. Datenschutz, Arbeitsrecht und Wettbewerbsrecht, etwa bei KI-generierten Kundenstimmen in der Werbung, prüfen Sie gesondert.

Woche 1: Verzeichnis und Rollen. Abfrage in allen Fachbereichen, auch nach KI-Funktionen in vorhandener Software und nach privat angelegten Konten. Jedes Tool kommt mit allen acht Spalten ins Verzeichnis, jedes bekommt die Rollenfrage. Hochrisiko-Kandidaten markieren Sie gesondert. Ergebnis: eine erste Fassung, die die Geschäftsführung gesehen hat.

Woche 2: Kompetenzmatrix und Nutzungsrichtlinie. Matrix aus Rollen und Tools, Schulungen nach tatsächlichem Einsatz, Teilnahmeliste mit Datum und Inhalt. Die Richtlinie unterschreibt die Geschäftsführung.

Woche 3: Transparenz-Check. Gehen Sie jeden Kundenkontaktpunkt einzeln durch: Website, Chatbot, Newsletter, automatisierte Mails, Social Media, Support. Pro Punkt drei Fragen. Ist hier KI im Einsatz? Welcher Fall aus der Tabelle trifft zu? Wer setzt die Pflicht um, und wo steht das? Parallel gehen die Anfragen an Ihre Anbieter raus. Für Inhalte, die vor dem 2. August 2026 veröffentlicht wurden, sehen wir keine Pflicht zur rückwirkenden Kennzeichnung. Was Sie seitdem veröffentlichen oder neu einsetzen, fällt unter Art. 50.

Woche 4: Ordner und Zuständigkeiten. In den Nachweisordner gehören das Verzeichnis mit Rollenbewertung, Matrix, Schulungsinhalte und Teilnahmeliste, die Richtlinie, der Transparenz-Check und die Anbieterkorrespondenz. Jedes Dokument bekommt einen Stand, eine verantwortliche Person und einen nächsten Prüftermin. Legen Sie fest, was eine Aktualisierung auslöst: ein neues Tool, eine neue KI-Funktion, ein neuer Zweck.

Rolle	Verantwortung
Geschäftsführung	Gibt den Plan frei, benennt Verantwortliche, entscheidet Rollenfragen, unterschreibt die Richtlinie.
IT	Technische Sicht aufs Verzeichnis, KI-Funktionen in Bestandssoftware, Anbieterkorrespondenz.
Datenschutz	Abgleich mit der Datenschutzdokumentation, Hinweise bei Emotionserkennung.
Fachbereich	Meldet genutzte Tools, benennt Verantwortliche, prüft die eigenen Kontaktpunkte.

Keine zweite Verwaltung

Wenn Sie ein Verzeichnis der Verarbeitungstätigkeiten nach DSGVO führen, stehen dort vermutlich schon einige KI-Tools. Das Datenschutzverzeichnis ist nach Verarbeitungstätigkeiten gegliedert, das KI-Verzeichnis nach Systemen. Führen Sie beide getrennt, aber verknüpft: mit Querverweisen, denselben Verantwortlichen und demselben Prüfrhythmus. Eine vollständige Datenschutzdokumentation erfüllt nicht automatisch die Pflichten aus der KI-Verordnung. Sie ist aber das Gerüst, an das Sie die drei Nachweise hängen können.

Bei Einordnungsfragen, die Sie intern nicht klären, hilft der KI-Service-Desk der Bundesnetzagentur. Er richtet sich ausdrücklich auch an KMU. Die Aufsicht ist also auch eine Stelle, bei der Sie nachfragen können.

Fazit: Aufsicht fragt nach Belegen

„Wir haben das im Blick“ ersetzt keinen Nachweis. Auch mit den drei Nachweisen kann die Behörde Fragen stellen. Sie können dann aber antworten, ohne erst zu suchen.

Der Selbsttest ist kurz. Nehmen Sie Ihr Verzeichnis und prüfen Sie jede Zeile: Ist die Rolle geklärt? Steht das Tool in der Kompetenzmatrix? Ist der Transparenzfall dokumentiert, samt Anbieterantwort? Jedes Nein ist ein Arbeitsschritt.

Wenn Fachabteilungen eigene Lösungen nutzen oder die Rolle bei einzelnen Tools unklar bleibt, ordnen wir Ihre KI-Landschaft in der AI-Diagnose gemeinsam mit Ihnen ein. Die rechtliche Prüfung im Einzelfall bleibt bei Ihrer Rechtsberatung.

Wie lange bräuchten Sie heute, um der Bundesnetzagentur zu sagen, welche KI in Ihrem Unternehmen läuft?

Häufige Fragen

Ist die Bundesnetzagentur für die Aufsicht über die KI-Verordnung zuständig? Grundsätzlich ja, seit dem 29. Juli 2026 nach dem KI-MIG. Für einzelne Bereiche bleiben Fachbehörden zuständig.

Sind wir Betreiber, wenn unsere Mitarbeitenden gängige KI-Chat-Assistenten nutzen? Sehr wahrscheinlich ja. Damit gilt für Sie die Kompetenzpflicht nach Art. 4, und die Tools gehören in Ihr Verzeichnis, auch wenn Fachabteilungen sie selbst eingeführt haben.

Gibt es ein Bußgeld, wenn wir KI-Kompetenz nicht nachweisen können? Das ist offen, Art. 4 steht nicht in der Aufzählung von Art. 99 Abs. 4. Die Pflicht zu Maßnahmen besteht trotzdem, und die Dokumentation zeigt, dass Sie sie erfüllt haben.

Was müssen wir als Betreiber seit dem 2. August 2026 kennzeichnen? Deepfakes, KI-generierte Texte zu Themen von öffentlichem Interesse ohne redaktionelle Prüfung und den Einsatz von Emotionserkennung oder biometrischer Kategorisierung gegenüber Betroffenen. Chatbot-Hinweis und maschinenlesbare Kennzeichnung schuldet der Anbieter. Klären Sie schriftlich, wie er sie umsetzt.

Wann werden wir zum Anbieter, obwohl wir das Tool nur eingekauft haben? Nach Art. 25 vor allem dann, wenn Sie ein System für einen Zweck einsetzen, der es zum Hochrisiko-System macht, etwa bei der Vorauswahl von Bewerbungen. Im Zweifel lassen Sie die Rolle prüfen.

Dieser Beitrag ist keine Rechtsberatung. Er ordnet die Rechtslage zum 10. September 2026 allgemein ein und ersetzt nicht die Prüfung Ihres Einzelfalls.