In Ihrem Unternehmen wird bereits programmiert. Nur nicht in der IT.
Drei Szenen, wie sie in vielen mittelständischen Unternehmen vorkommen.
Im Vertrieb dauert die Angebotskalkulation zu lange. Ein Vertriebsmitarbeiter beschreibt einem KI-Assistenten in ein paar Sätzen, was er braucht: Staffelpreise, Rabattgrenzen, Lieferkosten nach Region. Eine Stunde später hat er einen Angebotsrechner. Inzwischen nutzt ihn das halbe Team.
In der Buchhaltung gleicht eine Mitarbeiterin jeden Monat Zahlungseingänge mit offenen Posten ab, Zeile für Zeile. Mit einem KI-Assistenten entsteht ein kleines Skript, das den Abgleich übernimmt. Aus zwei Tagen Handarbeit wird ein Knopfdruck.
Im Kundenservice will die Teamleitung wissen, welche Anfragen sich häufen. Das CRM liefert die Auswertung nicht in der Form, die sie braucht. Also lässt sie sich von einer KI ein Skript schreiben, das die Exporte zusammenführt und sortiert.
Keine dieser Personen würde sich als Programmierer bezeichnen. Alle drei haben trotzdem Software gebaut. Und in keinem der drei Fälle weiß die IT davon.
In einer Bitkom-Befragung vom Oktober 2025 unter 604 Unternehmen ab 20 Beschäftigten gehen 42 Prozent davon aus, dass ihre Beschäftigten private KI-Werkzeuge im Job nutzen. Nur 26 Prozent stellen selbst generative KI bereit. Der Work Trend Index 2024 von Microsoft und LinkedIn zeigt dasselbe Muster: 78 Prozent der KI-Nutzer bringen eigene Werkzeuge mit zur Arbeit, in kleinen und mittleren Unternehmen sind es 80 Prozent.
Die Zahlen betreffen KI-Nutzung allgemein. Sie zeigen aber, wo gebaut wird: oft über private Konten, unsichtbar, bis jemand fragt, woher eine Zahl kommt. Kennen Sie diese Szenen nicht aus Ihrem Haus, lohnt sich die Nachfrage.
Was Vibe-Coding ist und warum der Begriff hängen bleibt
Vibe-Coding heißt: Sie beschreiben in normaler Sprache, was ein Werkzeug tun soll, und eine KI schreibt den Programmcode dazu. Zum Beispiel: "Lies die Excel-Liste mit den offenen Posten ein, gleiche sie mit dem Kontoauszug ab und markiere alles, was fehlt." Wenige Minuten später läuft ein kleines Programm. Den Code dahinter hat die Person, die es angestoßen hat, nie gelesen.
Geprägt hat den Begriff ein bekannter KI-Forscher im Februar 2025 in einem Beitrag auf X, dessen Wortlaut die Wikipedia-Seite zum Begriff dokumentiert. Man gebe sich den Vibes hin und vergesse, dass der Code überhaupt existiert. Im selben Beitrag schränkte er die Methode ein: Für Wegwerf-Projekte am Wochenende tauge sie. Gemeint war also Ausprobieren, keine Software für den Betrieb eines Unternehmens. Diese Einschränkung trägt den Rest dieses Artikels.
Verbreitet hat sich der Begriff trotzdem schnell. Collins Dictionary hat "vibe coding" im November 2025 zum Wort des Jahres gewählt und beschreibt es als Programmieren mit KI, die per natürlicher Sprache angewiesen wird.
Klassisch schreibt eine Fachabteilung Anforderungen auf, die IT setzt sie um. Das dauert Wochen und startet nur, wenn das Problem groß genug ist. Beim Vibe-Coding baut die Person mit dem Problem die Lösung selbst, in Minuten bis Stunden. Die Verschiebung dahinter: Wer ein Problem klar beschreiben kann, kann heute ein Werkzeug dafür bauen. Fachwissen und eine genaue Beschreibung reichen.
Das macht Vibe-Coding interessant. Und es erklärt, warum es eine Regel braucht: Der Code läuft, ohne dass ihn jemand angesehen hat.
Warum das eine gute Nachricht für den Mittelstand ist
Das Wissen, das Ihr Unternehmen am Laufen hält, liegt selten in der IT. Es liegt in der Disposition, die weiß, welcher Lieferant bei Engpässen verlässlich liefert. In der Buchhaltung, die jeden Sonderfall beim Zahlungsabgleich kennt. Im Vertrieb, der weiß, welche Rabattlogik bei welchem Kunden greift. Bisher musste dieses Wissen erst in ein Lastenheft übersetzt werden, bevor daraus Software wurde. An dieser Übersetzung sind viele gute Ideen gescheitert.
Vibe-Coding kürzt diesen Weg ab. Und die meisten dieser Probleme wären nie ein IT-Projekt geworden. Ein Rechner für Sonderkonditionen, ein Skript, das zwei Exportdateien abgleicht, eine Auswertung, die jeden Montag von Hand zusammenkopiert wird: Für keines davon lohnt sich ein Lastenheft oder ein Platz auf der IT-Roadmap. Zusammen kosten sie trotzdem jede Woche Stunden. Selbstgebaute Werkzeuge ersetzen weder ERP noch CRM. Sie arbeiten in den Zwischenräumen, die diese Systeme offen lassen.
Vibe-Coding ist deshalb eine Kulturtechnik. Als die Tabellenkalkulation in die Büros kam, blieb sie nicht lange ein Spezialwerkzeug, sondern wurde zum Arbeitsmittel jeder Abteilung. Beim Programmieren in Alltagssprache erwarten wir eine ähnliche Entwicklung. Ein Verbot hält sie nicht auf, es verschiebt sie in private Konten. Wer die Tabellenkalkulation im eigenen Haus erlebt hat, kennt allerdings auch ihre Kehrseite.
Das Excel-Muster: Wir kennen dieses Problem schon
Fast jedes mittelständische Unternehmen hat sie: die Kalkulationsdatei, an der das Angebotswesen hängt. Oder die Liste, aus der jeden Monat die Provisionen berechnet werden. Eine Person hat sie vor Jahren gebaut. Sie funktioniert. Und niemand außer dieser Person weiß genau, warum.
Mit selbstgebauten KI-Werkzeugen wiederholt sich dieses Muster, nur schneller. Es sind vier Risiken.
Fehlende Nachvollziehbarkeit. Bei einer gewachsenen Excel-Datei weiß oft niemand mehr, welche Formel welchen Wert liefert und woher die Eingangsdaten stammen. Bei einem Werkzeug, das per Beschreibung entstanden ist, ist die Lage oft noch unklarer. Die Person, die es gebaut hat, hat den Code womöglich nie gelesen. Das Werkzeug tut etwas, aber was genau, steht nirgends.
Kopfmonopole. Das Wissen über ein Werkzeug steckt im Kopf einer einzigen Person. Wechselt sie die Stelle, geht sie in Elternzeit oder ist zwei Wochen krank, steht der Prozess still. Oder er läuft weiter, und niemand merkt, dass die Ergebnisse nicht mehr stimmen.
Fehler in der Rechenlogik. Eine falsche Zellreferenz fällt nicht auf, solange die Zahlen plausibel aussehen. Bei KI-generiertem Code ist es genauso. Er läuft, aber das heißt nicht, dass er richtig rechnet oder sicher ist.
Datenabfluss in private KI-Konten. Dieses Risiko gab es zu Excel-Zeiten in dieser Form nicht. Wer heute ein Werkzeug mit KI baut, kopiert dafür oft echte Daten in einen Chat: Kundenlisten, Preise, Auswertungen. Wo das Unternehmen keinen eigenen Zugang anbietet, und das ist laut der eingangs zitierten Bitkom-Befragung bei rund drei Vierteln der Fall, suchen sich die Mitarbeitenden selbst einen. Die Daten landen dann in Konten, auf die das Unternehmen keinen Zugriff hat.
Das Muster kennen die meisten Geschäftsführer aus Excel. Gefehlt hat damals eine einfache Regel, bevor eine Datei geschäftskritisch wurde. Diese Regel können Sie heute einführen, bevor die ersten KI-Eigenbauten dort ankommen.
Die eine Regel: Kein Werkzeug geht ohne zweites Augenpaar in den Betrieb
Wenn Sie aus diesem Artikel nur eine Sache übernehmen, dann diese: Bevor ein selbstgebautes Werkzeug mit echten Kundendaten, mit Geld oder mit Wirkung nach außen arbeitet, schaut eine zweite Person darauf. Das ist eine organisatorische Mindestkontrolle für den Einstieg, keine rechtliche Freigabe. Datenschutz, IT-Sicherheit und die Vorgaben der KI-Verordnung gelten daneben weiter.
Die Regel greift an einer klaren Schwelle. Solange jemand für sich selbst eine Auswertung baut oder eine Idee mit erfundenen oder anonymisierten Testdaten ausprobiert, braucht es keine formelle Prüfung. Echte Kundendaten, Personaldaten oder Vertrauliches in einen KI-Assistenten zu kopieren, ist dagegen schon eine Datenverarbeitung und gehört nicht ungeprüft in diese Phase. Sobald das Werkzeug aber Kundendatensätze verändert, Preise berechnet, Zahlungen auslöst oder E-Mails an Kunden verschickt, gilt das 4-Augen-Prinzip. Geprüft wird beim Übergang ins echte Geschäft, nicht bei der Idee und nicht beim ersten Entwurf.
Warum gerade dieser Moment
KI-Assistenten erzeugen Code, der läuft. Ob er auch sicher ist, ist eine andere Frage. Der GenAI Code Security Report von Veracode (Juli 2025) hat über 100 KI-Sprachmodelle an 80 Programmieraufgaben getestet. In 45 Prozent der Fälle fiel der erzeugte Code durch die Sicherheitstests und enthielt bekannte Schwachstellen. Getestet wurden standardisierte Programmieraufgaben, keine Eigenbauten aus Fachabteilungen. Für unsere Frage reicht der Befund trotzdem: Ein funktionierendes Ergebnis ist noch kein geprüftes. Wer selbst kein Entwickler ist, sieht solche Lücken nicht. Das Werkzeug funktioniert ja.
Auch die Behörden setzen hier an. BSI und die französische Cybersicherheitsbehörde ANSSI halten in ihren gemeinsamen Empfehlungen zu KI-Programmierassistenten von 2024 fest: Diese Assistenten ersetzen keine erfahrenen Entwickler, und vor ihrer Einführung sollte eine systematische Risikoanalyse stehen.
Die Regel stützt sich auf diese Befunde und auf ein Prinzip, das Sie aus Buchhaltung und Zahlungsfreigabe längst kennen.
Warum eine Regel besser wirkt als ein Richtlinienwerk
Ein dickes Regelwerk liest in einem Unternehmen mit 150 Beschäftigten kaum jemand vollständig. Wer unsicher ist, fragt nicht nach, sondern baut still weiter. Eine Regel, die in einen Satz passt, behält jeder im Kopf. Sie verbietet nicht das Ausprobieren und schreibt keine Werkzeuge vor. Sie klärt nur, dass bei Wirkung nach außen zwei Menschen Verantwortung tragen statt einer.
Warum die Regel Ihr Tempo nicht bremst
Die Prüfung kommt einmal, vor dem Schritt in den Betrieb. Ausprobieren und Verwerfen bleiben frei. Die meisten Ideen erreichen diese Schwelle nie, und für den Rest kostet die Prüfung ein Gespräch. Das ist wenig im Vergleich zu einem Werkzeug, das wochenlang falsche Preise an Kunden schickt, bevor es jemand merkt.
Dazu kommt, dass gefühltes und tatsächliches Tempo auseinanderliegen können. In einer randomisierten Studie der Forschungsorganisation METR (Juli 2025) brauchten 16 erfahrene Open-Source-Entwickler mit KI-Werkzeugen 19 Prozent länger für ihre Aufgaben. Sie selbst glaubten, 20 Prozent schneller gewesen zu sein. METR betont, dass das eine Momentaufnahme mit den Werkzeugen von Anfang 2025 ist. Die Lehre bleibt: Wenn schon Profis ihre Arbeit mit KI falsch einschätzen, ist ein zweiter Blick keine Misstrauenserklärung. Und wer weiß, wie der Weg in den Betrieb aussieht, zeigt ein Werkzeug eher vor, statt es im Verborgenen laufen zu lassen.
Was das zweite Augenpaar konkret prüft
Die Prüfung ist kein Code-Review. Das zweite Augenpaar stellt vier Fragen in Alltagssprache. Wer das Werkzeug gebaut hat, sollte die Antworten auf einer halben Seite aufschreiben können. Gelingt das nicht, ist das bereits ein Befund.
Vor den vier Fragen steht eine Vorfrage: Bewertet oder beobachtet das Werkzeug Beschäftigte oder Bewerber, erkennt es Emotionen, verarbeitet es biometrische Daten oder entscheidet es über Menschen? Dann ist es kein Fall für das zweite Augenpaar, sondern für eine rechtliche Prüfung vor jedem Einsatz. Manche dieser Anwendungen verbietet die KI-Verordnung seit Februar 2025 ganz, etwa die Emotionserkennung am Arbeitsplatz (Art. 5).
1. Welche Daten fließen wohin?
Mit welchen Daten arbeitet das Werkzeug: Kundendaten, Preise, Personaldaten? Wo liegen sie, wer kann sie sehen, und wandern Inhalte in ein privates KI-Konto oder zu einem externen Dienst? Die Frage ist nicht theoretisch. Im Mai 2025 wurde eine Schwachstelle bei Anwendungen öffentlich gemacht, die mit einer verbreiteten Plattform für KI-generierte Apps erstellt worden waren. Es fehlten Zugriffsregeln auf die Datenbank, Fremde konnten ohne Anmeldung Tabellen lesen und verändern. Der Anbieter bestreitet die Schwachstelle und sieht die Verantwortung für den Datenschutz bei den App-Betreibern, so der Vermerk in der Datenbank. Die Apps funktionierten. Sie standen nur offen.
2. Wer ist verantwortlich, wenn es ausfällt?
Wer merkt, dass es falsche Ergebnisse liefert? Wer repariert es, wenn die Person, die es gebaut hat, im Urlaub ist oder geht? Ein Werkzeug, das nur ein Kopf versteht, ist ein Betriebsrisiko, auch wenn es heute tadellos läuft.
3. Ist nachvollziehbar, was das Werkzeug tut?
Kann die Person, die es gebaut hat, in eigenen Worten erklären, was das Werkzeug rechnet, filtert oder entscheidet? Der Prüfer testet es mit zwei oder drei Fällen, deren richtiges Ergebnis er kennt. Kommt heraus, was herauskommen soll?
4. Gibt es einen Rückweg?
Was passiert, wenn das Werkzeug Daten beschädigt oder ausfällt? Gibt es eine Sicherungskopie, die unabhängig vom Werkzeug existiert? Kennt das Team den Ablauf noch ohne Werkzeug? Im Juli 2025 löschte bei einem öffentlich begleiteten Vibe-Coding-Experiment der KI-Agent der Plattform Replit die Produktionsdatenbank, obwohl ausdrücklich ein Änderungsstopp galt. Danach erzeugte er gefälschte Daten und behauptete, eine Wiederherstellung sei unmöglich. Das stimmte nicht, die Daten ließen sich zurückholen. Die Lehre für Sie: Den Rückweg prüfen Sie selbst und vorher. Auf die Auskunft des Werkzeugs verlassen Sie sich dabei nicht.
Wer prüft?
Der Prüfer muss kein Entwickler sein. Er braucht Prozess- und Datenverständnis: Wie läuft der Vorgang heute, welche Daten sind sensibel, was darf auf keinen Fall schiefgehen? Das kann jemand aus Controlling oder Qualitätsmanagement sein oder die Teamleitung einer Nachbarabteilung. Nur nicht die Person, die das Werkzeug gebaut hat. Geht es um personenbezogene Daten, ziehen Sie zusätzlich Ihren Datenschutzbeauftragten beratend hinzu; die Entscheidung über den Einsatz bleibt bei der verantwortlichen Führungskraft.
Eine Grenze gilt: Die Sicherheit des Codes selbst kann ein Fachprüfer nicht beurteilen. Dafür braucht es, wie BSI und ANSSI betonen, erfahrene Entwickler. Deshalb reicht das zweite Augenpaar für Teamwerkzeuge, geschäftskritische Werkzeuge gehören zusätzlich zur IT.
Bleibt eine der vier Fragen offen, geht das Werkzeug noch nicht in den Betrieb. Das ist kein Veto, sondern eine Aufgabe mit klarem Ende.
Freigabe-Stufen statt Pauschalverbot
Der naheliegende Reflex der Geschäftsführung: erst einmal alles verbieten, bis die IT geprüft hat. Die Bitkom-Zahlen vom Anfang zeigen, dass die Nutzung längst stattfindet. Ein Verbot beendet sie nicht, es macht sie unsichtbar. Besser ist eine Unterscheidung nach Wirkung, in drei Stufen, die an die Schwelle der einen Regel anknüpfen.
| Stufe | Wann | Beispiel | Prüfung |
|---|---|---|---|
| 1: Persönliches Hilfsmittel | Nur die Person, die es gebaut hat, nutzt es. Keine echten Kundendaten, kein Geld, keine Wirkung nach außen. | Ein Skript, das die eigenen Notizen sortiert | Keine formelle Prüfung. Bedingungen: nur vom Unternehmen freigegebene KI-Zugänge, keine personenbezogenen oder vertraulichen Daten. |
| 2: Teamwerkzeug | Andere verlassen sich auf die Ergebnisse, oder das Werkzeug berührt Kundendaten, Geld oder externe Kommunikation. | Der Angebotsrechner, den der ganze Vertrieb nutzt | Zweites Augenpaar vor dem Einsatz, mit den vier Fragen oben |
| 3: Geschäftskritisches Werkzeug | Ein Ausfall oder Rechenfehler stört den Betrieb, verfälscht Rechnungen oder trifft Kunden direkt. | Ein Skript, das Zahlungsläufe vorbereitet | Zusätzlich IT, bei vielen Mittelständlern der externe IT-Dienstleister: Zugriffsrechte, Datensicherung, Betrieb, Wartung |
Entscheidend ist der Übergang zwischen den Stufen. Werkzeuge wachsen. Aus dem persönlichen Hilfsmittel wird ein Teamwerkzeug, weil Kollegen es nützlich finden. Das ist gewollt. Mit der Nutzung steigt aber die Stufe und damit die Prüfung. Die Regel dafür ist einfach: Wer ein Werkzeug weitergibt, meldet es zur Prüfung an.
Ab Stufe 2 steht außerdem für jedes Werkzeug fest, wer es gebaut hat, wer es geprüft hat und wer es betreut. Das ist für den Einstieg der Kern von Governance im Mittelstand: geklärte Verantwortung, bevor es darauf ankommt. Mit wachsender Zahl und Bedeutung der Werkzeuge kommen Dokumentation, Änderungen, Zugriffsrechte und Stilllegung dazu.
Der rechtliche Rahmen in einem Absatz
Seit dem 2. Februar 2025 gilt Art. 4 der KI-Verordnung (AI Act), unabhängig von der Risikoklasse des Systems. In seiner ursprünglichen Fassung verpflichtete er Anbieter und Betreiber von KI-Systemen, Maßnahmen zu ergreifen, um nach besten Kräften ausreichende KI-Kompetenz ihres Personals sicherzustellen. Mit dem KI-Omnibus, Verordnung (EU) 2026/1744, wurde der Artikel neu gefasst. Die Kommission hatte den Omnibus im November 2025 vorgeschlagen; die Verordnung erschien am 24. Juli 2026 im Amtsblatt der EU und ist am 27. Juli 2026 in Kraft getreten. Seitdem ergreifen Anbieter und Betreiber Maßnahmen, um die Entwicklung der KI-Kompetenz zu fördern, und Kommission und Mitgliedstaaten unterstützen sie dabei. Wenn Ihre Mitarbeitenden mit KI-Assistenten Werkzeuge bauen oder Werkzeuge mit KI-Funktion einsetzen, kann diese Pflicht Sie betreffen. Tritt ein Werkzeug mit KI-Funktion direkt mit Kunden in Kontakt oder erzeugt es Texte oder Bilder für sie, können seit dem 2. August 2026 zusätzlich die Transparenzpflichten aus Art. 50 greifen. Der Datenschutz gilt für Eigenbauten genauso wie für eingekaufte Software: Verarbeitet ein Werkzeug personenbezogene Daten oder gibt es sie an einen externen KI-Dienst weiter, braucht es unter anderem eine Rechtsgrundlage und in der Regel einen Vertrag zur Auftragsverarbeitung. Das 4-Augen-Prinzip erfüllt keine dieser Pflichten allein. Es schafft aber einen festen Moment, in dem jemand fragt, welche Daten wohin fließen. Was der AI Act für Betreiber im Einzelnen verlangt, behandeln wir im Betreiber-Check zum AI Act.
Was Sie am Montag früh anders machen
Dafür brauchen Sie weder ein Projekt noch ein Budget. Vier Schritte reichen für den Anfang.
1. Sichtbar machen, was schon läuft. Fragen Sie in der nächsten Führungsrunde offen: Welche selbstgebauten Werkzeuge, Skripte, Makros oder kleinen Apps nutzen Ihre Teams heute? Wer nach Schuldigen sucht, bekommt Schweigen. Wer neugierig fragt, bekommt eine Liste. Eine einfache Tabelle genügt: Werkzeug, Zweck, wer es gebaut hat, welche Daten es nutzt.
2. Die Regel formulieren und erklären. Ein Satz genügt: "Bevor ein selbstgebautes Werkzeug mit echten Kundendaten, mit Geld oder mit Wirkung nach außen arbeitet, prüft es eine zweite Person." Erklären Sie ihn in den Teams statt per Rundmail, und sagen Sie dazu, was er nicht bedeutet: kein Verbot und keine Genehmigungsschleife für persönliche Hilfsmittel.
3. Prüfer benennen. Legen Sie fest, wer das zweite Augenpaar sein darf. Zwei oder drei Namen reichen, zum Beispiel eine erfahrene Teamleitung oder die Person, die Ihr CRM betreut. Alle im Haus sollten wissen, an wen sie sich wenden. Geben Sie den Prüfern die vier Fragen aus diesem Artikel mit.
4. Gute Beispiele zeigen. Wählen Sie aus Ihrer Liste zwei oder drei Werkzeuge aus, die funktionieren und geprüft sind. Lassen Sie die Menschen, die sie gebaut haben, im Teammeeting zeigen, welches Problem sie gelöst haben. Deutlicher können Sie nicht sagen, dass Eigeninitiative erwünscht ist und die Prüfung als normaler Schritt dazugehört, nicht als Strafe.
Der DORA-Report 2025 von Google beschreibt KI als Verstärker: Sie macht starke Teams besser und legt die Schwächen schwacher offen. Für selbstgebaute Werkzeuge heißt das: Wo Verantwortung geklärt ist, wird aus Neugier ein Vorteil. Wo sie fehlt, wächst das nächste Excel-Muster. Ihre Aufgabe ist, dieser Neugier einen Rahmen zu geben.
Wenn Sie einschätzen möchten, wo Ihr Unternehmen beim Einsatz von KI steht, ist die KI-Diagnose ein guter Einstieg. Wir begleiten Sie dabei, Freigabe-Stufen und Rollen so zu klären, dass sie zu Ihrem Haus passen.
Häufige Fragen
Sollten wir Vibe-Coding in den Fachabteilungen verbieten, bis die IT es freigibt?
Nein. Besser ist eine klare Regel: Eigenbauten sind mit freigegebenen KI-Zugängen erlaubt, aber keiner geht ohne zweite Prüfung in den Betrieb. Feste Grenzen gehören trotzdem dazu: keine vertraulichen Daten in private oder nicht freigegebene Dienste und keine Anwendungen, die das Gesetz verbietet.
Wer eignet sich als zweites Augenpaar, wenn wir keine eigene Entwicklungsabteilung haben?
Jemand, der Prozesse und Daten kennt und das Werkzeug nicht selbst gebaut hat, etwa aus Controlling, Qualitätsmanagement oder IT-Verantwortung. Der Datenschutzbeauftragte berät bei Datenfragen, gibt aber nicht selbst frei. Für geschäftskritische Werkzeuge braucht es zusätzlich technische Erfahrung, intern oder beim IT-Dienstleister.
Ab wann braucht ein selbstgebautes Werkzeug eine Prüfung?
Sobald es mit echten Kundendaten, Geld oder Wirkung nach außen arbeitet oder sich ein Team darauf verlässt. Und zwar vor dem ersten Einsatz, nicht nach dem ersten Fehler.
Bremst das 4-Augen-Prinzip nicht genau die Geschwindigkeit, die Vibe-Coding bringt?
Kaum, wenn die Prüfung schlank bleibt: eine Person, vier Fragen, ein kurzer Termin. Billiger lässt sich ein teurer Fehler im Betrieb kaum verhindern.
Welche Rolle spielt der AI Act bei selbstgebauten KI-Werkzeugen?
Art. 4 zur KI-Kompetenz gilt seit Februar 2025 und wurde mit dem KI-Omnibus, Verordnung (EU) 2026/1744, neu gefasst; diese ist seit dem 27. Juli 2026 in Kraft. Seitdem ergreifen Anbieter und Betreiber von KI-Systemen Maßnahmen, um die KI-Kompetenz ihres Personals zu fördern. Ein mit KI erzeugtes Skript ist nicht automatisch selbst ein KI-System; Pflichten können sich aber schon aus der beruflichen Nutzung des KI-Assistenten ergeben. Ob und wie das Ihre Eigenbauten betrifft, hängt vom Einzelfall ab. Das 4-Augen-Prinzip ersetzt keine rechtliche Prüfung, verankert das Thema aber im Arbeitsalltag.
Wie finden wir heraus, welche Eigenbauten bei uns schon im Einsatz sind?
Mit einer offenen Teamrunde ohne Schuldfrage, wie im ersten Montags-Schritt beschrieben. Zuerst geprüft wird, was Kundendaten, Geld oder Wirkung nach außen berührt.
Dieser Beitrag ist keine Rechtsberatung. Er gibt den Stand vom 3. September 2026 wieder.
Quellen
- Bitkom: Beschäftigte nutzen Schatten-KI, Presseinformation vom 21.10.2025
- Microsoft und LinkedIn: Work Trend Index 2024, AI at work is here. Now comes the hard part, 08.05.2024
- Wikipedia: Vibe coding, Version vom 31.08.2026, mit Wortlaut des Beitrags auf X vom 02.02.2025
- Collins Dictionary: Word of the Year 2025, 06.11.2025
- Veracode: 2025 GenAI Code Security Report, 30.07.2025
- BSI und ANSSI: AI Coding Assistants, 2024
- METR: Measuring the Impact of Early-2025 AI on Experienced Open-Source Developer Productivity, 10.07.2025
- NIST National Vulnerability Database: CVE-2025-48757, 30.05.2025
- The Register: Bericht zum Datenbank-Vorfall bei Replit, 21.07.2025
- Google Cloud: Announcing the 2025 DORA Report, 23.09.2025
- EUR-Lex: Verordnung (EU) 2024/1689 (KI-Verordnung)
- EU-Kommission: Digital Omnibus on AI Regulation Proposal, 19.11.2025
- EUR-Lex: Verordnung (EU) 2026/1744 (KI-Omnibus), Amtsblatt vom 24.07.2026