Ein Compliance-Team schließt die Inventarisierung seiner KI-Systeme gemäß EU-KI-Verordnung ab. Vier Tools, jedes einem Risikokatalog der Verordnung zugeordnet, jedes mit einem dokumentierten Verantwortlichen. Die Übung ist gründlich, belastbar und vollständig – auf dem Papier.
Doch sie beantwortet die falsche Frage. Das Inventar erfasst jedes System, von dem die Beschaffungsabteilung wusste. Es sagt nichts über das KI-Tool aus, das ein Mitarbeiter aus dem Marketing letzten Dienstag in einem Browser-Tab geöffnet hat, um eine Präsentation schneller fertigzustellen – das Tool, nach dem niemand gefragt hat, weil niemand wusste, dass er danach fragen sollte.
Der blinde Fleck, den die Klassifizierung nach EU-KI-Verordnung nicht erfasst
Shadow AI – generative KI-Tools, die ohne Genehmigung oder Sichtbarkeit durch das Unternehmen genutzt werden – ist keine neue Risikokategorie. Es ist dasselbe Problem der Schatten-IT, das Unternehmen seit Jahren bewältigen, nur dass das Tool nun Daten, die ein Mitarbeiter eingibt, verarbeitet, zusammenfasst und analysiert. Das verändert die Geschwindigkeit, mit der aus einer kleinen Bequemlichkeit ein ungeplantes Risiko wird.
Gartner befragte im November 2025 302 Cybersicherheitsexperten. 69 % vermuten bereits oder haben Beweise dafür, dass Mitarbeiter generative KI-Tools nutzen, die nie genehmigt wurden. Diese Zahl beschreibt die Gegenwart, nicht ein zukünftiges Risiko.
„Jeder CISO, mit dem ich spreche, hat irgendeine Form von Shadow AI entdeckt“, sagt Andrew Walls, VP Analyst bei Gartner (CSO Online, März 2026). Das Zitat ist weniger bemerkenswert für das, was es über ein einzelnes Unternehmen aussagt, als vielmehr dafür, wie universell dieses Muster geworden ist.
Die betroffenen Tools sind selten exotisch. Es sind dieselben Chat-Assistenten und Schreibhilfen für Endverbraucher, die auch privat genutzt werden. Sie werden am Arbeitsplatz eingesetzt, weil sie ein echtes Problem schneller lösen als die genehmigte Alternative – oder weil es für diese spezifische Aufgabe gar keine genehmigte Alternative gibt.
Was die Daten für die Zukunft vorhersagen
Die Forschung von Gartner geht über die Beschreibung des Ist-Zustands hinaus. Das Unternehmen erwartet, dass bis 2030 mehr als 40 % der Unternehmen einen Sicherheits- oder Compliance-Vorfall im Zusammenhang mit nicht autorisierter Shadow AI erleben werden (Gartner, November 2025). Dies ist die Prognose, dass ein erheblicher Teil der KI-bezogenen Vorfälle auf diese Weise entstehen wird – nicht durch die Systeme, die klassifiziert und überwacht wurden, sondern durch jene, die es nicht wurden.
Diese Zukunft ist bereits in der Gegenwart sichtbar. Der „Cost of a Data Breach Report 2025“ von IBM ergab, dass Shadow AI bereits an 20 % der Sicherheitsverletzungen beteiligt ist und die Kosten eines Vorfalls um durchschnittlich 670.000 US-Dollar erhöht. Unter den Unternehmen, die von einer solchen Verletzung betroffen waren, verfügten 63 % über keinerlei KI-Governance-Richtlinie.
Wo die Klassifizierung nach EU-KI-Verordnung und Shadow AI kollidieren
Artikel 6 der EU-KI-Verordnung legt fest, wie Unternehmen KI-Systeme nach Risikostufen klassifizieren. Der Klassifizierungsprozess funktioniert nur bei Systemen, von deren Betrieb das Unternehmen weiß. Er bietet keinen Mechanismus für ein Tool, das niemand registriert hat, da der Artikel davon ausgeht, dass die Liste, auf die er angewendet wird, vollständig ist.
Ein Unternehmen kann eine vollständig dokumentierte, Artikel-6-konforme Klassifizierung jedes Systems in seinem offiziellen Inventar haben und dennoch das von Gartner beschriebene Risiko tragen – weil die Tools, die dieses Risiko verursachen, nie auf der Liste standen. Das Compliance-Programm ist nicht falsch. Es beantwortet nur eine engere Frage als die, die das tatsächliche Risiko bestimmt.
Wie die Durchsetzung der EU-KI-Verordnung aussieht
Dies ist keine theoretische Lücke. Die Strafbestimmungen der Verordnung geben den Regulierungsbehörden die Befugnis, Unternehmen bei Nichteinhaltung operativer Verpflichtungen – einschließlich Klassifizierungsfehlern – mit Bußgeldern von bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes zu belegen, je nachdem, welcher Betrag höher ist. Diese Durchsetzungsbefugnisse gelten unabhängig davon, ob das Risiko von einem System ausging, das dem Unternehmen bekannt war, oder von einem, das es nicht war.
Diese Unterscheidung ist wichtig dafür, wie ein Vorstand dieses Risiko bewerten sollte. Ein System, das nie klassifiziert wurde, weil niemand von seiner Existenz wusste, zieht keine geringere Strafe nach sich als eines, das falsch klassifiziert wurde. Aus Sicht einer Regulierungsbehörde stellen beide das gleiche grundlegende Versäumnis dar: ein Unternehmen, das nicht nachweisen kann, welche KI es einsetzt.
Wichtige Erkenntnis: Die Compliance-Lücke bei Shadow AI ist verhaltensbedingt, nicht administrativ
Der Instinkt, wenn diese Lücke auftaucht, ist es, eine bessere Richtlinie zu schreiben oder eine weitere Sensibilisierungskampagne durchzuführen, die die Mitarbeiter daran erinnert, welche Tools genehmigt sind. Beides geht nicht auf die Ursache der Lücke ein.
Mitarbeiter nutzen nicht genehmigte KI-Tools aus einem banalen Grund: Das Tool beschleunigt eine Aufgabe, und der Genehmigungsprozess – falls überhaupt vorhanden – dauert länger als die Deadline. Die meisten Mitarbeiter, die ein nicht genehmigtes Tool verwenden, wissen, dass es eine Richtlinie gibt. Sie treffen unter Zeitdruck eine Abwägung, welches Risiko unmittelbarer erscheint: eine Deadline zu verpassen oder gegen eine Regel zu verstoßen, die sich abstrakt und fern anfühlt.
Um diese Lücke zu schließen, muss das Verhalten erkannt werden, während es geschieht – im Netzwerkverkehr, in der Browseraktivität, im Muster der Datenbewegungen –, anstatt es im Nachhinein in einem Richtliniendokument zu beschreiben. Ein Tool, das aktiv genutzt wird, erzeugt ein echtes Signal, lange bevor es zu einem Vorfall führt.
Für Compliance- und Sicherheitsverantwortliche, die ein Programm zum EU AI Act aufbauen, ergeben sich daraus vier Punkte.
Erstens: Ein KI-Inventar, das ausschließlich auf Beschaffungsunterlagen basiert, ist immer unvollständig. Es spiegelt wider, was genehmigt wurde, nicht was tatsächlich im Einsatz ist – und jede Klassifizierung, die nur auf diesem Inventar aufbaut, übernimmt diese Lücke.
Zweitens: Die Erkennung von Shadow AI ist keine reine Entscheidung der Technologiebeschaffung. Es ist ein Problem der Sichtbarkeit, das gelöst werden muss, bevor eine Klassifizierung vollständig sein kann, denn ein Unternehmen kann kein System klassifizieren, dessen Existenz es nicht bestätigt hat.
Drittens: Die Reaktion auf ein entdecktes Shadow-AI-Tool ist genauso wichtig wie die Entdeckung selbst. Wenn jeder Fall als Disziplinarmaßnahme behandelt wird, treibt man die Nutzung nur weiter in den Untergrund. Wenn man es hingegen als Signal begreift – und fragt, warum jemand zu diesem Tool gegriffen hat und welches Bedürfnis eine genehmigte Alternative nicht erfüllen konnte –, schließt man die Lücke schneller als durch eine bloße Verschärfung der Richtlinien.
Viertens: Betrachten Sie die Ergebnisse als Input für den Klassifizierungsprozess, nicht als einmalige Aufräumaktion. Ein Tool, das heute entdeckt und entfernt wird, verhindert nicht, dass nächsten Monat unter demselben Druck das nächste auftaucht. Die Sichtbarkeit muss kontinuierlich sein und darf keine einmalige Prüfung vor einer Frist bleiben.
Der EU AI Act bietet Unternehmen eine echte Struktur für das Management von KI-Risiken. Diese Struktur war jedoch nie dafür gedacht, das Problem der fehlenden Übersicht über die tatsächlich genutzte KI zu lösen.
Die Unternehmen, die dieses Risiko in den kommenden Jahren am effektivsten reduzieren, werden nicht diejenigen mit der vollständigsten Dokumentation sein. Es werden diejenigen sein, die sehen, was ihre Mitarbeiter tatsächlich nutzen – bevor eine Aufsichtsbehörde oder ein Vorfall dies für sie übernimmt.
.png)
