Die Kosten von Shadow AI: Wie man KI-Risiken in einer sich verändernden Landschaft managt

Was ist Shadow AI?

Shadow AI bezeichnet die Nutzung von KI-Tools, einschließlich generativer KI, durch Mitarbeiter ohne Wissen, Genehmigung oder Aufsicht der IT- oder Sicherheitsteams.

Wie unterscheidet sich Shadow AI von Shadow IT?

Shadow AI ist eine spezifischere Weiterentwicklung von Shadow IT, der langjährigen Praxis der Nutzung nicht genehmigter Technologien am Arbeitsplatz. Der wesentliche Unterschied liegt in der Art des Risikos. Shadow IT kann dazu führen, dass Mitarbeiter sensible Daten oder geistiges Eigentum (IP) über einen öffentlichen Chatbot preisgeben oder für eine geschäftskritische Aufgabe auf ein KI-gestütztes Tool angewiesen sind – ohne Aufsicht, ohne Audit-Trail und ohne Möglichkeit, den Verlauf zu rekonstruieren.

Die Kosten eines unkontrollierten KI-Einsatzes für Unternehmen

Wenn ein Mitarbeiter einen vertraulichen Kundenvertrag in eine öffentliche ChatGPT-Sitzung einfügt, sind die Daten Ihres Kunden und Ihr Ruf unmittelbar gefährdet.

Der IBM’s Cost of a Data Breach Report 2025 zeigt, dass Shadow AI bei jedem fünften Sicherheitsvorfall eine Rolle spielte und dabei durchschnittlich $670.000 an zusätzlichen Kosten im Vergleich zu Organisationen mit wenig oder keiner Shadow AI verursachte. Damit gehört unkontrollierte KI zu den drei kostspieligsten Faktoren bei Sicherheitsvorfällen des Jahres. Gleichzeitig fehlten 97 % der Organisationen, die einen KI-bezogenen Sicherheitsvorfall erlebt hatten, angemessene KI-Zugriffskontrollen, und 63 % hatten überhaupt keine KI-Governance-Richtlinien.

Warum sich Shadow AI in Ihrer Organisation ausbreitet

Shadow AI ist größtenteils nicht das Ergebnis böswilliger Absicht. Mitarbeiter nutzen diese Tools, weil sie die Qualität ihrer Arbeit verbessern oder ihre Produktivität steigern möchten.

GenAI ist in Tools eingebettet, die Ihre Mitarbeiter bereits verwenden

Viele generative KI-Tools sind frei verfügbar, browserbasiert oder in SaaS-Produkte integriert, die Ihre Mitarbeiter täglich nutzen. Microsoft 365, Google Workspace, Notion, Slack und Hunderte anderer Plattformen haben KI-Funktionen in bestehende Abonnements eingebettet. Da diese Funktionen innerhalb bereits genehmigter Anwendungen angeboten werden, lösen sie selten die Prüfung aus, die eine neue Tool-Einführung mit sich bringen würde. IT- und Sicherheitsteams benötigen Richtlinien, die nicht nur neue Software, sondern auch neue KI-Funktionen in bestehenden Tools regeln.

Die meisten Organisationen haben noch keine KI-Governance-Richtlinie

63 % der Organisationen verfügen entweder über keinerlei KI-Governance-Richtlinien oder befinden sich noch in deren Entwicklung. Wenn keine Richtlinien für die KI-Nutzung existieren, treffen Mitarbeiter eigene Entscheidungen.

Das Ergebnis ist vorhersehbar. Wenn ein Sicherheitsteam eine KI-Nutzungsrichtlinie einführt, werden bereits Dutzende GenAI-Tools in aktiven Arbeitsabläufen eingesetzt.

Die Cybersicherheitsrisiken von Shadow AI

Shadow AI führt keine grundlegend neuen Risikokategorien ein. Es beschleunigt bekannte Cybersicherheitsversagen – nur über eine neue Schnittstelle. Im Kern geht es beim KI-Risiko nach wie vor um den Schutz von Daten, Systemen und Entscheidungsintegrität.

Datenexposition und Compliance-Verstöße

• Nicht autorisierte Datenverarbeitung: Mitarbeiter fügen sensible Daten in öffentliche KI-Tools ein, wo sie möglicherweise gespeichert, protokolliert oder für das Training verwendet werden.
• Regulatorische Nichteinhaltung: GDPR, der EU AI Act, DORA und NIS2 stellen strenge Anforderungen an die Datenverarbeitung. Die ungenehmigte Nutzung von KI schafft Lücken, die schwer zu auditieren oder zu rechtfertigen sind.
• Kein Audit-Trail: KI-gestützte Entscheidungen hinterlassen oft keine Aufzeichnungen über Eingaben, Ausgaben oder Benutzeraktionen, was die Untersuchung von Vorfällen und die Verantwortlichkeit erschwert.

Angriffsvektoren und Risiken der Modellintegrität

Shadow AI erweitert die Angriffsfläche auf eine Weise, die Sicherheitsteams nicht überwachen:

• Erweiterte Angriffsfläche: Nicht genehmigte Tools, APIs und Plug-ins schaffen unkontrollierte Einstiegspunkte in Unternehmensdaten
• Prompt injection: Bösartige Eingaben manipulieren Modelle, um Daten preiszugeben oder unbeabsichtigte Aktionen durchzuführen
• Datenleck über Ausgaben: Sensible Informationen können durch generierte Antworten offengelegt werden
• Nicht überprüfte Modelle: Unbekannte Trainingsdaten und -verhaltensweisen führen zu Risiken von Verzerrungen, Halluzinationen oder versteckter Datenexposition
• KI-Lieferkettenrisiko: Kompromittierte Drittanbieter-Tools oder -Integrationen können zu einem Einfallstor in interne Systeme werden

‍

Wie Shadow AI zu organisationalem Drift führt

Organisationaler Drift ist das, was genehmigte KI im Laufe der Zeit in Shadow AI verwandelt. Das macht organisationalen Drift zu einer besonderen Herausforderung in der KI-Governance. Das Risikoprofil eines Tools zum Zeitpunkt der Implementierung ist nicht dasselbe wie sechs oder zwölf Monate später.

SaaS-basierte KI-Tools liefern kontinuierlich neue Funktionen. Ein Tool, das für einen bestimmten Anwendungsfall bewertet und genehmigt wurde, kann unbemerkt die Fähigkeit erwerben, zusätzliche Datentypen zu verarbeiten, sich mit Drittanbieterdiensten zu verbinden oder autonomer zu agieren. Wenn diese Änderungen nicht neu bewertet werden, betreibt die Organisation effektiv ein nicht überprüftes Tool innerhalb eines genehmigten Rahmens.

Gleichzeitig stoßen neue Mitarbeiter zum Team. Und ohne laufende Cyber-Awareness-Schulungen, die speziell KI-Tools und akzeptable Nutzung abdecken, wissen Mitarbeiter möglicherweise nicht, was innerhalb der Richtlinien liegt und was nicht. Ein Entwickler, der nach der letzten Aktualisierung der KI-Richtlinie eingestellt wurde, hat keine verlässliche Möglichkeit zu wissen, was genehmigt ist und was nicht, es sei denn, diese Informationen werden aktiv kommuniziert.

Hier müssen Governance- und Risikoverantwortliche Hand in Hand arbeiten. Governance-Teams müssen Richtlinienänderungen klar und regelmäßig kommunizieren – nicht nur veröffentlichen. Risikoteams müssen mit der generativen KI-Landschaft Schritt halten und verfolgen, wie sich Tools weiterentwickeln und welche neuen Funktionen oder Integrationen die Exposition bereits genutzter Tools verändern könnten. Eine KI-Risikobewertung ist keine einmalige Übung. Die Landschaft, die sie abbilden soll, verändert sich ständig.

Wie man Shadow-AI-Risiken bewertet und managt: Ein 5-Schritte-Framework

Die Bewertung von KI-Risiken folgt derselben Struktur wie jede Technologie- oder Cyber-Risikobewertung: Assets identifizieren, Bedrohungsszenarien definieren, vorhandene Kontrollen bewerten und die Exposition quantifizieren. Die erste Herausforderung besteht darin, dass "KI" keine einzelne Technologie ist. LLMs, multimodale generative KI, in SaaS-Produkte eingebettete KI-Funktionen und maßgeschneiderte API-basierte Deployments haben unterschiedliche Fähigkeiten, Datenflüsse und Bedrohungsflächen, sodass der Umfang der KI-Risikobewertung die spezifisch eingesetzte Technologie widerspiegeln muss.

Das FAIR Institute hat basierend auf dem FAIR-Standard für KI eine Methode namens FAIR-AIR entwickelt. FAIR-AIR verwendet ein Fünf-Schritte-Framework:

1.     Kontextualisieren

Stellen Sie fest, warum Sie diese Bewertung durchführen und was sie antreibt. Regulatorischer Druck, ein kürzlich eingetretener Vorfall, ein neues KI-Deployment oder ein bevorstehender Audit führen zu unterschiedlichen Priorisierungen und unterschiedlichen Definitionen, was ein wesentliches Verlustereignis darstellt.

2.    Risikoszenarien eingrenzen

Identifizieren Sie für jedes KI-Deployment die Angriffsfläche, die plausiblen Bedrohungsakteure, die Angriffsmethode und das gefährdete Asset. Shadow-AI-Szenarien konzentrieren sich typischerweise auf drei Bereiche der CIA-Triade: Vertraulichkeit (Datenleck über öffentliche LLMs, Prompt injection), Integrität (Model Poisoning, verzerrte oder manipulierte Ausgaben) und Verfügbarkeit (Abhängigkeit von einem Drittanbieter-KI-Dienst ohne Fallback).

3.    Kritische gefährdete Assets identifizieren

Bestimmen Sie für jedes Szenario, auf welche Daten das Tool zugreifen kann oder als Eingabe erhält: personenbezogene Daten, Kundendaten, Quellcode, Finanzinformationen, interne Strategie. Die Sensibilität der Assets bestimmt den Schweregrad der Exposition und beeinflusst, welche Szenarien priorisiert werden sollen.

4.    Mit FAIR quantifizieren

Mit dem FAIR™-Framework liefert jedes Bedrohungsszenario eine Bandbreite wahrscheinlicher finanzieller Ergebnisse, einschließlich Eintrittshäufigkeit, erwartetem Verlust pro Ereignis und maximalem plausiblem Verlust. Dies gibt der Führungsebene eine Entscheidungsgrundlage, die Hoch/Mittel/Niedrig-Einstufungen nicht bieten können.

5.    Priorisieren und entscheiden

Identifizieren Sie basierend auf der quantifizierten Exposition, welche Kontrollen die beste Risikoreduktion pro ausgegebenem Euro liefern – ob durch den Einsatz eines privaten LLMs, die Durchsetzung der Datenklassifizierung vor der Nutzung von KI-Tools, die Implementierung KI-spezifischer DLP-Richtlinien oder die Verschärfung von Zugriffskontrollen. Das Ergebnis ist nicht nur eine priorisierte Liste: Es ist eine fundierte Empfehlung, wie zu handeln ist und was investiert werden sollte.

‍

C-Risk hilft Sicherheits- und Risikoverantwortlichen, ihre GenAI- und Shadow-AI-Risiken mithilfe des FAIR™-Frameworks zu bewerten und zu quantifizieren und die Exposition in finanzielle Begriffe zu übersetzen, die Entscheidungen vorantreiben und Vorstände überzeugen.

Wenn Sie eine neue KI-Initiative oder ein digitales Tool einführen und verstehen müssen, wie es Ihre Risikolandschaft verändert, bevor es live geht, liefert C-Risk quantifizierte Risikobewertungen für neue digitale Initiativen, die Projekt- und Sicherheitsverantwortlichen eine gemeinsame, finanziell fundierte Sicht auf die damit verbundenen Risiken verschaffen.