Shadow AI: Wie ein ChatGPT-Prompt Ihr Unternehmen 670.000 Euro kosten kann
IBM-Report 2025: Shadow AI verursacht 670.000 € extra pro Datenvorfall. Was passiert, wenn Mitarbeiter private Chatbots mit Geschäftsdaten füttern.
Wie ein Halbleiter-Ingenieur das ChatGPT-Verbot bei Samsung ausgelöst hat
Im April 2023 saß ein Samsung-Ingenieur vor einem Problem. Eine Zeile Quellcode für einen vertraulichen Halbleiterprozess funktionierte nicht. Er fügte den Code in ChatGPT ein, bekam einen Lösungsvorschlag und setzte das Projekt fort. Vermutlich war er stolz auf seine Effizienz.
Drei Wochen später hatten zwei weitere Mitarbeiter ähnliches getan: einer hatte ein vertrauliches Meeting transkribieren lassen, ein anderer eine Testsequenz für die Halbleiterproduktion optimieren lassen. Samsung zog die Reißleine und verbot weltweit alle Generative-AI-Tools für Beschäftigte. Die Daten waren zu diesem Zeitpunkt allerdings schon an einen externen Server geflossen, und befanden sich damit nicht mehr unter Samsungs Kontrolle.
Diese Geschichte taucht seither in jedem Compliance-Vortrag auf. Was sich seither nicht geändert hat, ist die Häufigkeit. Wir sehen in praktisch jedem Mandantengespräch dasselbe Muster, nur ohne Schlagzeile.
Die Zahl, die jeder Geschäftsführer kennen sollte
IBM hat 2025 über 600 Unternehmen weltweit nach Datenvorfällen befragt. Der zentrale Befund:
Ein Vorfall mit hoher Shadow-AI-Aktivität kostet Unternehmen im Schnitt 670.000 Euro mehr als ein vergleichbarer Vorfall ohne KI-Bezug.
Dazu:
- Eines von fünf Unternehmen meldete bereits einen Vorfall mit Shadow-AI-Bezug
- 97 % der betroffenen Organisationen hatten keinerlei Zugriffskontrollen für KI-Tools
- 63 % haben überhaupt keine KI-Governance-Richtlinie im Haus
- Bei zwei Dritteln dieser Vorfälle waren Kundendaten betroffen
Das ist kein theoretisches Risiko mehr. Für jedes fünfte Unternehmen ist es bereits Realität. Bei den anderen vier ist es eine Frage der Wahrscheinlichkeit, nicht der Möglichkeit.
Drei Szenarien, die wir jede Woche in der Praxis sehen
Szenario eins. Eine Sachbearbeiterin im Vertriebsinnendienst eines DACH-Mittelständlers hat 60 Minuten, um auf eine komplexe Kundenanfrage zu antworten. Sie kopiert die Anfrage samt Kundenname, Bestellhistorie und Vertragsbedingungen in ChatGPT, bittet um einen Antwortvorschlag, schickt eine sehr gute Antwort raus. Die Daten sind beim Anbieter. Ob sie für Training genutzt werden, hängt vom Account-Typ ab, und den hat sie selbst eingerichtet, mit privater E-Mail.
Szenario zwei. Ein Bereichsleiter sitzt am Sonntagabend an einer Präsentation für die Vorstandssitzung am Montag. Er fügt vertrauliche Quartalszahlen in einen Chatbot ein, um die Formulierungen zu glätten. Privates Notebook, nicht das vom Arbeitgeber. Daten draußen, keine Spur in der IT-Logfiles.
Szenario drei. Ein Werkstudent im Marketing soll bis Donnerstag eine Konkurrenzanalyse erstellen. Er nutzt dafür ein KI-Tool, das er auf TikTok entdeckt hat. Der Anbieter sitzt irgendwo, der Datenstandort ist nirgendwo dokumentiert. Möglicherweise China. Möglicherweise EU. Niemand hat je geprüft.
Laut LayerX-Report 2025 kopieren 77 % der Beschäftigten in größeren Unternehmen regelmäßig Inhalte in Chatbots. 68 % nutzen dabei kostenlose Versionen über private Accounts. Mehr als die Hälfte gibt dabei sensible Informationen ein. Das sind keine Ausreißer. Das ist der Normalfall.
Was DSGVO und EU AI Act dazu sagen
Die Daten Ihrer Kundinnen und Kunden in ChatGPT.com einzugeben, ist nicht nur ein gefühltes Problem. In vielen Fällen ist es ein Rechtsbruch.
Die DSGVO verlangt, dass Sie wissen, wo personenbezogene Daten verarbeitet werden, wer sie sieht, und auf welcher Rechtsgrundlage. Ein Mitarbeiter, der Daten in ein nicht-freigegebenes Tool eingibt, schafft eine Datenverarbeitung, die Sie weder geprüft noch vertraglich abgesichert noch dokumentiert haben. Im Schadensfall haftet die Geschäftsführung, nicht der einzelne Mitarbeiter.
Ab dem 2. August 2026 kommt der EU AI Act mit zusätzlichen Strafen hinzu. Bei verbotenen Praktiken bis 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes, der höhere Betrag gilt. Was bis dahin in Ihrem Unternehmen stehen muss, haben wir im EU-AI-Act-Fahrplan zusammengefasst.
Was funktioniert und was nicht
Das erste, was viele Unternehmen tun, ist auch das schwächste: ein Verbot. ChatGPT im Browser sperren, alle KI-Tools blockieren, Drohbrief vom CISO. Das löst das Problem nicht, es schiebt es nur ins Verborgene. Mitarbeitende nutzen dann Smartphones, Privatgeräte oder eine der dutzenden Alternativen, die sie auf LinkedIn empfohlen bekommen haben. Sie können nichts mehr messen, aber Daten fließen weiter.
Was tatsächlich wirkt, ist diese Reihenfolge:
Erstens: eine offiziell freigegebene, sichere Alternative anbieten. Solange Ihre Beschäftigten keine gute, sanktionierte Lösung haben, finden sie suboptimale. Für Schreibarbeit und Recherche reicht oft schon Microsoft 365 Copilot Enterprise. Für tieferen Wissenszugriff ein Corporate LLM auf eigener Infrastruktur.
Zweitens: eine kurze, klare Acceptable-Use-Policy. Drei Seiten, keine Juristensprache. Was darf rein, was nicht, was tun bei Unsicherheit.
Drittens: schulen, nicht belehren. Mitarbeitende, die verstehen, warum etwas ein Problem ist, halten sich besser an Regeln als solche, die nur eine PDF unterschrieben haben.
Viertens: den Vorstand mit ehrlichen Zahlen briefen. Wer als Geschäftsführung nicht weiß, wo das eigene Unternehmen aktuell steht, kann nicht entscheiden, wo es morgen stehen soll.
Jetzt starten
Shadow AI ist nicht reversibel. Daten, die einmal das Unternehmen verlassen haben, kommen nicht zurück. Das Risiko lässt sich aber kontrollieren, wenn Sie es jetzt adressieren und nicht erst nach dem ersten Vorfall. Wir unterstützen DACH-Unternehmen bei Bestandsaufnahme, Policy-Entwurf und der Einführung sicherer Alternativen. Melden Sie sich, wenn das bei Ihnen ein Thema ist.
Quellen
- IBM Security, „Cost of a Data Breach Report 2025"
- IBM Newsroom, „13 % of Organizations Reported Breaches of AI Models or Applications, 97 % of Which Lacked Proper AI Access Controls", Juli 2025
- LayerX, „Enterprise AI and SaaS Data Security Report 2025"
- Bloomberg, „Samsung Bans Generative AI Use by Staff After ChatGPT Data Leak", Mai 2023
- EU AI Act, Artikel 99 (Sanktionen)
Häufig gestellte Fragen
Was ist Shadow AI konkret?
Shadow AI bezeichnet die Nutzung von KI-Tools durch Mitarbeitende ohne Wissen oder Freigabe der IT- und Compliance-Abteilung. In der Praxis sind das überwiegend private ChatGPT-Accounts, in die Geschäftsdaten eingegeben werden, um schneller eine E-Mail, ein Konzept oder eine Analyse zu erstellen. Studien zeigen: Über zwei Drittel der Beschäftigten in größeren Unternehmen nutzen solche Tools regelmäßig, meist mit guten Absichten, fast immer ohne Bewusstsein für die Konsequenzen.
Reicht es, ChatGPT.com im Browser zu sperren?
Nein, und das aus drei Gründen. Mitarbeitende nutzen Smartphones, Privatgeräte und mittlerweile Dutzende von Alternativen zu ChatGPT. Ein reines Verbot unterläuft Produktivität, ohne das Problem zu lösen, und schützt nicht vor Bußgeldern, falls bereits Daten geflossen sind. Wirkungsvoller ist eine freigegebene, sichere Alternative plus klare Richtlinien plus Schulung, in dieser Reihenfolge.
Welche Strafen drohen meinem Unternehmen?
Bei DSGVO-Verstößen drohen Bußgelder bis 20 Millionen Euro oder 4 % des weltweiten Jahresumsatzes, je nachdem welcher Betrag höher ist. Mit dem EU AI Act kommen ab August 2026 zusätzliche Strafen hinzu, im schlimmsten Fall bis 35 Millionen Euro oder 7 %. Hinzu kommen Reputationsschäden, Vertragsstrafen bei Kunden mit strengen Datenschutzanforderungen und in regulierten Branchen aufsichtsrechtliche Konsequenzen. Der durchschnittliche Zusatzschaden eines Shadow-AI-Vorfalls liegt laut IBM 2025 bei 670.000 Euro.
