Eine Vertriebsmitarbeiterin lässt ein Angebot von einem Chat-Assistenten umformulieren, ein Einkäufer fasst einen Lieferantenvertrag zusammen, ein Kollege in der Personalabteilung lässt sich bei einer schwierigen Absage helfen. Alle drei nutzen dafür einen Dienst, den sie privat kennen, im Browser, mit ihrem eigenen Konto. Niemand hat das freigegeben, und meist weiß es auch niemand. Für diese Art der Nutzung hat sich der Begriff Schatten-KI eingebürgert, nach dem Vorbild der älteren Schatten-IT.
Der Landesbeauftragte für den Datenschutz Niedersachsen beschreibt sie in seinen Fragen und Antworten zu KI als unautorisierte Nutzung von KI-Systemen im beruflichen Kontext: Beschäftigte nutzen im Web verfügbare Systeme, ohne dass diese in die IT des Unternehmens eingebunden sind und ohne dass die Nutzung genehmigt wurde.
Warum sie entsteht
Schatten-KI ist selten Absicht und fast nie Bosheit. Die Werkzeuge sind kostenlos oder billig, sofort verfügbar und für viele Büroaufgaben tatsächlich nützlich. Wer gute Erfahrungen privat gemacht hat, greift im Beruf ganz selbstverständlich darauf zurück, besonders wenn das Unternehmen nichts Vergleichbares anbietet.
Die Datenschutzkonferenz hat das bereits 2024 in ihrer Orientierungshilfe zu KI nüchtern festgehalten: Ohne klare Regeln bestehe das Risiko, dass Beschäftigte KI-Anwendungen eigenmächtig und unkontrolliert nutzen, und es sei davon auszugehen, dass dies in vielen Unternehmen und Behörden bereits Realität ist. Wer also keine Regel hat, hat in aller Regel trotzdem KI im Haus, nur ohne Überblick.
Was dabei schiefgehen kann
Daten verlassen das Unternehmen ohne Vertrag. Ein privates Konto unterliegt den Bedingungen, die der Anbieter mit einer Privatperson vereinbart, nicht einem Vertrag zur Auftragsverarbeitung mit dem Unternehmen. Ob Eingaben gespeichert, ausgewertet oder für das Training verwendet werden, entscheidet dann die Einstellung im privaten Konto. Der niedersächsische Landesbeauftragte sieht vor allem die Gefahr, dass personenbezogene Daten unkontrolliert und ohne Rechtsgrundlage verarbeitet werden. Wo der Anbieter die Daten verarbeitet, ist ebenfalls offen, und damit die Frage der Datensouveränität.
Geschäftsgeheimnisse verlieren an Schutz. Das Geschäftsgeheimnisgesetz schützt eine Information nur, wenn ihr Inhaber den Umständen nach angemessene Geheimhaltungsmaßnahmen ergriffen hat (§ 2 Nr. 1 Buchst. b GeschGehG). Wer Kalkulationen, Konstruktionsdaten oder Vertragsentwürfe ungeregelt in fremde Dienste fließen lässt, schwächt im Streitfall seine eigene Position. Ob das im Einzelfall den Schutz kostet, ist eine Rechtsfrage; vermeiden lässt sich das Risiko leichter als ausfechten.
Ergebnisse sind nicht nachvollziehbar. Ein Text, der mit KI-Hilfe entstanden ist, sieht aus wie jeder andere. Erfindet das Modell eine Vertragsklausel oder einen Zahlenwert, fällt das nur auf, wenn jemand prüft. Bei Schatten-KI weiß der Prüfende nicht einmal, dass er danach suchen müsste.
Das Unternehmen trägt Pflichten, ohne davon zu wissen. Nach der KI-Verordnung ist Betreiber, wer ein KI-System in eigener Verantwortung beruflich verwendet. Daran knüpft unter anderem die Pflicht nach Art. 4, die KI-Kompetenz des Personals zu fördern. Ein Unternehmen, das nicht weiß, welche Werkzeuge im Einsatz sind, kann diese und andere Pflichten nur schwer erfüllen.
Warum ein Verbot allein selten trägt
Der naheliegende Reflex ist ein Verbot. Rechtlich ist das möglich, und der niedersächsische Landesbeauftragte nennt die Dienstanweisung ausdrücklich als Weg, Schatten-KI zu untersagen. Er verbindet das aber mit der Aufforderung, bewusst zu entscheiden, welche KI-Systeme unter welchen Bedingungen eingesetzt werden sollen. Ein Verbot ohne Alternative birgt die Gefahr, dass die Nutzung auf das private Telefon ausweicht, wo das Unternehmen noch weniger sieht.
Die Datenschutzkonferenz geht deshalb den anderen Weg. Für die berufliche Nutzung sollen Arbeitgeber Geräte und Konten zur Verfügung stellen. Beschäftigte sollen nicht auf private Konten und Geräte angewiesen sein, auch weil sonst Profile über sie bei den Anbietern entstehen können.
Ein Umgang, der funktioniert
Erst hinsehen, dann regeln. Eine Umfrage ohne Schuldzuweisung zeigt, welche Werkzeuge für welche Aufgaben genutzt werden. Sie zeigt auch, wo der Bedarf liegt, und ist damit die beste Vorlage für die Auswahl freigegebener Dienste.
Ein freigegebenes Werkzeug anbieten. Ein Geschäftskonto mit Vertrag zur Auftragsverarbeitung, abgeschaltetem Training auf Eingaben und, wie die Datenschutzkonferenz empfiehlt, ohne Speicherung der Eingabe-Historie über die Sitzung hinaus. Es muss für die häufigsten Aufgaben ähnlich gut sein wie das, was die Beschäftigten privat kennen, sonst bleibt es ungenutzt.
Eine Regel, die man versteht. Welche Werkzeuge sind erlaubt, welche Daten dürfen hinein und welche nie, wer prüft Ergebnisse, bevor sie nach außen gehen? Die Datenschutzkonferenz empfiehlt, konkrete Beispiele erlaubter und untersagter Einsätze aufzuschreiben. Eine Seite mit Beispielen aus dem eigenen Alltag hilft mehr als zehn Seiten Grundsätze.
Schulen, was im Alltag zählt. Warum ein Modell überzeugend falsch liegen kann, welche Daten tabu sind, wie man Ergebnisse prüft. Das ist zugleich der Kern dessen, was Art. 4 der KI-Verordnung als KI-Kompetenz verlangt.
Einen Weg für neue Wünsche öffnen. Neue Werkzeuge erscheinen ständig. Wenn es einen einfachen Weg gibt, eines prüfen und freigeben zu lassen, wird er genutzt. Wenn nicht, entsteht die nächste Schatten-KI.
Der Betriebsrat und die Frage der Überwachung
Wo ein Betriebsrat besteht, hängt seine Beteiligung auch davon ab, wie die Nutzung organisiert ist. Das Arbeitsgericht Hamburg hat in einem Eilverfahren im Januar 2024 entschieden, dass ein Arbeitgeber, der die Nutzung von ChatGPT über private Konten der Beschäftigten erlaubt und dafür Regeln aufstellt, den Betriebsrat dafür nicht beteiligen musste. Ein tragender Grund war, dass der Arbeitgeber keinen Zugriff auf die beim Hersteller entstehenden Daten hatte.
Stellt das Unternehmen dagegen selbst ein Werkzeug mit eigenen Konten und Protokollen bereit, liegt ein Mitbestimmungsrecht nach § 87 Abs. 1 Nr. 6 BetrVG nahe. Nach der Rechtsprechung des Bundesarbeitsgerichts genügt es, dass eine technische Einrichtung objektiv geeignet ist, Verhaltens- oder Leistungsdaten zu erheben, eine Überwachungsabsicht ist nicht nötig. Das ist kein Grund, beim Schatten zu bleiben, sondern einer, den Betriebsrat früh einzubinden. Wie man solche Einführungen insgesamt angeht, beschreibt der Eintrag Change Management. Dieser Eintrag ist ein Überblick und keine Rechtsberatung. Die Ausgestaltung im eigenen Betrieb sollte man mit Datenschutzbeauftragtem und Arbeitsrecht klären.
Quellen
- FAQ Künstliche Intelligenz, Der Landesbeauftragte für den Datenschutz Niedersachsen, 2026
- Orientierungshilfe Künstliche Intelligenz und Datenschutz, Version 1.0, Datenschutzkonferenz, 2024
- Verordnung (EU) 2024/1689 (KI-Verordnung), Art. 3 Nr. 4 und Art. 4, Amtsblatt der Europäischen Union, EUR-Lex, 2024
- Gesetz zum Schutz von Geschäftsgeheimnissen, § 2, Bundesministerium der Justiz, gesetze-im-internet.de
- ChatGPT: Keine Beteiligungsrechte bei privaten Accounts (zu ArbG Hamburg, Beschluss vom 16. Januar 2024, 24 BVGa 1/24), Legal Tribune Online, 2024
- Beschluss vom 13. Dezember 2016, 1 ABR 7/15, Bundesarbeitsgericht, 2016
Inhaltlich geprüft im Oktober 2026. Der Eintrag erklärt einen Begriff und ersetzt keine Rechts- oder Steuerberatung.

