Eine KI-Richtlinie für Unternehmen legt verbindlich fest, welche Werkzeuge mit künstlicher Intelligenz Beschäftigte nutzen dürfen, welche Daten dabei verarbeitet werden und wer für Ergebnisse haftet. In vielen mittelständischen Betrieben nutzen Mitarbeitende längst generative Anwendungen, ohne dass Geschäftsführung oder IT davon wissen. Sie formulieren Angebote, fassen Verträge zusammen oder lassen Tabellen auswerten, und tun dies häufig über private Konten bei externen Anbietern. Dieses Phänomen wird als Schatten-KI bezeichnet.
Das Risiko liegt weniger in der Technik selbst als im Fehlen von Regeln. Wer Kundendaten, Konstruktionsunterlagen oder Personalinformationen in ein frei zugängliches Sprachmodell eingibt, kann gegen die DSGVO, gegen Vertraulichkeitsvereinbarungen und gegen das Geschäftsgeheimnisgesetz verstoßen. Gleichzeitig führt ein pauschales Verbot selten zum Ziel, weil es Innovation bremst und die Nutzung nur ins Verborgene verlagert. Dieser Beitrag beschreibt, wie Geschäftsführer und Fachverantwortliche eine tragfähige Richtlinie aufbauen, die Chancen ermöglicht und Risiken begrenzt.
Hinweis: Dieser Beitrag gibt ausschließlich die redaktionellen Ansichten der Redaktion von innovationimunternehmen.de wieder. Er stellt keine Rechtsberatung dar und ersetzt nicht die Beratung durch eine qualifizierte Rechtsanwältin oder einen qualifizierten Rechtsanwalt. Für rechtlich verbindliche Auskünfte zu Ihrem konkreten Fall wenden Sie sich bitte an einen zugelassenen Rechtsbeistand.
Titelbild: Foto von Luke Southern auf Unsplash.
Warum Schatten-KI entsteht und was sie riskant macht
Schatten-KI entsteht, weil der Nutzen für den Einzelnen unmittelbar spürbar ist, während die Risiken abstrakt bleiben. Eine Sachbearbeiterin, die mit Hilfe eines Sprachmodells in Minuten einen Textentwurf erhält, sieht zunächst nur den Zeitgewinn. Dass dabei Eingaben bei einem Anbieter außerhalb der Europäischen Union gespeichert oder zu Trainingszwecken verwendet werden können, ist ihr oft nicht bewusst. Auch die kostenlose Version eines Dienstes unterliegt anderen Nutzungsbedingungen als ein Unternehmensvertrag.
Die Risiken lassen sich in vier Gruppen ordnen: Datenschutz, Geheimnisschutz, Qualität und Urheberrecht. Beim Datenschutz geht es um die Rechtsgrundlage der Verarbeitung nach Art. 6 DSGVO, um Auftragsverarbeitung nach Art. 28 DSGVO und um Drittlandübermittlungen nach Kapitel V. Beim Geheimnisschutz verlangt § 2 des Geschäftsgeheimnisgesetzes angemessene Geheimhaltungsmaßnahmen, damit Informationen überhaupt als Geschäftsgeheimnis gelten. Eine ungeregelte Nutzung externer Dienste kann diesen Schutz schwächen.
Hinzu kommt die Qualität der Ergebnisse. Sprachmodelle erzeugen plausible, aber nicht immer zutreffende Aussagen. Werden diese ungeprüft in Angebote, Gutachten oder Kundenkommunikation übernommen, entstehen Haftungsrisiken, für die das Unternehmen einsteht. Eine Richtlinie muss daher nicht nur Eingaben, sondern auch den Umgang mit Ausgaben regeln.
Rechtlicher Rahmen: DSGVO, AI Act und Arbeitsrecht
Mehrere Regelwerke wirken zusammen. Die DSGVO gilt, sobald personenbezogene Daten verarbeitet werden, also auch dann, wenn ein Mitarbeiter einen Kundennamen in eine Eingabemaske schreibt. Die EU-Verordnung über künstliche Intelligenz (AI Act) verpflichtet Betreiber von KI-Systemen nach Art. 4, Maßnahmen zur KI-Kompetenz ihres Personals zu ergreifen. Eine Richtlinie ist dafür ein geeigneter Baustein, ersetzt aber keine Schulung.
Arbeitsrechtlich ist zu klären, ob ein Betriebsrat mitzubestimmen hat. Nach § 87 Abs. 1 Nr. 6 des Betriebsverfassungsgesetzes besteht ein Mitbestimmungsrecht bei der Einführung technischer Einrichtungen, die zur Überwachung von Verhalten oder Leistung geeignet sind. Das kann bei Werkzeugen mit Protokollfunktionen der Fall sein. Die Rechtstexte sind frei zugänglich, etwa über § 87 BetrVG auf gesetze-im-internet.de.
Für die Praxis genügt es, drei Fragen vor Erlass der Richtlinie zu beantworten: Werden personenbezogene Daten verarbeitet? Besteht ein Betriebsrat, der zu beteiligen ist? Welche Anbieter kommen in Betracht, und liegen Verträge zur Auftragsverarbeitung vor? Die Antworten bestimmen den Umfang der Regeln und den Zeitplan der Einführung.
Bestandsaufnahme: Welche Werkzeuge sind tatsächlich im Einsatz?
Bevor Regeln entstehen, braucht das Unternehmen ein realistisches Bild. Eine anonyme Kurzumfrage unter den Beschäftigten ist dafür geeigneter als eine technische Überwachung, weil sie Vertrauen schafft und ehrliche Antworten fördert. Gefragt wird, welche Anwendungen genutzt werden, für welche Aufgaben und mit welchen Daten.
Ergänzend kann die IT prüfen, welche Dienste im Netzwerk aufgerufen werden und welche Erweiterungen in Browsern oder Office-Programmen installiert sind. Wichtig ist, die Ergebnisse nicht als Anlass für Sanktionen zu nutzen. Wer Offenheit bestraft, erhält beim nächsten Mal keine ehrlichen Auskünfte mehr.
- Anonyme Befragung zu genutzten Anwendungen und Einsatzzwecken durchführen.
- Technische Sichtung der aufgerufenen Dienste und installierten Erweiterungen vornehmen.
- Nutzungsfälle nach Datenart und Risiko sortieren.
- Freigabefähige Werkzeuge und Einsatzzwecke festlegen, kritische Fälle zurückstellen.
Aufbau der KI-Richtlinie für Unternehmen: Bausteine und Inhalte
Eine gute Richtlinie ist kurz, konkret und überprüfbar. Zwei bis vier Seiten genügen im Mittelstand, wenn sie klar gegliedert sind. Geltungsbereich, Rollen, erlaubte und verbotene Nutzung, Umgang mit Daten, Prüfpflichten und Konsequenzen bilden das Grundgerüst. Die folgende Tabelle ordnet die Bausteine ihren typischen Inhalten zu.
| Baustein | Inhalt | Verantwortlich |
|---|---|---|
| Geltungsbereich | Alle Beschäftigten, Dienstleister und freie Mitarbeitende, alle Endgeräte | Geschäftsführung |
| Freigabeliste | Zugelassene Anwendungen mit Vertragsstatus und Einsatzzweck | IT und Datenschutz |
| Datenklassen | Welche Informationen eingegeben werden dürfen und welche nie | Datenschutzbeauftragte |
| Prüfpflicht | Menschliche Kontrolle vor Weitergabe oder Veröffentlichung | Fachvorgesetzte |
| Kennzeichnung | Wann KI-Unterstützung intern oder extern offenzulegen ist | Kommunikation, Fachbereiche |
| Meldewege | Vorfälle und Zweifelsfälle an eine feste Stelle melden | IT-Sicherheit |
Datenklassen als Herzstück
Die Datenklassen sind der wirksamste Teil der Richtlinie, weil sie Beschäftigten eine einfache Entscheidungshilfe geben. Üblich ist ein Ampelmodell: Grün sind öffentliche Informationen, gelb interne Informationen ohne Personenbezug, rot personenbezogene Daten, Geschäftsgeheimnisse und Kundendaten. Rote Daten dürfen nur in Werkzeugen mit Vertrag zur Auftragsverarbeitung und dokumentierter Freigabe verarbeitet werden.
Verbotene Nutzungen eindeutig benennen
Verbote wirken nur, wenn sie konkret sind. Beispiele sind die Eingabe von Bewerbungsunterlagen in nicht freigegebene Dienste, die automatische Bewertung von Beschäftigten ohne Beteiligung der Personalabteilung und die Übernahme von Rechtsauskünften ohne fachliche Prüfung. Je klarer die Liste, desto geringer der Auslegungsspielraum.
Qualitätssicherung und Verantwortung für Ergebnisse
Ein zentraler Grundsatz lautet: Die Verantwortung für ein Arbeitsergebnis liegt immer bei der Person, die es weitergibt. Dies gilt unabhängig davon, ob ein Text von Hand, mit Vorlagen oder mit KI-Unterstützung entstanden ist. Die Richtlinie sollte diesen Grundsatz ausdrücklich nennen und mit einer Prüfpflicht verbinden. Je höher die Außenwirkung, desto strenger die Prüfung.
Ein KI-System liefert Entwürfe, keine Entscheidungen. Wer ein Ergebnis weitergibt, übernimmt dafür die Verantwortung, als hätte er es selbst verfasst.
Praktisch bewährt sich eine Stufung nach Risiko. Interne Notizen und Brainstormings erfordern keine zusätzliche Kontrolle. Kundenkommunikation, Angebote und Berichte werden von einer fachkundigen zweiten Person gegengelesen. Verträge, Gutachten und sicherheitsrelevante Dokumente dürfen nur nach vollständiger inhaltlicher Prüfung durch die zuständige Fachstelle verwendet werden. Quellenangaben, Zahlen und Zitate aus KI-Ausgaben sind stets an Originalquellen zu verifizieren.
Auch das Urheberrecht verdient Beachtung. Inhalte, die ein System erzeugt, sind nicht in jedem Fall schutzfähig, und Ausgaben können fremde Werke ähneln. Für Marketingtexte, Bilder und Programmcode empfiehlt sich deshalb die Dokumentation, welches Werkzeug in welchem Umfang eingesetzt wurde.
Einführung: Schulung, Beteiligung und Kommunikation
Eine Richtlinie wirkt nur, wenn sie verstanden und gelebt wird. Bewährt hat sich ein dreistufiges Vorgehen. Zunächst wird ein kleiner Kreis aus Geschäftsführung, IT, Datenschutz, Personalwesen und gegebenenfalls Betriebsrat beteiligt und der Entwurf abgestimmt. Danach folgt ein Pilotbetrieb in ein bis zwei Abteilungen, der praktische Lücken sichtbar macht. Erst anschließend wird die Richtlinie unternehmensweit in Kraft gesetzt.
Schulungen sollten kurz und praxisnah sein. Statt allgemeiner Vorträge über künstliche Intelligenz eignen sich Beispiele aus dem eigenen Betrieb: Welche Eingabe ist unproblematisch, welche nicht, und wie lässt sich ein Ergebnis prüfen? Eine Teilnahmedokumentation hilft zugleich beim Nachweis der Kompetenzmaßnahmen nach Art. 4 AI Act. Bei der Kommunikation ist wichtig, den Nutzen zu betonen. Die Richtlinie soll Beschäftigten Sicherheit geben, nicht Misstrauen signalisieren.
Checkliste für den Start
- Verantwortliche Stelle für KI-Fragen benannt und intern bekannt gemacht
- Freigabeliste mit Verträgen zur Auftragsverarbeitung abgeglichen
- Datenklassen mit Beispielen aus dem Arbeitsalltag hinterlegt
- Betriebsrat und Datenschutzbeauftragte beteiligt, Ergebnisse dokumentiert
- Schulung durchgeführt und Teilnahme festgehalten
- Meldeweg für Vorfälle und Zweifelsfälle eingerichtet
Praxisbeispiel: Ein Maschinenbauer mit 120 Beschäftigten
Ein fiktiver Maschinenbauer stellt bei einer anonymen Befragung fest, dass etwa jeder dritte Büroarbeitsplatz generative Anwendungen nutzt. Der Vertrieb lässt Angebotstexte entwerfen, die Konstruktion fasst technische Normen zusammen, das Personalwesen formuliert Stellenanzeigen. Niemand hat Unrechtes im Sinn, doch bei zwei Anwendungen werden Kundennamen und Zeichnungsauszüge eingegeben.
Die Geschäftsführung entscheidet sich gegen ein Verbot und für ein gestuftes Modell. Zunächst wird ein Werkzeug mit Unternehmensvertrag, Auftragsverarbeitung und europäischer Datenhaltung freigegeben. Für dieses Werkzeug gelten die Datenklassen gelb und rot unter Auflagen. Alle übrigen Dienste bleiben auf grüne Daten beschränkt. Der Datenschutzbeauftragte prüft die Verträge, der Betriebsrat erhält die Richtlinie vor Inkrafttreten und schließt eine kurze Betriebsvereinbarung zur Nutzung ohne Leistungskontrolle.
Nach drei Monaten zeigt eine zweite Befragung, dass die Nutzung nicht gesunken, sondern gewandert ist: weg von privaten Konten, hin zum freigegebenen Werkzeug. Zugleich sind Zweifelsfälle sichtbar geworden, die zuvor unentdeckt blieben, etwa die Frage, ob Protokolle von Kundengesprächen zusammengefasst werden dürfen. Das Unternehmen ergänzt die Richtlinie um einen Absatz zu Gesprächsprotokollen und ordnet sie der Datenklasse rot zu. Das Beispiel zeigt: Der Wert einer Richtlinie liegt nicht in Verboten, sondern in der Lenkung vorhandener Nutzung.
Rollen und Zuständigkeiten klären
Im Beispiel übernimmt ein kleines Gremium die Verantwortung: ein Mitglied der Geschäftsführung als Auftraggeber, die IT-Leitung für Technik und Freigaben, die Datenschutzbeauftragte für rechtliche Prüfung und eine Vertretung der Fachbereiche für den Praxisbezug. Dieses Gremium entscheidet über neue Anwendungsfälle, bewertet Vorfälle und stößt Änderungen der Richtlinie an. Wichtig ist, dass die Entscheidungswege kurz bleiben. Wenn eine Freigabe Wochen dauert, weichen Beschäftigte wieder auf private Werkzeuge aus.
Freigabeprozess für neue Werkzeuge
Der Freigabeprozess sollte aus wenigen Schritten bestehen: Antrag mit Einsatzzweck und Datenarten, Prüfung von Vertrag, Datenstandort und Sicherheitsmaßnahmen, Entscheidung durch das Gremium und Aufnahme in die Freigabeliste. Für risikoarme Anwendungen, die nur grüne Daten verarbeiten, kann ein vereinfachtes Verfahren gelten. So bleibt der Aufwand verhältnismäßig, und das Unternehmen behält den Überblick.
Pflege, Kontrolle und Weiterentwicklung
KI-Werkzeuge verändern sich schnell, Nutzungsbedingungen ebenso. Eine Richtlinie, die einmal verabschiedet und dann vergessen wird, verliert rasch ihren Wert. Sinnvoll ist ein fester Überprüfungsrhythmus, etwa halbjährlich, sowie ein anlassbezogener Review bei neuen Werkzeugen, Gesetzesänderungen oder Vorfällen.
Zur Kontrolle genügen wenige Kennzahlen: die Zahl der freigegebenen Anwendungen, die Zahl gemeldeter Zweifelsfälle, die Quote geschulter Beschäftigter und die Anzahl dokumentierter Vorfälle. Steigt die Zahl der Zweifelsfälle zunächst an, ist das ein gutes Zeichen, weil die Belegschaft sensibilisiert ist. Stagnieren die Meldungen bei gleichzeitig breiter Nutzung, deutet dies auf unentdeckte Schatten-KI hin.
Langfristig lässt sich die Richtlinie in ein umfassenderes KI-Governance-Modell einbetten, das Rollen, Risikoklassen und Freigabeprozesse für neue Anwendungsfälle regelt. Für den Einstieg ist jedoch wichtig, überhaupt verbindliche Regeln zu haben und diese nachvollziehbar zu leben.
Hilfreich ist zudem, die Richtlinie mit bestehenden Regelwerken zu verknüpfen, etwa der Informationssicherheitsrichtlinie, dem Verzeichnis von Verarbeitungstätigkeiten nach Art. 30 DSGVO und den Arbeitsanweisungen zum Umgang mit Kundendaten. Wo ein Managementsystem nach ISO 27001 betrieben wird, lässt sich die KI-Nutzung als zusätzlicher Anwendungsfall in der Risikobewertung und im Lieferantenmanagement führen. So entsteht kein Parallelsystem, sondern eine Ergänzung vorhandener Strukturen, die Prüfungen und Audits erleichtert.
Typische Stolperfallen
Häufig scheitern Richtlinien an übertriebener Länge, an unklaren Zuständigkeiten oder an einem rein juristischen Ton, den niemand liest. Ebenso problematisch sind Verbote ohne Alternativen. Wer ein Werkzeug sperrt, aber keine freigegebene Lösung anbietet, fördert die Umgehung. Auch die Verwechslung von Vertrags- und Gratisversionen führt immer wieder zu Datenschutzlücken, weil die Nutzungsbedingungen erheblich voneinander abweichen.
Ein weiterer Fehler besteht darin, die Richtlinie ausschließlich der IT zu überlassen. KI-Nutzung betrifft Fachbereiche, Personalwesen, Recht und Datenschutz gleichermaßen. Ein interdisziplinäres Team erzeugt Regeln, die im Alltag tragen.
Schließlich wird oft unterschätzt, dass Anbieter ihre Bedingungen ändern. Funktionen wie die Nutzung von Eingaben zum Training, die Speicherdauer oder der Datenstandort können sich nach einem Update unterscheiden. Die Freigabeliste sollte deshalb ein Datum der letzten Prüfung enthalten, und die IT sollte Änderungsmitteilungen der Anbieter auswerten. Ohne diese Pflege veraltet selbst eine sorgfältig erstellte Richtlinie innerhalb weniger Monate und bietet trügerische Sicherheit. Ebenso wichtig ist die Dokumentation von Ausnahmen: Wird einer Abteilung ausnahmsweise ein Werkzeug erlaubt, gehören Begründung, Befristung und Auflagen schriftlich in die Akte.
FAQ
Ist eine KI-Richtlinie gesetzlich vorgeschrieben?
Eine ausdrückliche Pflicht zu einer Richtlinie gibt es nicht. Aus der DSGVO, dem Geschäftsgeheimnisgesetz und Art. 4 des AI Act ergeben sich jedoch Pflichten, die sich praktisch kaum ohne verbindliche Regeln erfüllen lassen.
Dürfen Beschäftigte private KI-Konten für die Arbeit nutzen?
Davon ist abzuraten. Bei privaten Konten fehlen Verträge zur Auftragsverarbeitung, und das Unternehmen hat keinen Einfluss auf Speicherung und Verwendung der Eingaben. Die Richtlinie sollte private Konten für dienstliche Daten ausschließen.
Muss der Betriebsrat einer KI-Richtlinie zustimmen?
Das hängt vom Einzelfall ab. Ist ein Werkzeug zur Überwachung von Verhalten oder Leistung geeignet, greift § 87 Abs. 1 Nr. 6 BetrVG. Eine frühzeitige Beteiligung ist in jedem Fall ratsam und erhöht die Akzeptanz.
Wie oft sollte die Richtlinie überprüft werden?
Empfehlenswert ist eine Überprüfung mindestens halbjährlich sowie bei wesentlichen Änderungen, etwa neuen Werkzeugen, geänderten Anbieterbedingungen oder neuen Rechtsvorgaben.
Wie geht ein Unternehmen mit bereits bestehender Schatten-KI um?
Am besten durch eine Amnestie in der Einführungsphase, eine offene Bestandsaufnahme und die Überführung sinnvoller Nutzungsfälle in freigegebene Werkzeuge. Sanktionen wegen früherer Nutzung verhindern meist Offenheit.
