KI und Datenschutz: So nutzen Unternehmen KI-Tools DSGVO-konform
KI und Datenschutz im Unternehmen: wann die DSGVO greift, ChatGPT Free oder Business, Auftragsverarbeitung, USA-Transfer und Checkliste für den Einsatz.
KI und Datenschutz schließen sich nicht aus. Sobald aber personenbezogene Daten in ein KI-Tool fließen, gilt die DSGVO vollständig: Sie brauchen eine Rechtsgrundlage, einen Auftragsverarbeitungsvertrag mit dem Anbieter, sparsame Eingaben und klare Regeln für Ihr Team. Mit einem freigegebenen Business-Tool und einer kurzen Richtlinie ist das für die meisten Anwendungen gut machbar.
Dieser Artikel gehört zu meinem Überblick KI und Recht im Unternehmen. Er erklärt, wann die DSGVO bei KI greift, worin sich ChatGPT Free und Business unterscheiden und wie Sie Schritt für Schritt vorgehen. Er ersetzt keine Rechtsberatung. Stand: Oktober 2026.
Wann gilt die DSGVO beim Einsatz von KI?
Die DSGVO greift, sobald ein KI-Tool personenbezogene Daten verarbeitet. Das passiert an drei Stellen:
- In der Eingabe: Jemand kopiert eine Kunden-E-Mail, eine Bewerbung oder eine Liste mit Namen in das Tool.
- In der Ausgabe: Die KI erzeugt Aussagen über eine bestimmte Person, etwa eine Zusammenfassung eines Mitarbeitergesprächs.
- Im Training: Der Anbieter verwendet Ihre Eingaben, um seine Modelle zu verbessern.
Personenbezogen ist alles, was sich einer Person zuordnen lässt, auch Kundennummern, E-Mail-Adressen und Gesprächsnotizen. Die Datenschutzkonferenz (DSK) hat dazu 2024 eine Orientierungshilfe veröffentlicht, die als Prüfliste für Auswahl und Einsatz von KI-Anwendungen gedacht ist. Sie ist die beste deutschsprachige Grundlage für Datenschutzbeauftragte.
ChatGPT Free oder Business? Datenschutz im Vergleich
In meinen Projekten ist ChatGPT mit Abstand das häufigste Tool, das Mitarbeitende ohne Freigabe nutzen, meistens in der kostenlosen Version mit privatem Konto. Genau da liegt das Problem. Die Unterschiede zwischen den Tarifen sind für den Datenschutz entscheidend:
| Kriterium | Free, Plus, Proprivate Konten | Business / EnterpriseFirmenkonten | APIAnbindung an eigene Software |
|---|---|---|---|
| Training mit Ihren Eingaben | Standardmäßig an, abschaltbar in den Einstellungen | Standardmäßig aus | Standardmäßig aus |
| Auftragsverarbeitungsvertrag | Nein | Ja | Ja |
| Zentrale Verwaltung | Nein, jede Person selbst | Ja, Admin-Bereich für Nutzer und Einstellungen | Über Ihre eigene Anwendung |
| Für Kundendaten geeignet | Nein | Ja, mit Regeln und Datensparsamkeit | Ja, je nach Umsetzung |
Stand Oktober 2026 nach den Angaben von OpenAI. Bei anderen Anbietern wie Microsoft, Google oder Anthropic gilt dieselbe Grundregel: private Konten nie für Firmendaten.
Die wichtigste Konsequenz für die Praxis: Ein Verbot privater Konten ohne freigegebene Alternative funktioniert nicht. Stellen Sie Ihrem Team ein Business-Tool bereit und regeln Sie, welche Daten hinein dürfen. Wie eine solche Regel aussieht, zeigt die Daten-Ampel im Muster unter KI-Richtlinie für Unternehmen.
Die häufigste Datenschutzpanne mit KI
Die Regel, die in der Praxis am häufigsten gebrochen wird, ist zugleich die einfachste: Kundendaten gehören nicht in Tools, die nicht DSGVO-konform eingesetzt werden können. Fast immer passiert das ohne böse Absicht. Jemand will eine Reklamation schnell beantworten, kopiert den ganzen E-Mail-Verlauf ins private ChatGPT und hat in einer Minute eine gute Antwort. Nur liegen Name, Adresse und Auftragsdaten des Kunden jetzt bei einem Anbieter ohne Auftragsverarbeitungsvertrag.
Laut Bitkom gingen 2025 vier von zehn Unternehmen davon aus, dass ihre Beschäftigten private KI-Zugänge nutzen. Regeln für die KI-Nutzung hatten nur 23 %. Diese Lücke ist das größte Datenschutzrisiko beim Einsatz von KI im Mittelstand, größer als jede technische Schwachstelle.
Welche Daten in welches Werkzeug dürfen
Die einfachste Regel für den Alltag ist eine Daten-Ampel. Sie lässt sich in einer Minute erklären und in jede Richtlinie übernehmen:
- Öffentliche Informationen, eigene Website-Texte
- Allgemeine Fachfragen ohne Personenbezug
- Anonymisierte Beispiele
- Kundenanfragen und E-Mails
- Interne Dokumente und Protokolle
- Angebote, Preise, Projektdetails
- Gesundheitsdaten, Personalakten, Bewerbungen
- Zugangsdaten, Passwörter
- Konstruktionsdaten und Rezepturen, außer in eigens freigegebenen Systemen
Die rote Spalte heißt nicht, dass KI dort nie eingesetzt werden darf. Sie heißt: nur in eigens geprüften und dafür freigegebenen Systemen.
Pseudonymisieren im Alltag
Oft braucht die KI die persönlichen Daten gar nicht, um ein gutes Ergebnis zu liefern. Ersetzen Sie Namen und Nummern durch Platzhalter, bevor Sie Text in ein Werkzeug geben:
Statt: „Herr Thomas Berger von der Berger Metallbau GmbH, Kundennummer 40817, beschwert sich, dass seine Lieferung vom 12. September beschädigt ankam …“
Besser: „[Kunde] von [Firma] beschwert sich, dass seine Lieferung vom [Datum] beschädigt ankam …“
Die Antwort ist genauso gut, und die Platzhalter setzen Sie anschließend wieder ein. Das ist keine vollständige Anonymisierung, denn aus dem Inhalt können sich Personen noch erkennen lassen. Es reduziert aber das Risiko deutlich und ist eine gute Gewohnheit, auch in Business-Werkzeugen. Name, Firma und Kundennummer im Beispiel sind erfunden.
So setzen Sie KI DSGVO-konform ein
Zweck und Rechtsgrundlage festlegen
Wofür wird das Tool genutzt, und auf welcher Grundlage nach Art. 6 DSGVO? Bei Kundenkommunikation ist das oft die Vertragserfüllung, bei internen Auswertungen das berechtigte Interesse mit Abwägung.
Anbieter prüfen
Auftragsverarbeitungsvertrag nach Art. 28 DSGVO, keine Nutzung Ihrer Daten für Training, Speicherort, Unterauftragnehmer, Löschfristen und Sicherheitsmaßnahmen.
Drittlandtransfer klären
Bei Anbietern aus den USA: Ist der Anbieter unter dem EU-US Data Privacy Framework zertifiziert, oder gibt es Standardvertragsklauseln?
Daten sparsam eingeben
Nur so viel wie nötig. Namen und Nummern durch Platzhalter ersetzen, wo sie für das Ergebnis nicht gebraucht werden. Besondere Kategorien wie Gesundheitsdaten grundsätzlich nicht in allgemeine KI-Assistenten.
Informieren und dokumentieren
Datenschutzerklärung und Beschäftigteninformation anpassen, die Verarbeitung ins Verzeichnis nach Art. 30 DSGVO aufnehmen.
Risiko bewerten
Bei voraussichtlich hohem Risiko, etwa bei der Auswertung von Beschäftigtendaten, eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO durchführen.
Regeln und Schulung
Eine Richtlinie mit Daten-Ampel und eine kurze Schulung für alle Nutzer. Das ist zugleich Ihr Nachweis für die Pflicht zur KI-Kompetenz.
Was gilt für KI-Anbieter aus den USA?
Viele der verbreiteten KI-Modelle stammen von US-Anbietern. Eine Übermittlung personenbezogener Daten in die USA ist zulässig, wenn eine Grundlage nach Art. 44 ff. DSGVO besteht. Die wichtigste ist das EU-US Data Privacy Framework: Die EU-Kommission hat am 10. Juli 2023 festgestellt, dass zertifizierte US-Unternehmen ein angemessenes Schutzniveau bieten. Das Gericht der EU hat eine Klage dagegen am 3. September 2025 abgewiesen (Rs. T-553/23); dagegen war ein Rechtsmittel möglich.
Für die Praxis heißt das: Prüfen Sie, ob Ihr Anbieter zertifiziert ist, und achten Sie zusätzlich auf Standardvertragsklauseln im Auftragsverarbeitungsvertrag. Viele Anbieter ermöglichen außerdem eine Datenverarbeitung in der EU, was die Bewertung vereinfacht.
Woran Sie ein KI-Werkzeug vor der Freigabe prüfen
Unabhängig vom Anbieter, ob OpenAI, Microsoft, Google, Anthropic oder ein europäischer Anbieter, lohnt sich vor jeder Freigabe dieselbe Prüfung:
| Prüfpunkt | Wo Sie es finden | Was Sie wollen |
|---|---|---|
| Auftragsverarbeitungsvertrag | Vertragsunterlagen, oft „Data Processing Addendum“ | Vorhanden und für Ihren Tarif gültig |
| Nutzung für Training | Datenschutzhinweise, Admin-Einstellungen | Für Ihre Eingaben ausgeschlossen |
| Speicherort | Vertrag, Produktbeschreibung | EU, oder geregelte Übermittlung |
| Unterauftragnehmer | Liste im Vertrag | Bekannt und nachvollziehbar |
| Speicherdauer und Löschung | Datenschutzhinweise, Einstellungen | Kurz und steuerbar |
| Zugriffsverwaltung | Admin-Bereich | Firmenkonten, zentrale Verwaltung, Sperrung beim Austritt |
| Zertifizierungen | Sicherheitsseite des Anbieters | z. B. ISO/IEC 27001, SOC 2 |
Dokumentieren Sie das Ergebnis kurz. Das hilft bei Fragen der Datenschutzaufsicht und bei der nächsten Prüfung, wenn der Anbieter seine Bedingungen ändert.
KI und Beschäftigtendaten
Besonders sensibel ist der Einsatz von KI mit Daten der eigenen Beschäftigten: Zusammenfassungen von Mitarbeitergesprächen, Auswertungen von Arbeitszeiten, Bewerbungen. Hier kommen mehrere Regeln zusammen. Die DSGVO verlangt eine tragfähige Rechtsgrundlage. Die Generalklausel für Beschäftigtendaten im Bundesdatenschutzgesetz ist seit einem Urteil des Europäischen Gerichtshofs vom 30. März 2023 (Rs. C-34/21) zu einer vergleichbaren hessischen Vorschrift umstritten. Viele Unternehmen stützen sich deshalb auf die Erforderlichkeit für das Arbeitsverhältnis, auf eine Betriebsvereinbarung oder auf eine sorgfältige Interessenabwägung.
Dazu kommen die Mitbestimmung des Betriebsrats, sobald ein System Leistung oder Verhalten erfassen kann, und ab Dezember 2027 die Hochrisiko-Regeln des AI Act für KI in Personalentscheidungen. Mein Rat: Fangen Sie mit KI nicht bei Beschäftigtendaten an. Und wenn doch, dann mit Datenschutzbeauftragter, Betriebsrat und rechtlicher Prüfung an einem Tisch.
Wann eine Datenschutz-Folgenabschätzung nötig ist
Eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO ist nötig, wenn eine Verarbeitung voraussichtlich ein hohes Risiko für die Betroffenen mit sich bringt. Beim Einsatz von KI ist das häufiger der Fall als bei klassischer Software, weil neue Technologien ausdrücklich als Risikofaktor gelten. Typische Auslöser:
- Auswertung von Beschäftigtendaten, etwa Leistung oder Verhalten
- Bewertung oder Einstufung von Personen, etwa Bewerbungen oder Kreditwürdigkeit
- Verarbeitung besonderer Kategorien wie Gesundheitsdaten
- Umfangreiche Verarbeitung von Kundendaten, etwa ein Chatbot mit Zugriff auf Kundenkonten
Für einen KI-Assistenten, mit dem das Team Texte entwirft und dabei keine sensiblen Daten eingibt, ist eine Folgenabschätzung in der Regel nicht nötig. Ihre Datenschutzbeauftragte oder Ihr Datenschutzbeauftragter entscheidet im Einzelfall.
Europäische und lokale Alternativen
Wer Daten nicht an US-Anbieter übermitteln möchte, hat Alternativen. Die großen Anbieter bieten inzwischen Verarbeitung in Rechenzentren in der EU an. Daneben gibt es europäische Modellanbieter wie Mistral aus Frankreich und Lösungen, bei denen offene Modelle im eigenen Rechenzentrum oder bei einem deutschen Hoster laufen.
Wer lokal betreibt, hat die größte Kontrolle über die Daten. Dafür fallen Betrieb, Aktualisierung und Sicherheit an. Für die meisten Mittelständler ist ein Business-Tarif eines großen Anbieters mit EU-Verarbeitung und sauberem Vertrag der pragmatische Weg. Für besonders sensible Bereiche, etwa Entwicklung oder Gesundheitsdaten, kann eine lokale Lösung sinnvoll sein.
Was in Datenschutzerklärung und Verzeichnis gehört
Setzen Sie KI so ein, dass Kunden oder Website-Besucher betroffen sind, etwa mit einem Chatbot auf der Website oder bei der Bearbeitung von Anfragen, gehört das in die Datenschutzerklärung: Zweck, Rechtsgrundlage, eingesetzte Anbieter, gegebenenfalls Übermittlung in Drittländer und Speicherdauer. Intern nehmen Sie jede Verarbeitung in Ihr Verzeichnis der Verarbeitungstätigkeiten auf. Für Beschäftigte reicht meist eine Ergänzung der Informationen nach Art. 13 DSGVO, die Sie mit der KI-Richtlinie verteilen.
Kostenloser Download
Datenschutz-Prüfliste für KI-Werkzeuge
Was Sie vor der Freigabe eines KI-Werkzeugs prüfen: Vertrag, Training, Speicherort, Zugriffe, Folgenabschätzung, dazu eine Daten-Ampel pro Werkzeug. Word-Datei.
Danke! Hier ist Ihr Download.
Der Download startet über den Button. Wenn Sie ein Anliegen ausgewählt haben, melde ich mich persönlich bei Ihnen, sonst hören Sie nichts weiter von mir.
Prüfliste herunterladenVorsicht bei automatisierten Entscheidungen
Art. 22 DSGVO schützt Menschen davor, Entscheidungen mit rechtlicher Wirkung ausschließlich durch eine Maschine zu erhalten. Für Ihren Alltag heißt das: KI darf Bewerbungen, Kreditentscheidungen oder Kündigungen vorbereiten, die Entscheidung trifft ein Mensch, der das Ergebnis auch tatsächlich prüft. Ein Mensch, der nur noch abnickt, reicht nicht. Für KI in Personalfragen gelten ab Dezember 2027 zusätzlich die Hochrisiko-Regeln des AI Act.
Fazit und Empfehlung
Die meisten Datenschutzprobleme mit KI entstehen nicht durch die Technik, sondern durch private Konten, fehlende Verträge und unklare Regeln. Die Lösung ist überschaubar: ein freigegebenes Business-Tool mit Auftragsverarbeitungsvertrag, eine Daten-Ampel, eine kurze Schulung und Dokumentation. Für jedes neue Tool gilt bei mir eine einfache Grundregel: Es muss DSGVO-konform sein und sich in Ihr Gesamtsystem einfügen. Was das für Kundenanfragen bedeutet, zeigt der Artikel KI im Kundenservice.
KI-Beratung
Wo steht Ihr Unternehmen bei KI? Lassen Sie uns sprechen.
Strategie, Richtlinie, Schulung oder Automatisierung: Beschreiben Sie Ihr Anliegen in drei Schritten. Sie bekommen eine persönliche Rückmeldung von mir, kein automatisches Angebot.
Danke, Ihre Anfrage ist angekommen.
Ich sehe mir Ihre Angaben an und melde mich persönlich. Wenn es schneller gehen soll, buchen Sie direkt ein kostenloses Erstgespräch.
Erstgespräch buchenHäufige Fragen
Ist ChatGPT DSGVO-konform?
Die kostenlose und die privaten Versionen eignen sich nicht für personenbezogene Firmendaten: Eingaben werden dort standardmäßig für das Training genutzt, und es gibt keinen Auftragsverarbeitungsvertrag. Die Business- und Enterprise-Angebote nutzen Daten standardmäßig nicht für das Training und bieten einen Auftragsverarbeitungsvertrag. Ob der Einsatz zulässig ist, hängt dann von Zweck, Daten und Ihren Maßnahmen ab.
Darf man personenbezogene Daten in KI-Tools eingeben?
Nur mit Rechtsgrundlage, in einem Tool mit Auftragsverarbeitungsvertrag und so sparsam wie möglich. Gesundheitsdaten und andere besonders schützenswerte Daten gehören grundsätzlich nicht in allgemeine KI-Assistenten.
Brauche ich für KI eine Datenschutz-Folgenabschätzung?
Wenn die Verarbeitung voraussichtlich ein hohes Risiko für Betroffene hat, ja (Art. 35 DSGVO). Das ist etwa bei der Auswertung von Beschäftigtendaten oder bei umfangreicher Verarbeitung sensibler Daten der Fall. Für einen Textassistenten ohne Personenbezug ist sie meist nicht nötig.
Dürfen Daten an KI-Anbieter in den USA übermittelt werden?
Ja, wenn eine Grundlage nach Art. 44 ff. DSGVO besteht, etwa eine Zertifizierung des Anbieters unter dem EU-US Data Privacy Framework oder Standardvertragsklauseln. Das Gericht der EU hat das Data Privacy Framework im September 2025 bestätigt; ein Rechtsmittel war möglich.
Was ist das größte Datenschutzrisiko bei KI im Unternehmen?
Schatten-KI: Beschäftigte nutzen private Konten und kostenlose Tools für dienstliche Inhalte, ohne dass das Unternehmen davon weiß. Laut Bitkom gingen 2025 vier von zehn Unternehmen davon aus, dass das bei ihnen vorkommt.
Quellen
- Datenschutz-Grundverordnung (EU) 2016/679, EUR-Lex
- Datenschutzkonferenz: Orientierungshilfe Künstliche Intelligenz und Datenschutz · 06.05.2024
- LfDI Baden-Württemberg: Rechtsgrundlagen im Datenschutz beim Einsatz von KI
- OpenAI: How your data is used to improve model performance
- Durchführungsbeschluss (EU) 2023/1795 (EU-US Data Privacy Framework), EUR-Lex · 10.07.2023
- Stiftung Datenschutz: EuG weist Klage gegen das Data Privacy Framework zurück · Rs. T-553/23, Urteil vom 03.09.2025
- Bitkom: Beschäftigte nutzen vermehrt Schatten-KI · 21.10.2025
80 % der Beratung zahlt der Staat.
Über INQA-Coaching fördert der Bund 12 Beratungstage zur KI-Einführung mit 80 %. Ihr Eigenanteil: 2.880 € netto. Prüfen Sie in 60 Sekunden, ob Ihr Betrieb infrage kommt.
Weitere Artikel
KI und Recht im Unternehmen: alle Pflichten im Überblick (Stand 2026)
KI und Recht für Unternehmen: AI Act, DSGVO, Urheberrecht, Betriebsrat, Geschäftsgeheimnisse und Haftung im Überblick, mit Fristen und Checkliste.
KI-Richtlinie für Unternehmen: Muster, Inhalte und was der AI Act verlangt
KI-Richtlinie für Unternehmen: kostenloses Muster zum Anpassen, die 10 Bausteine und was AI Act, DSGVO und Betriebsrat verlangen. Stand Oktober 2026.
KI-Schulung für Mitarbeiter: Was der AI Act verlangt und wie eine gute Schulung aussieht
KI-Schulung für Mitarbeiter: Pflicht nach Art. 4 AI Act, Inhalte je Rolle, Nachweis ohne Zertifikat, Schulungsplan in 5 Schritten und Fördermöglichkeiten 2026.