ChatGPT & Datenschutz: KI im Unternehmen DSGVO-konform nutzen

Ist ChatGPT DSGVO-konform?

Die DSGVO greift, sobald personenbezogene Daten verarbeitet werden. Lassen Sie sich von ChatGPT eine Gliederung für einen Fachartikel schreiben, ohne Namen oder Kundendaten, ist der Datenschutz kaum berührt. Kopieren Sie dagegen eine Kundenmail mit Namen, Adresse und Vertragsnummer hinein, verarbeiten Sie personenbezogene Daten. Dann brauchen Sie eine Rechtsgrundlage, einen passenden Vertrag mit dem Anbieter und Transparenz gegenüber den Betroffenen.

Ob die Nutzung DSGVO-konform ist, hängt deshalb von drei Fragen ab.

1. Arbeiten Sie mit Privat-Accounts oder mit einem Business-Tarif und Firmenkonten?
2. Gibt es einen Vertrag zur Auftragsverarbeitung (Art. 28 DSGVO), und wie ist die Übermittlung in Länder außerhalb der EU geregelt?
3. Welche Daten geben Ihre Mitarbeiter ein, und wer prüft die Ergebnisse?

Die Datenschutzkonferenz (DSK), das Gremium der deutschen Datenschutzaufsichtsbehörden, rät außerdem, Mitarbeitern für die berufliche KI-Nutzung dienstliche Geräte und Accounts bereitzustellen und sie nicht mit privaten Konten arbeiten zu lassen.

Business-Tarif oder Privat-Account

Die Anbieter unterscheiden klar zwischen Angeboten für Privatpersonen und für Unternehmen. Stand Oktober 2026 gilt laut den offiziellen Seiten der Anbieter Folgendes.

ChatGPT (OpenAI)

• Bei Privatkonten kann OpenAI Inhalte zum Training seiner Modelle nutzen. Sie können das in den Datenkontrollen abschalten. Bewerten Sie eine Antwort aber per Daumen, darf OpenAI das gesamte zugehörige Gespräch trotzdem zum Training verwenden. Temporäre Chats werden nicht zum Training genutzt.
• Bei ChatGPT Business, Enterprise und Edu werden Eingaben und Ausgaben standardmäßig nicht zum Training verwendet. Kunden im EWR schließen den Vertrag zur Auftragsverarbeitung (Data Processing Addendum) mit OpenAI Ireland Ltd., OpenAI handelt dabei als Auftragsverarbeiter. Die Daten werden bei der Speicherung (AES-256) und bei der Übertragung (TLS 1.2 oder höher) verschlüsselt.
• Einen Speicherort in Europa (Datenresidenz) bietet OpenAI berechtigten Kunden von ChatGPT Enterprise, ChatGPT Edu, ChatGPT für das Gesundheitswesen und der API-Plattform an. ChatGPT Business ist dort nicht aufgeführt. Übermittlungen außerhalb des EWR stützt OpenAI laut Vertrag auf Standardvertragsklauseln oder einen Angemessenheitsbeschluss der EU-Kommission.

Microsoft Copilot Chat

• Copilot Chat ist in den Microsoft-365-Business-Plänen enthalten. Mit Firmenkonto genutzt, gilt der Datenschutz für Unternehmen (Enterprise Data Protection), erkennbar an einem grünen Schild in der Oberfläche. Microsoft handelt dann als Auftragsverarbeiter nach dem Data Protection Addendum und den Product Terms.
• Eingaben und Antworten werden nicht zum Training der zugrunde liegenden Modelle verwendet.
• Für Nutzer in der EU bleibt der Datenverkehr innerhalb der EU-Datengrenze (EU Data Boundary). Ausnahmen sind Websuchanfragen an Bing, für die Microsoft selbst verantwortlich ist, sowie KI-Modelle des Anbieters Anthropic, die in der EU standardmäßig ausgeschaltet sind und erst von der Administration freigeschaltet werden müssen.

Gemini in Google Workspace

• Mit einer passenden Workspace-Edition gelten Ihre Inhalte als Kundendaten nach dem Cloud Data Processing Addendum. Google sagt zu, dass Ihre Inhalte ohne Ihre Erlaubnis weder von Menschen geprüft noch außerhalb Ihrer Domain zum Training generativer KI-Modelle genutzt werden.
• In der privaten Gemini-App wird dagegen ein Teil der Chats von menschlichen Prüfern gelesen. Google rät dort selbst, keine vertraulichen Informationen einzugeben. Ist die Aktivitätsspeicherung eingeschaltet, nutzt Google die Daten auch zum Training generativer KI-Modelle.

Diese Angaben ändern sich regelmäßig. Prüfen Sie vor dem Abschluss die aktuellen Bedingungen und legen Sie den Vertrag zur Auftragsverarbeitung ab. Einen ausführlicheren Vergleich der Tarife finden Sie im Artikel ChatGPT, Copilot oder Gemini?

Was nur mit Freigabe in KI-Tools gehört

Unabhängig vom Tarif sollten folgende Daten nur mit ausdrücklicher Freigabe in ein KI-Tool gelangen.

• Personenbezogene Daten von Kunden, Mitarbeitern oder Bewerbern, etwa Namen, Kontaktdaten, Vertragsnummern, Fotos und Zeugnisse.
• Besondere Kategorien nach Art. 9 DSGVO wie Gesundheitsdaten, religiöse Überzeugungen, Gewerkschaftszugehörigkeit oder biometrische Daten. Ihre Verarbeitung ist grundsätzlich verboten und nur in engen Ausnahmen erlaubt.
• Geschäftsgeheimnisse wie Kalkulationen, Angebote, Strategiepapiere, Quellcode und Kundenlisten.
• Vertrauliches, für das eine Verschwiegenheitspflicht gilt, etwa aus Kundenverträgen oder Berufsgeheimnissen.

Zugangsdaten und Passwörter gehören nie in ein KI-Tool.

Wie streng Sie das handhaben, legen Sie am besten in einer KI-Richtlinie mit Datenampel fest. Die DSK warnt dabei vor einem häufigen Irrtum. Namen und Anschriften zu entfernen, reicht oft nicht, weil sich der Personenbezug aus dem Zusammenhang ergeben kann. Schon die Bitte, ein Arbeitszeugnis für einen Kundenberater in einem bestimmten Autohaus zu entwerfen, kann sich auf eine erkennbare Person beziehen.

Pseudonymisieren in der Praxis

Beim Pseudonymisieren ersetzen Sie alles, was eine Person erkennbar macht, durch Platzhalter, und nur Sie kennen die Zuordnung (Art. 4 Nr. 5 DSGVO). Rechtlich bleiben pseudonymisierte Daten für Sie personenbezogen. Das Risiko sinkt aber deutlich, und für viele Aufgaben braucht die KI die echten Namen gar nicht. So gehen Sie vor.

1. Kürzen Sie den Text auf den Teil, den die KI für die Aufgabe braucht.
2. Ersetzen Sie Namen durch Platzhalter wie [Kunde A] oder [Mieterin 1] und Firmennamen durch eine neutrale Beschreibung.
3. Entfernen Sie Adressen, Telefonnummern, E-Mail-Adressen, Geburtsdaten sowie Vertrags-, Kunden- und Kontonummern.
4. Verallgemeinern Sie, wo es geht. Aus dem Geburtsdatum wird „Mitte 40“, aus Straße und Ort wird „Kleinstadt im Ruhrgebiet“.
5. Setzen Sie die echten Angaben erst im fertigen Entwurf wieder ein, außerhalb des KI-Tools.

Ein Beispiel aus einer Hausverwaltung:

Ist eine Person gar nicht mehr bestimmbar, sind die Daten anonym und fallen nicht mehr unter die DSGVO. Echte Anonymisierung ist bei Freitexten aber schwerer, als es scheint. Im Zweifel behandeln Sie die Daten weiter als personenbezogen.

KI lokal betreiben: Wann lohnt sich das?

Sprachmodelle lassen sich auch ohne Cloud-Dienst auf eigener Hardware betreiben, im Büro oder auf einem eigenen Server (On-Premises). Möglich machen das frei verfügbare Modelle mit offenen Gewichten, sogenannte Open-Weight-Modelle, und Programme wie Ollama oder LM Studio. So läuft das offene Modell gpt-oss-20b von OpenAI laut Hersteller auf Geräten mit 16 GB Speicher, das größere gpt-oss-120b auf einer Grafikkarte mit 80 GB Speicher.

Für den Datenschutz hat das einen klaren Vorteil, denn die Daten verlassen Ihr Haus nicht. Die DSK hält solche technisch geschlossenen Systeme für vorzugswürdig. Wer eine KI ausschließlich für eigene Zwecke auf eigenen Servern betreibt, ist in der Regel alleiniger Verantwortlicher; ein Vertrag zur Auftragsverarbeitung mit einem KI-Anbieter entfällt. Betreut ein IT-Dienstleister die Server, kann allerdings mit ihm ein solcher Vertrag nötig sein.

Sinnvoll ist lokale KI vor allem, wenn Sie regelmäßig mit besonders sensiblen Daten arbeiten, etwa mit Gesundheitsdaten oder Berufsgeheimnissen, wenn Kunden eine Verarbeitung außerhalb Ihres Hauses vertraglich ausschließen oder wenn große Mengen interner Dokumente durchsucht werden sollen.

Lokale KI hat auch Grenzen. Kleinere Modelle sind für viele Textaufgaben gut, bei komplexen Aufgaben aber oft schwächer als die großen Cloud-Modelle. Einrichtung, Updates und Absicherung liegen bei Ihnen. Außerdem ist lokale KI nicht automatisch DSGVO-konform. Rechtsgrundlage, Zugriffsrechte, Löschfristen und technische Schutzmaßnahmen (Art. 32 DSGVO) bleiben Ihre Aufgabe. Ob sich der Aufwand lohnt, lässt sich am besten an einem konkreten Anwendungsfall prüfen, etwa in einer KI-Sprechstunde.

Datenschutz-Folgenabschätzung: Wann ist sie nötig?

Eine Datenschutz-Folgenabschätzung (DSFA) nach Art. 35 DSGVO ist erforderlich, wenn eine Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten der Betroffenen mit sich bringt, insbesondere beim Einsatz neuer Technologien. Davor steht immer eine kurze Vorabprüfung: Welche Daten, wie viele, wofür und mit welchen Folgen für die Betroffenen? Die DSK geht davon aus, dass eine DSFA beim Einsatz von KI-Anwendungen vielfach nötig sein wird. Für die Einordnung im Betrieb hilft diese Abstufung.

• Für KI, mit der Sie Texte, Ideen oder Recherchen ohne personenbezogene Daten erarbeiten, ist in der Regel keine DSFA nötig. Die DSGVO ist für die Inhalte dann meist gar nicht berührt.
• Genau prüfen sollten Sie KI, die regelmäßig Kunden- oder Beschäftigtendaten verarbeitet, etwa beim Beantworten von Kundenmails.
• Erforderlich ist eine DSFA für KI, die personenbezogene Daten verarbeitet, um die Interaktion mit Betroffenen zu steuern oder persönliche Aspekte zu bewerten. Ein Beispiel ist ein Kunden-Chatbot, der Kunden anhand ihrer Daten berät. Diesen Fall nennt die Muss-Liste der DSK ausdrücklich. Auch KI, die Bewerbungen bewertet, gehört hierher; dafür gelten ab dem 02.12.2027 zusätzlich die Hochrisiko-Pflichten der KI-Verordnung.

Binden Sie Ihren Datenschutzbeauftragten früh ein. Auch die Anbieter müssen Sie unterstützen. OpenAI etwa verpflichtet sich im Vertrag zur Auftragsverarbeitung, bei Datenschutz-Folgenabschätzungen angemessen zu helfen.

Betroffenenrechte und Transparenz gegenüber Kunden

Wer personenbezogene Daten mit KI verarbeitet, muss die Betroffenen informieren (Art. 13 und 14 DSGVO) und ihre Rechte erfüllen können, etwa auf Auskunft, Berichtigung, Löschung und Widerspruch (Art. 15 bis 21 DSGVO). Im Alltag bedeutet das Folgendes.

• Ergänzen Sie Ihre Datenschutzerklärung, wenn Sie KI-Tools für Kundendaten einsetzen oder einen Chatbot auf der Website betreiben.
• Behalten Sie im Blick, wo Daten liegen. Auch Chatverläufe sind Daten, legen Sie deshalb Aufbewahrungsfristen fest. In Google Workspace etwa können Administratoren Gemini-Unterhaltungen nach 3, 18 oder 36 Monaten automatisch löschen lassen.
• Entscheidungen mit Rechtswirkung darf grundsätzlich nicht allein die KI treffen (Art. 22 DSGVO). Die DSK nennt als Negativbeispiel eine KI, die Bewerbungen auswertet und selbstständig Einladungen zu Vorstellungsgesprächen verschickt.
• Kennzeichnen Sie Ihren Chatbot. Seit dem 02.08.2026 gelten die Transparenzpflichten nach Art. 50 KI-Verordnung. Wer mit einem KI-Chatbot schreibt, muss das erkennen können, sofern es nicht ohnehin offensichtlich ist.

Ein kurzer, gut sichtbarer Hinweis im Chatfenster kann so aussehen: „Sie schreiben mit unserem KI-Assistenten. Die Antworten werden automatisch erstellt und können Fehler enthalten. Persönlich erreichen Sie uns unter …“

Checkliste: KI datenschutzkonform im Unternehmen nutzen

• Firmenkonten im Business-Tarif eingerichtet, keine privaten Accounts im Einsatz
• Vertrag zur Auftragsverarbeitung abgeschlossen und abgelegt
• Trainingsnutzung Ihrer Daten geprüft und ausgeschlossen
• Speicherort und Übermittlung in Länder außerhalb der EU geprüft
• Datenampel festgelegt: Was darf hinein, was nicht?
• Mitarbeiter im Pseudonymisieren geschult, Schulung dokumentiert (Art. 4 KI-Verordnung)
• KI-Tools im Verzeichnis der Verarbeitungstätigkeiten ergänzt (Art. 30 DSGVO)
• Vorabprüfung zur Datenschutz-Folgenabschätzung dokumentiert
• Datenschutzerklärung aktualisiert, Chatbot gekennzeichnet
• Aufbewahrungs- und Löschfristen für Chatverläufe festgelegt
• Prüfpflicht für KI-Ergebnisse vor der Weitergabe nach außen
• Datenschutzbeauftragter und gegebenenfalls Betriebsrat eingebunden

Für Teams, die das gemeinsam angehen möchten, bieten wir Team-Workshops mit Schulungsnachweisen an. Welche Pflichten die KI-Verordnung sonst noch mit sich bringt, lesen Sie auf unserer Seite KI sicher und rechtskonform nutzen.