KI DSGVO-konform nutzen: Was Unternehmen beachten müssen
Die gute Nachricht vorweg: Die DSGVO verbietet Unternehmen nicht, KI zu nutzen. Sie verlangt, dass du weißt, welche Daten wohin fließen, auf welcher Grundlage das passiert und wer dafür geradesteht. Genau daran scheitern viele Projekte - nicht am Gesetz, sondern an fehlender Dokumentation und an Tools, die ohne Absprache im Alltag gelandet sind.
Wichtig für die Einordnung: DSGVO-konform ist nie ein Tool an sich, sondern immer der konkrete Einsatz. Dieselbe Software kann in einem Anwendungsfall unkritisch und im nächsten unzulässig sein. Dieser Leitfaden für Firmen im Mittelstand zeigt dir, was du beachten musst: welche Fragen Unternehmen für jeden Anwendungsfall beantworten müssen, welches Betriebsmodell zu welchen Daten passt und was vor dem Go-live erledigt sein sollte. Er ersetzt keine Rechtsberatung, sorgt aber dafür, dass du mit deinem Datenschutzbeauftragten über die richtigen Punkte sprichst.
DSGVO-KI-Check
Wie sicher ist der KI-Einsatz in deinem Unternehmen? Finde dein Risiko heraus.
Wie nutzt dein Team heute KI?
Die sechs Prüffragen
Bevor ein KI-System personenbezogene Daten verarbeitet, sollten diese sechs Fragen schriftlich beantwortet sein. Personenbezogen ist dabei mehr, als viele denken: Namen in E-Mails, Kundennummern in Tickets, Stimmen in Telefonaten und Freitext in Bewerbungen gehören dazu.
Welche Daten und welcher Zweck?
Lege fest, welche Datenarten das System sieht und wofür. Zweckbindung und Datenminimierung (Art. 5 DSGVO) heißen praktisch: Ein Assistent für Produktfragen braucht keinen Zugriff auf Personalakten. Besondere Kategorien wie Gesundheitsdaten verlangen eine eigene, strengere Prüfung.
Auf welcher Rechtsgrundlage?
Jede Verarbeitung braucht eine Grundlage nach Art. 6 DSGVO - im Unternehmensalltag meist Vertragserfüllung oder berechtigtes Interesse, seltener eine Einwilligung. Das berechtigte Interesse erfordert eine dokumentierte Abwägung, die du bei Rückfragen der Aufsicht vorlegen kannst.
Wer verarbeitet im Auftrag?
Jeder Anbieter, der Daten für dich verarbeitet - Modellanbieter, Cloud-Hosting, Agentur im Betrieb -, braucht einen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO. Prüfe auch die Unterauftragsverarbeiter: Die Kette endet selten beim Anbieter, den du kennst.
Verlassen Daten die EU?
Übermittlungen in Drittländer brauchen eine Grundlage nach Art. 44 ff. DSGVO, etwa einen Angemessenheitsbeschluss oder Standardvertragsklauseln. Für die USA gilt das EU-US Data Privacy Framework für zertifizierte Anbieter; eine Klage dagegen liegt beim Europäischen Gerichtshof. Wer Abhängigkeiten vermeiden will, plant EU-Hosting oder einen Plan B ein.
Wird mit deinen Daten trainiert?
Kläre vertraglich, ob Eingaben und Ausgaben zum Training fremder Modelle genutzt werden, wie lange Protokolle gespeichert werden und wie sich Daten löschen lassen. Bei Business- und API-Angeboten ist das Training meist ausgeschlossen, bei kostenlosen Consumer-Konten oft nicht.
Braucht es eine Folgenabschätzung?
Wenn eine Verarbeitung voraussichtlich ein hohes Risiko für Betroffene birgt, ist eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO Pflicht - etwa bei umfangreicher Verarbeitung sensibler Daten oder systematischer Bewertung von Personen. Bei KI im Personalbereich ist sie fast immer angezeigt.
Drei Stolpersteine, die oft übersehen werden
Automatisierte Entscheidungen: Entscheidet ein System allein über Menschen - etwa eine Bewerbung abzulehnen oder einen Kredit zu verweigern -, greift Art. 22 DSGVO. Betroffene haben dann das Recht auf menschliches Eingreifen. Die einfache Lösung: KI bereitet vor, ein Mensch entscheidet, und das ist im Prozess auch so dokumentiert.
Informationspflichten: Wer personenbezogene Daten mit KI verarbeitet, muss Betroffene darüber informieren (Art. 13 und 14 DSGVO). Datenschutzerklärung und Mitarbeiterinformation gehören deshalb zum Projektumfang. Zusätzlich verlangt der EU AI Act seit August 2026 bei bestimmten Systemen Transparenz, etwa wenn Menschen mit einem Chatbot sprechen. Was das konkret heißt, steht im Ratgeber EU AI Act im Mittelstand.
Schatten-KI: Das größte Datenschutzrisiko ist selten das offizielle Projekt, sondern der private Account, in den jemand eine Kundenliste kopiert. Ein Verbot allein hilft wenig. Besser wirkt eine freigegebene Alternative plus klare Regeln, welche Daten in welches Werkzeug dürfen. Der EU AI Act verlangt ohnehin, dass du Maßnahmen zur KI-Kompetenz deiner Mitarbeitenden ergreifst - eine kurze Schulung zu genau diesen Regeln erfüllt beides.
Drei typische Szenarien kurz eingeordnet
Wie unterschiedlich die Antworten auf die Prüffragen ausfallen, zeigen drei Beispiele, wie sie uns in Erstgesprächen regelmäßig begegnen:
- Wissensassistent für den Vertrieb: Das System beantwortet Fragen zu Produkten, Preislisten und technischen Datenblättern. Personenbezug entsteht vor allem durch Namen in Dokumenten und durch die Nutzerprotokolle. Hier genügen meist eine eigene Instanz in der EU, ein sauberes Rollenmodell und kurze Speicherfristen für die Chat-Verläufe.
- E-Mail-Vorsortierung im Kundenservice: Eingehende Anfragen werden klassifiziert, mit Kundendaten aus dem CRM angereichert und mit Antwortentwurf an das Team gegeben. Hier verarbeitet die KI eindeutig Kundendaten. Wichtig sind AVV mit allen Beteiligten, eine Rechtsgrundlage (meist Vertragserfüllung) und die Regel, dass ein Mensch vor dem Versand freigibt.
- Vorauswahl von Bewerbungen: Das System fasst Lebensläufe zusammen und gleicht sie mit Anforderungen ab. Hier ist die Latte am höchsten: Beschäftigtendatenschutz, Mitbestimmung des Betriebsrats, Art. 22 DSGVO und eine Datenschutz-Folgenabschätzung. Zusätzlich fällt KI für die Bewerberauswahl unter die Hochrisiko-Kategorien des EU AI Act. Machbar ist das - aber nicht als Schnellschuss.
Die Faustregel daraus: Je näher die KI an Entscheidungen über Menschen rückt, desto mehr Dokumentation und menschliche Kontrolle brauchst du.
Entscheidungshilfe: das passende Betriebsmodell
Nicht jede Anwendung braucht den Hochsicherheitstrakt. Entscheidend ist, wie sensibel die Daten sind und wie stark du von einzelnen Anbietern abhängig sein willst.
Business-Tools mit AVV
Eigene Instanz in der EU
On-Premise oder deutsches Rechenzentrum
Checkliste vor dem Go-live
Hake diese Punkte gemeinsam mit deinem Datenschutzbeauftragten ab, bevor ein KI-System mit echten Daten arbeitet:
- Anwendungsfall, Datenarten und Zweck sind schriftlich beschrieben.
- Die Rechtsgrundlage ist benannt; bei berechtigtem Interesse liegt die Abwägung vor.
- Mit allen Auftragsverarbeitern gibt es einen AVV, die Unterauftragsverarbeiter sind bekannt.
- Drittlandtransfers sind geprüft und dokumentiert - oder ausgeschlossen.
- Training mit deinen Daten ist vertraglich ausgeschlossen, Speicherfristen für Protokolle sind festgelegt.
- Ein Rollen- und Rechtekonzept regelt, wer welche Quellen über die KI sehen darf.
- Ein Löschkonzept deckt Eingaben, Ausgaben, Vektordatenbank, Logs und Backups ab.
- Die Verarbeitung steht im Verzeichnis von Verarbeitungstätigkeiten (Art. 30 DSGVO).
- Die Schwellwertprüfung für eine Datenschutz-Folgenabschätzung ist erledigt.
- Datenschutzerklärung und Mitarbeiterinformation sind angepasst.
- Betriebsrat ist eingebunden, wenn das System Verhalten oder Leistung erfassen könnte.
- Das Team ist geschult: welche Daten in welches Werkzeug dürfen und wie Fehler gemeldet werden.
Klingt nach viel? In der Praxis lässt sich das meiste beim Projektstart in wenigen Terminen klären - wenn man es nicht erst kurz vor dem Go-live angeht.
So setzen wir das mit dir um
Bei Sailrs ist Datenschutz kein Nachtrag, sondern Teil jeder Projektphase - vom ersten Workshop bis zum Betrieb in Deutschland.
Wenn du nicht bei null anfangen willst
Viele der Bausteine aus der Checkliste - Rollenmodell, Mandantentrennung, Protokollierung, Löschfunktionen, Betrieb in europäischer Cloud oder On-Premise - brauchst du in jedem KI-Projekt wieder. Deshalb haben wir sie in Aipe gebündelt, dem KI-Betriebssystem, das die Sailrs GmbH in Stuttgart entwickelt und betreibt. Aipe ist modellunabhängig: Wenn sich die Risikobewertung eines Anbieters ändert, wechselst du das Modell, nicht das System.
Welche Nachweise wir in Projekten konkret liefern - von AVV über TOM bis zum Löschkonzept -, beschreibt unsere Seite DSGVO-konforme KI. Und wenn dein Ziel ein Assistent ist, der aus internen Dokumenten antwortet: Wie Berechtigungen dabei technisch durchgesetzt werden, erklärt der Ratgeber RAG-System für Unternehmenswissen.
Datenschutz ist kein Bremsklotz, sondern der Bauplan.
Häufige Fragen zu KI und DSGVO
Darf ich ChatGPT im Unternehmen DSGVO-konform nutzen?
Das hängt vom Angebot und von den Daten ab. Mit Business- oder API-Angeboten, einem abgeschlossenen Auftragsverarbeitungsvertrag, ausgeschlossenem Training und einer klaren Nutzungsrichtlinie ist der Einsatz für viele Aufgaben möglich. Kostenlose Privatkonten für Kundendaten sind dagegen keine gute Idee. Sensible Daten gehören in eine eigene Instanz mit EU-Hosting oder auf eigene Infrastruktur.
Brauche ich für jedes KI-Tool einen Auftragsverarbeitungsvertrag?
Immer dann, wenn der Anbieter personenbezogene Daten in deinem Auftrag verarbeitet. Das betrifft Modellanbieter, Hosting-Dienstleister und Agenturen, die das System betreiben. Werden ausschließlich Daten ohne Personenbezug verarbeitet, ist kein AVV nötig, eine Nutzungsrichtlinie aber trotzdem sinnvoll.
Wann ist eine Datenschutz-Folgenabschätzung für KI Pflicht?
Wenn die Verarbeitung voraussichtlich ein hohes Risiko für die Rechte Betroffener birgt, zum Beispiel bei umfangreicher Verarbeitung von Gesundheitsdaten, bei systematischer Bewertung von Beschäftigten oder Bewerbern oder bei neuen Technologien mit großer Reichweite. Die Schwellwertprüfung solltest du für jeden KI-Anwendungsfall dokumentieren.
Ist ein KI-Modell auf eigenen Servern automatisch DSGVO-konform?
Nein. Eigene Server lösen die Frage des Drittlandtransfers und der Auftragsverarbeitung durch Modellanbieter, aber Rechtsgrundlage, Zweckbindung, Rollenkonzept, Löschfristen und Informationspflichten musst du trotzdem regeln. Hosting ist ein Baustein, nicht die ganze Lösung.
Was ist mit Daten, die bereits in einer Vektordatenbank liegen?
Auch Einbettungen in einer Vektordatenbank können personenbezogen sein, weil sie auf Originaltexte verweisen oder sie rekonstruierbar machen. Sie gehören deshalb ins Löschkonzept: Wird ein Dokument gelöscht oder ändert sich eine Berechtigung, muss das auch im Suchindex des KI-Systems ankommen.
Wie hängen DSGVO und EU AI Act zusammen?
Beide gelten nebeneinander. Die DSGVO regelt den Umgang mit personenbezogenen Daten, der EU AI Act die Anforderungen an KI-Systeme selbst, etwa Transparenz, KI-Kompetenz und Pflichten für Hochrisiko-Anwendungen. Ein sauber dokumentiertes Projekt erfüllt viele Anforderungen beider Regelwerke mit denselben Unterlagen.