Wer KI einführt, muss den Datenschutz gleich mitplanen. Wir zeigen fünf Fragen, die vor dem Start beantwortet sein müssen.
Zwei Fehler sehen wir im Mittelstand immer wieder. Manche Unternehmen verzichten jahrelang auf KI, weil sie diffuse Angst vor dem Datenschutz haben. Andere legen einfach los und laden Kundendaten in ein US-Tool, ohne Vertrag und ohne zu wissen, was damit passiert. Beides lässt sich vermeiden. DSGVO und KI vertragen sich, wenn Sie vor dem ersten Schritt wissen, welche Daten wo und unter welchen Bedingungen verarbeitet werden.
Sobald Namen, E-Mail-Adressen, Kundennummern oder Kommunikationsverläufe in ein KI-System fließen, greift die DSGVO vollständig. Sie müssen dann die Rechtsgrundlage prüfen, Betroffene informieren und das Verarbeitungsverzeichnis aktualisieren. Wer hier nachlässig ist, riskiert Bußgelder und das Vertrauen der Kunden.
Verarbeitet ein KI-Dienst Ihre Daten, ist ein AVV mit dem Anbieter Pflicht, bei Cloud-Diensten genauso wie bei Modellen, die über die API eines externen Anbieters laufen. Viele Unternehmen starten mit einem Tool, ohne zu prüfen, ob der Anbieter überhaupt einen DSGVO-konformen AVV anbietet, und manche Anbieter haben keinen.
US-amerikanische Dienste unterliegen dem Cloud Act. Danach können US-Behörden unter bestimmten Umständen auf Daten zugreifen, auch wenn diese in Europa liegen. Für Kundendaten, Vertragsunterlagen oder interne Kommunikation ist das ein Risiko. Europäische Server braucht nicht jeder Anwendungsfall, die Entscheidung sollten Sie aber bewusst treffen.
Viele Dienste nutzen eingegebene Daten standardmäßig, um ihre Modelle weiterzutrainieren. Für persönliche Notizen ist das unkritisch, bei Kundendaten, Angeboten oder Verträgen wird es problematisch. Lesen Sie deshalb die Datenschutzrichtlinien, setzen Sie das Opt-out oder nutzen Sie Enterprise-Zugänge, bei denen der Anbieter nicht mit Ihren Daten trainiert.
Unternehmen mit mehr als 20 Personen in der Datenverarbeitung brauchen eine Datenschutzbeauftragte, und die gehört früh in jedes KI-Vorhaben. Sie dokumentiert, was verarbeitet wird und warum, und diese Dokumentation schützt Sie im Zweifel.
Seit Februar 2025 gilt Artikel 4 des EU AI Act. Danach müssen Unternehmen dafür sorgen, dass Mitarbeitende, die mit KI arbeiten, die nötige KI-Kompetenz aufbauen. Mit dem Digital Omnibus ist die Pflicht seit Juli 2026 als Bemühenspflicht formuliert und gilt weiter. Wer KI einsetzt, muss sein Team befähigen, sie zu verstehen und ihre Grenzen einzuschätzen. Die meisten Betriebe erfüllen das, indem sie ihr Team einmal gründlich schulen und die Schulung dokumentieren.
Sie dürfen ChatGPT im Unternehmen nutzen, wenn die Einstellungen stimmen. Der kostenlose Privat-Account gehört nicht in den Betrieb, weil Eingaben dort zum Training genutzt werden können und kein AVV existiert. Mit einem Team- oder Enterprise-Zugang trainiert der Anbieter nicht mit Ihren Daten, ein AVV ist verfügbar, und die Verarbeitung ist vertraglich geregelt. Ob der Einsatz zulässig ist, hängt von den Daten ab, die Sie hineingeben, und vom Vertrag, unter dem das geschieht. Welche Daten in welches Tool dürfen, legt eine schriftliche KI-Richtlinie für alle verbindlich fest. Sensible Kundendaten gehören nur dorthin, wo Sie die Verarbeitung nachvollziehen und belegen können.
Bevorzugen Sie europäische Anbieter, schließen Sie den AVV vor dem Start ab, deaktivieren Sie die Nutzung zum Training, pflegen Sie das Verarbeitungsverzeichnis und schulen Sie Ihr Team. Diese Arbeit fällt einmal an, danach läuft der Betrieb rechtssicher. Diese Vorarbeit übernehmen wir in der KI-Beratung und der Umsetzung.
Der Datenschutz gehört zur Einführung und ist selten ein eigener Kostenblock. Sie prüfen die Anbieter, schließen den AVV ab, setzen die Einstellungen richtig und dokumentieren das Ergebnis. Teuer wird es, wenn Sie das nachträglich reparieren müssen.
Eine DSFA brauchen Sie bei KI-Anwendungen mit hohem Risiko für Betroffene, etwa bei automatisierten Bewertungen von Personen. Für interne Routine wie Textentwürfe oder Zusammenfassungen ist sie in der Regel nicht nötig. Im Zweifel entscheidet die Datenschutzbeauftragte.
US-KI-Dienste sind erlaubt, wenn die rechtlichen Voraussetzungen mit AVV und geeigneten Garantien stimmen und die Daten zum Anwendungsfall passen. Für unkritische Daten ist das oft unproblematisch, für sensible Kundendaten ist eine europäische Software der ruhigere Weg.
Verantwortlich bleibt das Unternehmen, das die KI einsetzt, auch wenn der Fehler beim Tool-Anbieter liegt. Welche Datenschutzpflichten im Marketing allgemein gelten, fasst unser Überblick zu DSGVO im Marketing zusammen. AVV, bewusste Tool-Wahl und Dokumentation schützen deshalb Sie als Verantwortlichen.
Mit geklärtem Datenschutz läuft KI im Mittelstand dauerhaft, und Sie können Kunden genau sagen, was mit ihren Daten passiert. Wer die Struktur einmal richtig aufsetzt, kann danach ohne rechtliche Zweifel mit KI arbeiten.
Wir prüfen Ihren geplanten KI-Einsatz auf den Datenschutz, am besten bevor Sie starten.