KI-Ethik im Unternehmen: Von Grundsätzen zur Governance

KI-Ethik im Unternehmen heißt: Sie legen fest, wofür KI eingesetzt wird, wer die Ergebnisse prüft und wer dafür geradesteht. Viele Betriebe führen KI dagegen ein wie jedes neue Werkzeug, sie schalten es ein und schauen, was passiert. Das ist nachvollziehbar, wird aber zum Problem, sobald KI Entscheidungen über Menschen vorbereitet oder Kundendaten verarbeitet. Seit der EU AI Act gilt, hat dieser Rahmen für viele Einsatzfälle eine rechtliche Grundlage.

Warum KI-Ethik im Unternehmen keine Kür mehr ist

KI-Ethik ist seit dem EU AI Act für viele Unternehmen eine rechtliche Frage, weil die Verordnung ethische Grundsätze in konkrete Pflichten übersetzt. Der AI Act ist seit 1. August 2024 in Kraft und gilt für jedes Unternehmen, das KI-Systeme in der EU anbietet oder beruflich einsetzt, also auch für den Mittelstand in Frankfurt, Wiesbaden oder Mainz. Die Annahme „Das betrifft uns nicht“ hält meist nicht, denn schon die Nutzung von ChatGPT im Job macht ein Unternehmen zum Betreiber im Sinne der Verordnung.

Seit 2. Februar 2025 gelten die ersten Pflichten. Artikel 5 verbietet seitdem bestimmte Praktiken wie manipulative KI oder Social Scoring, und Artikel 4 verlangt, dass Unternehmen die KI-Kompetenz ihres Personals fördern. Die Bußgelder regelt Artikel 99 der KI-Verordnung: Für verbotene Praktiken nach Artikel 5 sind bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes möglich, für Verstöße gegen weitere Pflichten, etwa die von Betreibern, bis zu 15 Millionen Euro oder 3 Prozent. Für kleine und mittlere Unternehmen gilt jeweils der niedrigere Betrag.

Dazu kommt die Haftung. Wer KI-Systeme Entscheidungen vorbereiten oder treffen lässt, etwa im Recruiting, im Kundenservice oder bei der Bonitätsprüfung, trägt die Verantwortung für diese Entscheidungen. Der Hinweis, die KI habe entschieden, entlastet niemanden.

Offenheit über den KI-Einsatz zahlt sich auch bei Kunden aus. In einer Umfrage des Sprachdienstleisters RWS unter 5.000 Verbrauchern in 14 Ländern gaben 62 Prozent an, dass sie einer Marke mehr vertrauen, wenn sie ihren KI-Einsatz offenlegt (RWS, März 2025).

Die Grundprinzipien ethischer KI im Unternehmen

Als Grundprinzipien ethischer KI gelten in Europa die sieben Anforderungen aus den Ethik-Leitlinien für vertrauenswürdige KI, die eine Expertengruppe der EU-Kommission 2019 veröffentlicht hat. Der AI Act greift sie in Erwägungsgrund 27 ausdrücklich auf. Für den Unternehmensalltag lassen sie sich so lesen:

Menschliches Handeln und Aufsicht: Ein Mensch trifft die finale Entscheidung und kann ein System jederzeit stoppen.
Technische Robustheit und Sicherheit: Das System liefert auch bei ungewöhnlichen Eingaben brauchbare Ergebnisse und ist gegen Missbrauch geschützt.
Privatsphäre und Datenqualität: Personenbezogene Daten fließen nur mit Rechtsgrundlage in KI-Systeme.
Transparenz: Betroffene wissen, dass KI beteiligt ist, und Entscheidungen lassen sich nachvollziehen.
Vielfalt, Nichtdiskriminierung und Fairness: Ergebnisse werden regelmäßig auf Verzerrungen geprüft.
Gesellschaftliches und ökologisches Wohlergehen: Auswirkungen auf Mitarbeitende, Kunden und Umwelt werden mitgedacht.
Rechenschaftspflicht: Für jedes KI-System ist eine Person verantwortlich, und Prüfungen werden dokumentiert.

Konkret werden diese Prinzipien erst, wenn Sie sie auf bestehende Abläufe anwenden: Wer prüft die Bewerbervorauswahl, wer gibt den Chatbot-Text frei? An dieser Stelle trennt sich eine Ethik-Erklärung auf der Website von einer Governance, die im Alltag trägt.

KI-Governance aufbauen: Rollen, Richtlinien und Prozesse

KI-Governance bedeutet, festzulegen, wer über den KI-Einsatz entscheidet, nach welchen Regeln und wer die Verantwortung trägt. Dafür braucht es weder eine eigene Abteilung noch einen Chief AI Officer. Trotzdem steht das Thema im Mittelstand selten auf der Agenda, weil viele Betriebe sich dafür zu klein halten. Diese fünf Schritte reichen für den Anfang:

Verantwortlichkeit klären. Bestimmen Sie eine Person, die die KI-Projekte überblickt und für die Einhaltung der Regeln zuständig ist. Das kann die IT-Leitung, die Datenschutzbeauftragte oder eine erfahrene Führungskraft sein, solange die Rolle klar beschrieben und im Haus bekannt ist.

KI-Inventar aufbauen. Wissen Sie, welche KI-Systeme in Ihrem Unternehmen im Einsatz sind? Die Liste ist meist länger als gedacht: CRM-Systeme mit Prognosefunktionen, Übersetzungstools, automatisierte E-Mail-Strecken und Chatbots im Kundenservice. Alles davon kann unter den EU AI Act fallen und gehört deshalb ins Inventar.

Risiken einstufen. Der EU AI Act unterscheidet nach Risikostufen. Hochrisiko-Anwendungen wie KI im Recruiting oder bei der Kreditwürdigkeitsprüfung verlangen deutlich mehr Dokumentation und Kontrolle als ein KI-generierter Social-Media-Post. Diese Einstufung nimmt jedes Unternehmen für seine Systeme selbst vor und muss sie belegen können.

Ethische KI-Richtlinien formulieren. Ein 50-seitiges Regelwerk braucht es dafür nicht. Eine kurze interne KI-Richtlinie, die Werte, Grenzen und Zuständigkeiten festhält, reicht als Grundlage für KI-Compliance im Unternehmen und gibt Ihnen im Streitfall etwas Belastbares in die Hand.

Regelmäßig überprüfen. KI-Systeme und Datenlagen verändern sich, und was heute faire Ergebnisse liefert, kann morgen verzerrt sein. Planen Sie das Risikomanagement deshalb als Dauerprozess mit mindestens einer dokumentierten Prüfung pro Jahr.

Viele Unternehmen bekennen sich in Leitbildern zu verantwortungsvoller KI, ohne dafür Abläufe festzulegen. Dafür gibt es den Begriff Ethics Washing. Es entsteht oft ohne böse Absicht und trifft trotzdem Mitarbeitende, Kunden und das Unternehmen selbst.

Praxisbeispiele: Ethische KI in Marketing, HR und Kundenservice

Besonders greifbar wird KI-Ethik im Marketing, in der Personalabteilung und im Kundenservice, weil KI dort direkt mit Kunden und Bewerbern zu tun hat.

Marketing: KI-gestützte Personalisierung wirkt, birgt aber Risiken. Wenn ein Algorithmus bestimmten Zielgruppen systematisch Angebote vorenthält, kann das diskriminierend wirken, auch wenn es niemand so geplant hat. Verantwortungsvoller KI-Einsatz im Marketing heißt deshalb: Opt-out-Möglichkeiten, keine verdeckten Profile, DSGVO-konforme Datennutzung und Offenheit darüber, was automatisiert läuft. Nachvollziehbare KI-Entscheidungen sind die Voraussetzung für rechtssicheres Handeln.

HR: KI-Systeme für Einstellung und Bewerberauswahl stuft der EU AI Act in Anhang III ausdrücklich als Hochrisiko-Anwendung ein. Wer KI Bewerbungen vorsortieren lässt, muss sicherstellen, dass das System niemanden wegen geschützter Merkmale benachteiligt und dass ein Mensch die finale Entscheidung trifft. Prüfen Sie die eingesetzten Tools deshalb regelmäßig auf Verzerrungen, nicht nur bei der Einführung.

Kundenservice: KI-Chatbots und automatische Antwortsysteme sind im Mittelstand weit verbreitet. Kunden müssen wissen, dass sie mit einem automatisierten System sprechen, und brauchen jederzeit einen Weg zu einem Menschen. Sensible Kundendaten fließen nur mit Einwilligung oder anderer Rechtsgrundlage in externe KI-Systeme.

In allen drei Bereichen macht Ethik den KI-Einsatz belastbarer, rechtlich wie im Vertrauen der Kunden. Wer Teams in Marketing, HR oder Service darauf vorbereiten will, findet in der KI-Schulung für Unternehmen den passenden Rahmen.

Wenn Sie strategische Kommunikation und digitale Verantwortung zusammendenken möchten: mindmelt arbeitet seit 2002 an Strategie und digitaler Umsetzung für Unternehmen, mehr dazu auf mindmelt.de.

Fazit: Verantwortungsvoller KI-Einsatz als Wettbewerbsvorteil

KI-Ethik im Unternehmen ist eine operative Aufgabe für jeden Betrieb, der KI einsetzt, ob mit eigener Rechtsabteilung oder ohne. Der EU AI Act setzt den rechtlichen Rahmen, das Vertrauen von Kunden und Mitarbeitenden liefert den Grund, ihn ernst zu nehmen. Wer jetzt Zuständigkeiten, Inventar und Regeln festlegt, kann neue KI-Werkzeuge später schneller und mit weniger Risiko einführen.

Wenn Sie mit Ihrem Führungsteam klären wollen, wie das in Ihrem Haus aussieht, ist der KI-Workshop für Führungskräfte ein guter Startpunkt. Die Regeln selbst entstehen im Workshop KI-Richtlinie erstellen.