Die Grenzen von Künstlicher Intelligenz im Personalwesen

Die fortschreitende Digitalisierung verspricht Objektivität und Effizienz, doch die Realität sieht oft anders aus. Wenn Algorithmen über berufliche Karrieren entscheiden, droht eine Verfestigung bestehender Diskriminierungen unter dem Deckmantel technologischer Neutralität. Jüngste wissenschaftliche Erkenntnisse und Tests belegen, dass populäre Sprachmodelle tief sitzende Vorurteile reproduzieren. Dies betrifft sowohl die automatisierte Vorauswahl von Bewerbern als auch die algorithmenbasierte Karriereberatung. Für Arbeitgeber, die sich blind auf solche Systeme verlassen, erwachsen daraus schwerwiegende rechtliche Konsequenzen, die von Schadensersatzforderungen bis hin zu massiven Reputationsschäden reichen.

Systematische Benachteiligung im automatisierten Rekrutierungsprozess

Die Tragweite algorithmischer Diskriminierung wird durch eine aktuelle Untersuchung des Bloomberg-Netzwerks verdeutlicht, die immense Defizite beim Einsatz von Künstlicher Intelligenz (KI) im Bewerbungsverfahren aufdeckt. In dem umfassenden Test wurden dem weit verbreiteten KI-Modell GPT-3.5 von OpenAI paarweise identische Lebensläufe vorgelegt. Der einzige Unterschied bestand in den Namen der Bewerber, die Rückschlüsse auf deren ethnische Herkunft zuließen. Die Ergebnisse sind alarmierend: Das System sortierte Kandidaten mit Namen, die im US-amerikanischen Kontext typischerweise mit der schwarzen Bevölkerung assoziiert werden, systematisch aus.

Selbst bei absolut deckungsgleicher Qualifikation, identischer Berufserfahrung und identischem Bildungsweg bevorzugte der Algorithmus in der Mehrheit der Fälle die Profile mit weiß konnotierten Namen. Diese Form der automatisierten Selektion erfolgt ohne menschliches Zutun und spiegelt die rassistischen Vorurteile wider, die in den historischen Trainingsdaten des Modells verankert sind. Für die betroffenen Bewerber bedeutet dies den Ausschluss aus dem Verfahren, noch bevor ein Mensch die Unterlagen überhaupt gesichtet hat.

Sexismus aus der Cloud: ChatGPT empfiehlt Frauen geringere Gehälter

Die Diskriminierung beschränkt sich keineswegs auf die ethnische Herkunft, sondern erstreckt sich ebenso auf das Geschlecht. Ein Experiment des Portals n-tv unterstreicht, wie KI-Systeme geschlechtsspezifische Ungleichheiten auf dem Arbeitsmarkt zementieren. Im Rahmen dieses Tests wurde ChatGPT in der Version 4o nach einer angemessenen Gehaltsforderung für eine bestimmte Position gefragt. Die Prompts waren bis auf den Namen der fiktiven Person identisch.

Das Resultat offenbart eine eklatante geschlechtsspezifische Diskrepanz: Während dem männlichen Profil „Christian“ ein Jahresgehalt von 65.000 Euro empfohlen wurde, riet das System der weiblichen Identität „Christina“ bei exakt gleicher Qualifikation und Position zu einer Forderung von lediglich 58.500 Euro. Das entspricht einer Differenz von zehn Prozent, die das System allein aufgrund des weiblichen Vornamens generiert. Der Algorithmus begründet diese Abweichung mit statistischen Marktwerten und bestehenden Gehaltsstrukturen. Indem die KI jedoch den real existierenden Gender-Pay-Gap als objektiven Richtwert heranzieht, reproduziert und verfestigt sie die strukturelle Benachteiligung von Frauen, anstatt eine faire, leistungsgerechte Einschätzung zu liefern.

Der rechtliche Rahmen: Haftungsrisiken nach dem Allgemeinen Gleichbehandlungsgesetz

Aus juristischer Sicht ist diese Praxis hochgradig brisant. In Deutschland regelt das Allgemeine Gleichbehandlungsgesetz (AGG) den Schutz vor Diskriminierung im Arbeitsleben. Nach § 1 AGG ist eine Benachteiligung aus Gründen der rassenbezogenen oder ethnischen Herkunft sowie des Geschlechts strikt untersagt. Dieser Schutzbereich umfasst das gesamte Bewerbungsverfahren, von der Stellenausschreibung bis zur endgültigen Einstellung.

Wenn ein Unternehmen ein KI-System für die Vorauswahl von Bewerbern einsetzt und dieses System aufgrund des Namen oder des Geschlechts diskriminierende Entscheidungen trifft, liegt ein Verstoß gegen das AGG vor. Die Verantwortung hierfür trägt allein der Arbeitgeber. Er kann sich nicht darauf berufen, dass die Entscheidung von einer externen Software getroffen wurde. Es besteht eine rechtliche Organisations- und Überwachungspflicht. Das bedeutet, dass Unternehmen die von ihnen genutzten Werkzeuge auf ihre Konformität mit dem geltenden Recht überprüfen müssen. Betroffene Bewerber haben bei einem Nachweis der Diskriminierung erhebliche Ansprüche auf Entschädigung und Schadensersatz nach § 15 AGG. Da das AGG zudem eine Beweiserleichterung für Bewerber vorsieht, müssen Arbeitgeber im Streitfall darlegen und beweisen, dass kein Verstoß gegen das Benachteiligungsverbot vorlag – ein Nachweis, der bei einer intransparenten „Black-Box-KI“ kaum zu erbringen ist.

Rechtliche Absicherung beim Einsatz von Künstlicher Intelligenz

Die Implementierung von Algorithmen im Personalwesen erfordert daher eine präzise rechtliche und technische Begleitung. Wir erleben in unserer Beratungspraxis zunehmend, dass Unternehmen das Risiko unterschätzen, das mit dem unkritischen Einsatz von KI-Tools einhergeht. Um Haftungsrisiken zu minimieren, müssen klare Compliance-Strukturen geschaffen werden. Dazu gehört die regelmäßige Auditierung der verwendeten Software sowie die vertragliche Absicherung gegenüber den Software-Herstellern.

Darüber hinaus greift auf europäischer Ebene die KI-Verordnung (AI Act), die KI-Systeme im Bereich des Personalwesens und der Bewerberauswahl als „Hochrisiko-KI-Systeme“ eingestuft. Dies verpflichtet Betreiber zu strengen Risikomanagement- und Qualitätssicherungssystemen sowie zu einer umfassenden Transparenz. Eine automatisierte Entscheidung ohne menschliche Letztkontrolle ist ohnehin bereits nach der Datenschutz-Grundverordnung (DSGVO) gemäß Art. 22 nur unter sehr engen Voraussetzungen zulässig.

Kompetente Beratung im Arbeitsrecht und der KI-Compliance

Die rasanten technologischen Entwicklungen im Bereich der Künstlichen Intelligenz stellen die HR-Abteilungen vor völlig neue rechtliche Herausforderungen. Ein fehlerhafter oder unüberlegter Einsatz von Algorithmen führt schnell zu teuren Klageverfahren und beschädigt das Image als fairer Arbeitgeber nachhaltig.

Wir unterstützen Dich dabei, Deine HR-Prozesse rechtssicher und digital zukunftsfähig zu gestalten. Wir analysieren Deine bestehenden Systeme, erstellen maßgeschneiderte KI-Richtlinien für Dein Unternehmen und vertreten Dich verlässlich bei der Abwehr von Ansprüchen nach dem Allgemeinen Gleichbehandlungsgesetz. Melde Dich jederzeit bei uns für eine umfassende Erstberatung. Wir stehen Dir zur Seite.

hekem