Anti-Diskriminierungs-KI im Recruiting: Ziele verfehlt?

Bewerbungsprozesse werden immer mehr mittels KI-gestützten Instrumenten aufgerüstet: Matching Tools suchen in öffentlichen Profilen und anonymisierten Bewerbungsunterlagen nach potenziellen Kandidatinnen und Kandidaten. Psychologische Online-Tests bewerten die Bewerbenden entsprechend ihrer Persönlichkeitsmerkmale nach ihrer kulturellen Passung. Der Einsatz solcher Technologien ermöglicht nicht nur die Verarbeitung grosser Mengen von Daten. Anbieterinnen und Anbietern zufolge gelingt es damit, insbesondere menschliche Vorurteile und Diskriminierung bei der Einstellung auszuschalten. Laut einer kürzlich veröffentlichten Studie an der University of Cambridge verfehlt jedoch die simple Entfernung von Geschlecht und ethnischer Zugehörigkeit aus den Recruiting-Systemen den Zweck. Zudem stellen sich die verwendeten Persönlichkeitsanalysen oft als «automatisierte Pseudowissenschaft» heraus. Was läuft im KI-Recruiting falsch und wie kann dieser Prozess auf die richtige Bahn geführt werden?

Warum aktuelle KI-gestützte Bewerbungstools scheitern

Die Cambridge-Studie untersuchte das Marketingmaterial diverser Firmen, die KI-gestützte HR-Tools anbieten und konnte deren Hauptaussagen widerlegen: Weder beseitigen solche Tools Voreingenommenheit im Einstellungsprozess, noch bieten sie eine objektivere und neutralere Bewertung von Bewerbenden. Ausserdem fördern sie weder die Einstellung einer vielfältigeren Belegschaft, noch können sie Persönlichkeitsmerkmale von Bewerbenden anhand ihres äusseren Erscheinungsbildes erkennen. Damit verliert auch die Aussage an Gültigkeit, mit Hilfe von KI-Tools ideale Bewerbende für ein Unternehmen identifizieren zu können.

Die Studienautorinnen argumentieren, dass erstens Geschlecht und ethnische Zugehörigkeit oft fälschlicherweise als isolierbare Attribute und nicht als umfassende soziale Macht-Systeme verstanden werden. Der Versuch, diese Attribute aus den KI-Systemen "herauszulösen", wird dem Ziel der Antidiskriminierung damit nicht gerecht. Zweitens kann das Delegieren der "Diversitätsarbeit" an KI-gestützte Einstellungsinstrumente Kulturen der Ungleichheit und Diskriminierung verfestigen, da Unternehmen damit versäumen, ihre kulturellen Probleme innerhalb der Organisation anzugehen. Drittens täuscht die vermeintlich neutrale Bewertung der Eigenschaften von Bewerbenden durch KI-Einstellungstools über das Machtverhältnis zwischen dem Bewerbenden und den Rekrutierenden hinweg. Und viertens sind KI-Tools, die darauf trainiert sind, Persönlichkeit auf der Grundlage gemeinsamer Muster in Bildern von Menschen vorherzusagen, oft fehlerhaft.

Wie gelangten die Studienautorinnen zu einer solchen Erkenntnis? Sie arbeiteten mit Informatikstudierenden zusammen und entwickelten ein KI-Tool nach dem Vorbild, das zunehmend im Rekrutierungsprozess verwendet wird. Die sogenannte "Personality Machine" zeigt, wie zufällige Veränderungen des Gesichtsausdrucks, der Kleidung, der Beleuchtung und des Hintergrunds zu radikal unterschiedlichen Persönlichkeitsbewertungen führen können. Dass sich solche Bewertungen entscheidend darauf auswirken können, ob ein:e Bewerber:in zum Vorstellungsgespräch eingeladen oder bereits vorher aussortiert wird, ist selbstredend.

Auch Bewerbende scheinen KI-gestützten Bewerbungstools kritisch gegenüberzustehen. Laut einer Studie der Internationalen Hochschule (IU) mit über 1'000 Teilnehmenden lehnen gut zwei Drittel der Befragten den Einsatz von künstlicher Intelligenz im Recruiting ab. Mehr als die Hälfte befürchten den Verlust von zwischenmenschlichen Aspekten und wünschen sich, dass der Mensch auf allen Stufen des Bewerbungsprozesses die letzte Entscheidung trifft.

Chancen von KI-gestützten Tools im Bewerbungsprozess

Wenn die Menge und die Qualität der Daten von KI, mit der sie trainiert wurde, stimmen, hat der KI-gestützte Bewerbungsprozess durchaus Chancen. So vermutet immerhin ein Drittel der Befragten der IU-Studie, dass künstliche Intelligenz mehr Chancengleichheit, z. B. hinsichtlich Herkunft, Alter und Geschlecht ermöglicht. Und fast so viele nehmen an, dass KI Bewerbungsprozesse beschleunigt und effizienter macht.

Beispielsweise lassen sich durch den Einsatz des KI-gestützten Chatbots ChatGPT viele Standardanwendungen und -Prozesse weiter automatisieren und verbessern, ohne dabei den Menschen zu ersetzen (Haufe, 2023). Dazu gehören Stellenbeschreibungen, Zeugnisse, Kündigungen, Abmahnungen, Absagen, Arbeitsverträge, etc. So analysiert der Chatbot bestehende Stellenanzeigen auf den sozialen Plattformen und schlägt Recruitern Jobbörsen und Keywords für neue Anzeigen vor. Auch ist er imstande, Fragen der Kandidatinnen und Kandidaten zu beantworten, erste "Gespräche" mit ihnen zu führen oder spezifische persönliche Interview-Fragen zu erzeugen und deren Antworten zu analysieren. Ausserdem kann er regelmässigen Kontakt zu Bewerbenden halten und jeweils zum aktuellen Stand der Bewerbung Feedback geben.

Empfehlungen für den Einsatz von KI im Bewerbungsprozess

Zum einen empfehlen die Autorinnen der Cambridge-Studie den Fachleuten, welche die KI-Technologien für die Einstellung von Mitarbeitende entwickeln, nicht einzelne Fälle von "Voreingenommenheit" zu korrigieren. Sie sollten sich vielmehr damit beschäftigten, wie Ungleichheiten im Bewerbungsprozess entstehen. Es gilt herauszufinden, wie die Kategorien, die zum Sortieren, Verarbeiten und Kategorisieren von Bewerbenden verwendet wurden, Personen in der Vergangenheit geschadet haben.

Zum andern wird als sinnvoll erachtet, dass Personalverantwortliche, die diese Tools kaufen und einsetzen, zumindest ein grundlegendes Verständnis für die Grenzen von KI-gestützten Einstellungsinstrumenten haben. Ausserdem sollten sie Drittanbieter dazu verpflichten, genau offenzulegen, wo KI in ihren Systemen eingesetzt wird und wie sie zur Bewertung von Bewerbenden genutzt wird.

Darüber hinaus sind Bewerbende darüber zu informieren, wenn sie von KI-Software verarbeitet und bewertet werden. Ausserdem müssen sie die Technologie so gut verstehen, dass sie ihren Einsatz ablehnen und bei Bedarf eine alternative Form der Einstellung vorschlagen können.

Dass die KI-gestützten HR-Tools einer genaueren Prüfung unterzogen werden und mehr Rechtsvorschriften erlassen werden, ist den Studienautorinnen zufolge zwar ermutigend, doch der Beitrag von KI-Ethikern, Regulierungsbehörden und politischen Entscheidungsträgern sei immer noch unzureichend. Ernsthafte Bedenken bestehen auch in Bezug auf die Wirksamkeit dieser Regulierungsansätze. So deckt der Artificial Intelligence Video Interview Act (2020) nur KI ab, die in Video-Einstellungstools verwendet wird, was bedeutet, dass KI, die in anderen Teilen des Einstellungsprozesses (wie z. B. bei der Sichtung von Lebensläufen oder der Spracherkennung) eingesetzt wird, unberücksichtigt bleibt.

Fazit

Die Kompetenz von KI-gestützten Bewerbungstools ist noch nicht zufriedenstellend. Diese ist abhängig von der Kompetenz der Menschen, welche die KI trainieren. Da KI-gestützte Bewerbungstools Formen von Diskriminierung reproduzieren können, ist es von entscheidender Bedeutung, dass Organisationen, die KI-gestützten HR-Tools einsetzen wollen, diese vor dem Erwerb von einer  "Ethical-AI-Community" unter die Lupe nehmen lassen. Nur wenn auch die Personalverantwortlichen sich ernsthaft mit den Vorteilen und Risiken neuer und aufkommender KI-Technologien auseinandersetzen, kann sich das Potenzial von KI im Bewerbungsprozess positiv entfalten.

Quellen und weiterführende Informationen

Beck, S. et al. (2019). Künstliche Intelligenz und Diskriminierung.

Drage, E., Mackereth, K. (2022). Does AI Debias Recruitment? Race, Gender, and AI’s “Eradication of Difference”. Philos. Technol. 35, 89. 

Ethical-AI-Community. Zugriff am 08.02.2022

Industry of Things. (2022). KI im Recruiting stößt auf Ablehnung.

Internationale Hochschule (IU). (2022). KI im Recruiting: Emotionen, Ansichten, Erwartungen.

Papstein, L. (2023). Wie KI das moderne Recruiting unterstützt. Cloudmagazin.

Porath, G. (2023). Einsatzmöglichkeiten von ChatGPT in HR.

Science Daily. (2022). Claims AI can boost workplace diversity are ‘spurious and dangerous’, researchers argue.

The Personality Machine. Zugriff am 01.02.2023

University of Cambridge Research. Claims AI can boost workplace diversity are ‘spurious and dangerous’, researchers argue. Zugriff am 01.02.2023

Papstein, L. (2023). Wie KI das moderne Recruiting unterstützt. Cloudmagazin.