Bias im Recruiting sitzt vor dem Modell

Woher die Verzerrung kommt

Der übliche Weg beginnt bei der Zielgröße. Wer ein Vorauswahlmodell auf der Frage trainiert, wer früher eingestellt wurde, baut die damalige Auswahlpraxis in das System ein, inklusive aller Vorlieben, die nie jemand aufgeschrieben hat. Das Modell ist danach exakt so gut oder so einseitig wie die Entscheidungen, aus denen es gelernt hat, nur schneller und konsistenter.

Der zweite Weg läuft über Stellvertretermerkmale. Geschlecht, Alter oder Herkunft aus den Unterlagen zu entfernen, hilft weniger als erwartet, weil Postleitzahl, Hochschule, Vereinsmitgliedschaft, Teilzeitphasen, Lücken im Lebenslauf und sogar die Formulierung eines Anschreibens dieselbe Information indirekt tragen. Ein Modell braucht das geschützte Merkmal nicht, um daran entlang zu sortieren.

Die Stellenanzeige entscheidet, wer sich überhaupt bewirbt

Wenn ein Sprachmodell eine Anzeige aus dem Bestand ableitet, übernimmt es Ton und Anforderungsprofil der alten Anzeigen. Typisch sind überlange Muss-Listen, unnötige Jahresangaben zur Berufserfahrung und Formulierungen, die eine bestimmte Belegschaft beschreiben statt der Aufgabe. Das reduziert den Bewerbungseingang, bevor irgendein Auswahlschritt greift, und diese Wirkung taucht in keiner Auswertung der Vorauswahl auf.

Auch die Ausspielung wirkt. Wenn eine Anzeige auf Klick- oder Bewerbungswahrscheinlichkeit optimiert ausgeliefert wird, verteilt sich die Reichweite ungleich über Gruppen, ohne dass jemand ein Merkmal als Zielkriterium angegeben hätte. Wer nur die eingegangenen Bewerbungen betrachtet, misst deshalb ein bereits gefiltertes Feld und hält das Ergebnis für den Markt.

Was AI Act, AGG und Betriebsverfassung verlangen

Der AI Act ordnet KI-Systeme, die für die Auswahl von Bewerbungen und für Beförderungsentscheidungen eingesetzt werden, dem Hochrisikobereich zu. Trenn dabei die Rollen. Risikomanagement über die Laufzeit, Anforderungen an die Trainingsdaten und die technische Dokumentation schuldet der Anbieter des Systems. Wer ein fertiges Werkzeug einkauft, ist Betreiber, und dann zählen andere Pflichten. Du setzt das System nach den Vorgaben des Anbieters ein, sorgst für eine wirksame menschliche Aufsicht durch fachkundige und dazu befugte Personen und achtest auf die Eignung der Eingabedaten. Dazu kommen die Aufbewahrung der Protokolle, soweit sie in deiner Hand liegen, die vorherige Unterrichtung der Beschäftigten und ihrer Vertretung sowie die Erklärung gegenüber einer betroffenen Person. Emotionserkennung am Arbeitsplatz ist unabhängig davon untersagt, das betrifft auch Auswertungen von Videointerviews auf Mimik oder Stimme.

Das AGG wirkt unabhängig davon und trifft zuerst dich als Arbeitgeber, nicht den Anbieter der Software. Legt eine abgelehnte Person Indizien für eine Benachteiligung vor, musst du das Gegenteil belegen, und das gelingt nur mit einer nachvollziehbaren Begründung je Ablehnung. Ein Sammelgrund wie „fehlende Passung“ ist an dieser Stelle wertlos.

Innerbetrieblich kommt der Betriebsrat dazu. Auswahlrichtlinien sind nach Paragraf 95 BetrVG mitbestimmt, und ein System, das Bewerbungen bewertet und dabei Leistungsdaten erzeugt, fällt regelmäßig unter Paragraf 87 Absatz 1 Nummer 6 BetrVG. Wer die Einführung ohne diese Beteiligung startet, verliert am Ende mehr Zeit, als jede Automatisierung einbringt.

Was messbar hilft

Am wirksamsten ist die Reihenfolge: erst der Kriterienkatalog, dann das Werkzeug. Lege vor der Ausschreibung fest, welche Anforderungen zwingend sind, wie sie nachgewiesen werden und wie sie gewichtet werden. Alles, was danach kommt, prüft nur noch gegen diese Liste, und jede Ablehnung verweist auf ein konkretes nicht erfülltes Kriterium.

Dazu kommen zwei Prüfungen, die wenig Aufwand kosten. Die erste ist die Durchlassquote je Auswahlstufe, getrennt nach den Merkmalen, um die es geht, gemessen über mehrere Ausschreibungen hinweg statt über eine einzelne. Die zweite ist ein fester Testlauf mit Bewerbungspaaren, die sich nur in einem Merkmal unterscheiden, ansonsten aber identisch sind. Unterschiedliche Bewertungen sind dann kein Verdacht mehr, sondern ein Befund, den du dokumentieren und dem Anbieter vorlegen kannst.