Das KI-Wettrüsten im Recruiting: Warum ein Tool allein keine faire Auswahl garantiert

KI im Recruiting verändert die Auswahl auf beiden Seiten. Unternehmen setzen sie ein, um Bewerbungen schneller zu sichten. Bewerber:innen nutzen dieselbe Technologie, um ihre Unterlagen zu optimieren. Beide Seiten rüsten auf, doch die Spielregeln sind selten geklärt. Dieser Beitrag zeigt, warum dadurch neue Risiken für Fairness und Vertrauen entstehen und argumentiert, dass die Antwort nicht im nächsten Tool liegt, sondern in einer klaren Recruiting-Architektur.

Beide Seiten rüsten auf

In vielen mittelständischen HR-Teams beginnt der Wandel zunächst unscheinbar. Anschreiben wirken glatter, Lebensläufe passgenauer und Antworten in Auswahltests strukturierter. Gleichzeitig aktivieren Unternehmen KI-Funktionen in ihren Bewerbermanagementsystemen, da der Druck steigt: schnelleres Screening, bessere Shortlists und die Entlastung der Fachbereiche sind das Ziel.

Aktuelle Zahlen zeigen, wie weit diese Entwicklung bereits fortgeschritten ist. Laut softgarden (Studie: KI trifft Recruiting 2025) nutzen 43 Prozent der Bewerber:innen in Deutschland KI für ihre Anschreiben, mehr als dreimal so viele wie 2023.

Auf Unternehmensseite zeigt die Recruiting-Studie von DGFP, HTWK Leipzig und Wollmilchsau (2025), dass KI vor allem dort angekommen ist, wo sie niedrigschwellig wirkt. Rund 90 Prozent der befragten Unternehmen nutzen KI-Tools beim Verfassen von Stellenanzeigen. In der eigentlichen Bewerberauswahlphase ist der Einsatz mit 11 Prozent noch deutlich zurückhaltender.

Es gibt also nicht mehr die eine Seite, die KI nutzt, und die andere, die sich bewirbt. Es gibt zwei Seiten, die beide aufrüsten.

Die Asymmetrie, über die kaum jemand spricht

Es wird interessant, wenn eine Seite KI selbstverständlich einsetzt und der anderen davon abrät. Medienberichte über Goldman Sachs zeigen diese Asymmetrie besonders deutlich: Kandidat:innen wurden angewiesen, in Interviews auf digitale Unterstützung zu verzichten, obwohl KI in der Branche längst weit verbreitet ist.

Das ist mehr als eine Anekdote. Es ist eine Asymmetrie, die nirgendwo verhandelt wurde. Unternehmen begründen ihren KI-Einsatz mit Effizienz, die KI-Nutzung durch Bewerber:innen gilt jedoch schnell als Authentizitäts- oder Täuschungsproblem. Wer trägt das Risiko? Wer hat Transparenz? Wer darf überhaupt KI nutzen? Diese Fragen beantworten bisher kaum Unternehmen für sich.

Warum KI im Recruiting mehr ist als eine Tool-Frage

Die Personalauswahl entscheidet darüber, wer Zugang zu Arbeit bekommt. Das Allgemeine Gleichbehandlungsgesetz (AGG) setzt hier klare Grenzen: Benachteiligungen bei Auswahlkriterien sind unzulässig und Bewerber:innen fallen ausdrücklich in den Schutzbereich. Wenn KI diese Auswahl mitbestimmt, berührt das genau diese Qualität.

Drei Risiken treffen den Mittelstand unmittelbar:

Fairness: KI-Modelle reproduzieren bestehende Verzerrungen, die oft unsichtbar sind. Eine groß angelegte Studie (u. a. unter Beteiligung von Stanford-Forschenden) wertete rund vier Millionen Bewerbungen aus. Der Befund: Über alle Stellen gemittelt zeigt sich keine Benachteiligung, bei Betrachtung der einzelnen Stellen jedoch schon. Der Durchschnitt verdeckt die im Einzelfall entstehende Diskriminierung.

Vertrauen: Menschliche Aufsicht verliert ihren Wert, wenn sie nur formal vorgesehen ist. Wer KI-Bewertungen abnickt, ohne sie zu prüfen, erfüllt eine Compliance-Pflicht, aber kein Fairness-Versprechen.

Teilhabe: Wenn ein Prozess stillschweigend KI-Kompetenz voraussetzt, fallen fachlich passende Kandidat:innen durchs Raster, die nicht prompten. Für den Mittelstand verengt das den eigenen Talentpool.

Dass diese Risiken nicht hypothetisch sind, zeigen dokumentierte Fälle. So stellte Amazon 2018 ein Recruiting-Tool ein, das weibliche Bewerberinnen abwertete. Im US-Verfahren Mobley v. Workday ließ ein Gericht 2024 Teile einer Klage zu und rückte damit erstmals auch den Anbieter in die Haftung. Und der Fall Precire, ein 2021 liquidiertes Unternehmen, dessen sprachbasierte Eignungsdiagnostik vom zuständigen Diagnostik- und Testkuratorium als wissenschaftlich nicht ausreichend belegt eingestuft wurde, zeigt, dass das Risiko oft nicht in der Diskriminierung, sondern in fehlender Prüfung liegt.

Der EU AI Act ist der Rahmen, nicht die Lösung

KI-Systeme zur Auswahl von Bewerbungen gelten gemäß dem EU AI Act in der Regel als Hochrisiko-Systeme. Für Betreiber entstehen dadurch Pflichten rund um menschliche Aufsicht, Datenkontrolle, Protokollierung und KI-Kompetenz.

Die Hochrisiko-Pflichten verschieben sich nach aktuellem Stand voraussichtlich auf Ende 2027, was jedoch keine regulatorische Pause bedeutet: Das AGG und die DSGVO gelten parallel und die KI-Kompetenzpflicht aus Artikel 4 gilt bereits seit Februar 2025. Es bleibt also nicht weniger zu tun, sondern es gibt mehr Zeit, um alles richtig aufzusetzen.

Denn formale Konformität garantiert keine faire Auswahl. Der EU AI Act adressiert die Anforderungen an Systeme. Die organisatorischen Fragen im Auswahlprozess löst er jedoch nicht. Genau hier liegt die eigentliche Arbeit.

Recruiting-Architektur statt Tool-Fokus

Für erfolgreiches Recruiting unter KI-Bedingungen sind zuerst klare Strukturen und dann die richtigen Tools entscheidend. Eine Recruiting-Architektur legt vor dem Einsatz von Tools fest, wie Kriterien, Rollen, Datenflüsse und Kontrollpunkte zusammenspielen. Sie lässt sich in sieben Bausteinen denken:

1. Dokumentierte Auswahlkriterien, schriftlich und AGG-geprüft
2. Klare Zuständigkeiten: Wer entscheidet was, wann?
3. Qualifizierte menschliche Aufsicht, die KI-Bewertungen kritisch prüfen kann
4. Bias-Prüfung entlang des gesamten Lebenszyklus, nicht nur am Output
5. Transparente Kommunikation gegenüber Bewerber:innen über Einsatz und Erwartungen
6. Anbieterauswahl nach Auditierbarkeit statt nach Marketing-Versprechen
7. Protokollierung, die eine Entscheidung im Nachhinein nachvollziehbar macht

Der Effekt: Die Verantwortung verlagert sich von der einzelnen Beschaffungsentscheidung auf die Frage, wie die Auswahl insgesamt gestaltet wird.

Sieben Fragen für den eigenen Prozess

Bevor Sie die nächste KI-Funktion aktivieren, lohnt es sich, den eigenen Prozess ehrlich zu betrachten:

1. Sind unsere Auswahlkriterien schriftlich dokumentiert und auf AGG-Risiken geprüft?
2. Ist geregelt, wer welche Letztentscheidung trifft?
3. Haben die Personen, die KI-Bewertungen prüfen, genügend KI-Kompetenz, um diese zu hinterfragen?
4. Prüfen wir regelmäßig auf Bias und würden bemerken, wenn eine Gruppe seit Monaten schlechter abschneidet?
5. Wissen Bewerber:innen, wann und wofür wir KI einsetzen und welche Formen der KI-Nutzung wir auf Bewerberseite akzeptieren?
6. Wählen wir Anbieter nach den Kriterien Transparenz und Auditierbarkeit aus?
7. Könnten wir im Falle einer Beschwerde oder Klage nachweisen, wie eine Entscheidung zustande kam?

Eine pragmatische Orientierung: Wer mehr als zwei dieser Fragen mit „Nein“ beantwortet, sollte vor der nächsten Tool-Entscheidung zuerst an der Architektur arbeiten.

Wer KI im Recruiting einsetzt, entscheidet nicht nur über Software, sondern auch darüber, wie fair, nachvollziehbar und steuerbar der Zugang zu Arbeit organisiert wird.

Über die Autorin

Audina Kamboua ist Gründerin von HiringLab. Mit über 15 Jahren Erfahrung in der HR-Welt entwickelt sie Recruiting-Architekturen für den Mittelstand, die strukturiert, menschenzentriert und anschlussfähig für den Einsatz von KI sind. Zuvor war sie unter anderem sieben Jahre als Senior HR-Managerin in der Sparkassen-Finanzgruppe an der Schnittstelle von Fachbereich, Prozess und Umsetzung tätig. Sie ist zertifizierte KI-Trainerin und absolviert derzeit ein Master-Studium im Bereich Digitale Transformation an der IU Internationalen Hochschule. Mehr unter hiringlab.eu.