KI-gestützte Lebenslaufprüfung kann voreingenommen sein, weil sie aus früheren Einstellungen lernt und Stellvertretermerkmale wie Namen, Hochschulen und Abschlussjahre liest. Prüfen Sie sie, bevor Sie sich darauf verlassen: Testen Sie sie an bereits besetzten Stellen, vergleichen Sie die Ergebnisse über Bewerbergruppen hinweg, soweit das rechtlich zulässig ist, entfernen Sie Stellvertreterfelder und lassen Sie eine namentlich benannte Person über jede Vorauswahl und jede Absage entscheiden.
#Das Wichtigste in Kürze
- Voreingenommenheit bei der Vorauswahl kommt meist aus den Daten und den Kriterien, nicht aus einem nachlässigen Modell.
- Testen Sie jedes Werkzeug zur Vorauswahl an bereits besetzten Stellen, bevor es mit echten Bewerbenden in Berührung kommt.
- Achten Sie auf Stellvertretermerkmale: Namen, Fotos, Staatsangehörigkeit, Abschlussjahre, Lücken im Lebenslauf und Hochschulnamen.
- Ein Mensch entscheidet über jede Vorauswahl und jede Absage, und die Begründung wird in seinen eigenen Worten festgehalten.
- Testen Sie nach jeder Änderung an Modell, Prompt oder Kriterien erneut.
#Wie gelangt Voreingenommenheit in die KI-Vorauswahl?
Der bekannteste Fall ist nach wie vor lehrreich. Laut Reuters via Euronews, Oktober 2018 stellte Amazon ein experimentelles Recruiting-Werkzeug ein, nachdem es gelernt hatte, Lebensläufe mit dem Wort „women's“ abzuwerten, weil es mit Einstellungen aus einem Jahrzehnt trainiert worden war, die überwiegend Männer betrafen. Niemand hatte ihm Diskriminierung aufgetragen; die Vergangenheit tat es.
Moderne Sprachmodelle werden nicht mit Ihren Einstellungen trainiert, übernehmen aber dennoch Muster. Bitten Sie eines, Lebensläufe nach „guter Passung“ zu ordnen, wendet es seine eigene Vorstellung von gut an. Die kann bestimmte Hochschulen, lückenlose Laufbahnen oder fließendes Englisch bevorzugen, auch für Stellen, die das nicht erfordern.
#Welche Regeln gelten für KI in der Personalauswahl?
Die Regeln unterscheiden sich von Land zu Land, verstehen Sie dies also als Übersicht, nicht als Beratung. Lewis Silkin, April 2024 erläutert, dass das EU-KI-Gesetz KI in Rekrutierung und Auswahl als hochriskant einstuft und die meisten Arbeitgeber dabei Betreiber sind. Der AI Act Service Desk der Europäischen Kommission, abgerufen im November 2026 nennt ein Werkzeug zum Abgleich und Ranking von Stellen, das Bewerbende filtert, als Beispiel für einen Hochrisiko-Einsatz.
In New York City dürfen Arbeitgeber und Personalagenturen ein automatisiertes Werkzeug für Beschäftigungsentscheidungen nicht ohne Bias-Audit einsetzen, laut den FAQ der NYC-Behörde für Verbraucher- und Arbeitnehmerschutz, abgerufen im November 2026. Arbeitgeber am Golf verarbeiten Bewerberdaten zudem nach dem Datenschutzgesetz der VAE und dem saudischen PDPL. Fragen Sie Ihre Rechtsberatung, was für Ihre Personalauswahl gilt.
#Wie testen Sie ein Werkzeug zur Vorauswahl vor dem Einsatz?
- Zuerst die Kriterien schreiben: die Muss-Kriterien der Stelle, mit der einstellenden Führungskraft vereinbart, bevor ein Lebenslauf gelesen wird.
- Stellvertreterfelder entfernen: Namen, Fotos, Geburtsdaten, Staatsangehörigkeit und Familienstand entfernen, bevor das Modell den Lebenslauf sieht, und Abschlussjahre sowie Lücken prüfen.
- Besetzte Stellen nachspielen: das Werkzeug mit anonymisierten Lebensläufen bereits besetzter Stellen laufen lassen und seine Vorauswahl mit der des Recruiters vergleichen.
- Gruppen vergleichen: wo das Recht die Daten zulässt, die Erfolgsquoten verschiedener Bewerbergruppen vergleichen und jeder Abweichung nachgehen.
- Austauschtests: in ansonsten identischen Lebensläufen ein Detail ändern, etwa einen Namen oder eine Hochschule, und prüfen, ob sich das Ergebnis verschiebt.
- Versteckten Text prüfen: nach weißem Text oder Anweisungen in Lebensläufen suchen, ein Prompt-Injection-Risiko, das in den OWASP Top 10 für LLM-Anwendungen als LLM01 geführt wird.
Ein illustratives Beispiel, die Zahlen sind Annahmen: Lässt das Werkzeug 40 von 100 Lebensläufen aus einer Gruppe und 25 von 100 aus einer anderen mit ähnlicher Qualifikation durch, braucht diese Lücke eine Erklärung vor dem Start, nicht erst nach einer Beschwerde.
#Was sollte immer ein Mensch entscheiden?
Jede Vorauswahl und jede Absage. Das Werkzeug fasst jeden Lebenslauf anhand der vereinbarten Kriterien zusammen und zeigt seine Belege; ein Recruiter liest die Zusammenfassung, öffnet bei Bedarf den Lebenslauf und entscheidet. Das NIST AI Risk Management Framework, Januar 2023 behandelt menschliche Aufsicht und Verantwortlichkeit als Teil des KI-Risikomanagements, und in der Personalauswahl heißt das: eine namentlich benannte entscheidende Person für jedes Ergebnis.
#Wann reicht ein einfacherer Ansatz?
Wenn Sie pro Quartal nur wenige Personen einstellen, verzichten Sie auf automatisierte Vorauswahl. Ein strukturierter Bewertungsbogen, zwei Lesende und anonymisierte Lebensläufe bringen Ihnen den größten Teil des Fairness-Gewinns ganz ohne Modell. Lebensläufe in einem freigegebenen Chat-Werkzeug zusammenzufassen ist in Ordnung, solange niemand es bittet, Menschen zu ranken.
#Wo passt Stennir hinein?
Die KI-Beratung von Stennir umfasst Governance: Das Audit zeigt, wo KI Ihre Personalauswahl berührt, wer entscheidet, was protokolliert wird und welche Tests vor und nach dem Start laufen. Wo sich Unterstützung bei der Vorauswahl lohnt, baut die KI-Umsetzung sie mit Entfernung von Stellvertretermerkmalen, Belegen zu jeder Zusammenfassung und einem Recruiter, der jede Entscheidung freigibt.
Das KI-Training zeigt Recruitern, wo Ergebnisse der Vorauswahl danebenliegen und wie man sie hinterfragt.
We are
Stennir entwirft und testet Unterstützung bei der Vorauswahl, die ihre Belege zeigt, wobei ein Mensch über jedes Bewerbungsergebnis entscheidet.
We aren't
Stennir ist kein automatisiertes Einstellungswerkzeug, kein Bias-Auditor im Sinne eines bestimmten Gesetzes und keine Anwaltskanzlei.
#Was sollte eine Leitung Talent Acquisition als Nächstes tun?
Listen Sie jede Stelle auf, an der KI bereits eine Bewerberentscheidung berührt, einschließlich Funktionen, die Ihr Bewerbermanagementsystem standardmäßig aktiviert hat. Notieren Sie jeweils, wer entscheidet und ob etwas getestet wurde. Lesen Sie KI für Operations, das Praxisbeispiel zur Lebenslaufprüfung und was der Vorstand vor dem Rollout sehen sollte. Dann buchen Sie ein 30-minütiges Gespräch.
#Häufige Fragen
Kann KI-Vorauswahl jemals fairer sein als Menschen?
Sie kann einheitlicher sein, weil sie dieselben Kriterien auf jeden Lebenslauf anwendet und nie müde wird. Einheitlichkeit ist aber nicht Fairness: Ein voreingenommenes Kriterium bleibt voreingenommen, auch wenn es einheitlich angewendet wird. Der Gewinn entsteht durch vereinbarte Kriterien, das Entfernen von Stellvertretermerkmalen, regelmäßige Tests und einen Menschen, der über jedes Ergebnis entscheidet.
Unser Bewerbermanagementsystem hat ein KI-Ranking eingebaut. Ist das sicher?
Fragen Sie den Anbieter, worauf das Ranking beruht, ob es auf Voreingenommenheit getestet wurde und welche Belege es zu jeder Bewertung zeigt. Spielen Sie dann selbst besetzte Stellen nach. Kann der Anbieter das Ranking nicht erklären, nutzen Sie stattdessen Zusammenfassungen und lassen Sie das Ranking bei Ihren Recruitern.
Welche Aufzeichnungen sollten wir führen?
Die Kriterien jeder Stelle, die verwendete Version von Werkzeug und Prompt, die Zusammenfassung zu jeder bewerbenden Person, wer entschieden hat und die Begründung in deren eigenen Worten. Bewahren Sie Testergebnisse von vor dem Start und nach jeder Änderung auf. Die Aufbewahrung folgt Ihren Datenschutzregeln, abgestimmt mit Ihrer Rechtsberatung.
Was brauchen Sie von uns für den Start?
Eine Leitung Talent Acquisition, die das Ergebnis verantwortet, eine Liste aller KI-Funktionen in Ihren Recruiting-Werkzeugen, anonymisierte Lebensläufe und Entscheidungen aus einigen besetzten Stellen sowie Ihre Ansprechperson für Datenschutz. Stennir testet damit, was Sie bereits einsetzen, bevor etwas Neues vorgeschlagen wird.
