Selekcja CV przez AI może być stronnicza, bo uczy się na dawnych decyzjach rekrutacyjnych i odczytuje wskaźniki zastępcze, takie jak imiona, uczelnie i lata ukończenia studiów. Sprawdź ją, zanim zaczniesz na niej polegać: przetestuj na zamkniętych rekrutacjach, porównaj wyniki między grupami kandydatów tam, gdzie prawo na to pozwala, usuń pola zastępcze i zostaw wskazaną osobę, która decyduje o każdej krótkiej liście i każdym odrzuceniu.
#Najważniejsze wnioski
- Stronniczość w selekcji zwykle wynika z danych i kryteriów, a nie z nieuwagi modelu.
- Przetestuj każde narzędzie do selekcji na stanowiskach, które już obsadziliście, zanim dotknie prawdziwego kandydata.
- Szukaj wskaźników zastępczych: imion, zdjęć, obywatelstwa, lat ukończenia studiów, przerw w karierze i nazw uczelni.
- O każdej krótkiej liście i każdym odrzuceniu decyduje człowiek, a uzasadnienie jest zapisywane jego słowami.
- Testuj ponownie po każdej zmianie modelu, promptu lub kryteriów.
#Skąd bierze się stronniczość w selekcji przez AI?
Najbardziej znany przypadek wciąż jest pouczający. Według Reutersa za Euronews, październik 2018 Amazon porzucił eksperymentalne narzędzie rekrutacyjne, gdy nauczyło się ono obniżać ocenę CV zawierających słowo „women's”, bo trenowano je na dziesięciu latach zatrudnień, głównie mężczyzn. Nikt nie kazał mu dyskryminować; zrobiła to historia.
Współczesne modele językowe nie są trenowane na waszych zatrudnieniach, ale i tak wychwytują wzorce. Poproś model o uszeregowanie CV według „dobrego dopasowania”, a zastosuje własne wyobrażenie o tym, co dobre, które może faworyzować określone uczelnie, kariery bez przerw albo biegły angielski na stanowiskach, które go nie wymagają.
#Jakie przepisy dotyczą AI w rekrutacji?
Przepisy różnią się w zależności od kraju, więc traktuj to jako mapę, a nie poradę. Lewis Silkin, kwiecień 2024 wyjaśnia, że akt o AI UE traktuje AI używaną w rekrutacji i selekcji jako system wysokiego ryzyka, a większość pracodawców występuje w roli podmiotów stosujących. Punkt obsługi aktu o AI Komisji Europejskiej, sprawdzono w listopadzie 2026 podaje narzędzie do dopasowywania i szeregowania ofert, które filtruje kandydatów, jako przykład zastosowania wysokiego ryzyka.
W Nowym Jorku pracodawcy i agencje zatrudnienia nie mogą używać zautomatyzowanego narzędzia do decyzji kadrowych bez audytu stronniczości, według FAQ nowojorskiego urzędu ochrony konsumentów i pracowników, sprawdzono w listopadzie 2026. Pracodawcy w krajach Zatoki przetwarzają też dane kandydatów zgodnie z przepisami o danych osobowych ZEA i saudyjską PDPL. Zapytaj swojego prawnika, które z nich dotyczą waszej rekrutacji.
#Jak przetestować narzędzie do selekcji przed użyciem?
- Najpierw spisz kryteria: wymagania obowiązkowe dla stanowiska, uzgodnione z menedżerem zatrudniającym, zanim ktokolwiek przeczyta CV.
- Usuń pola zastępcze: usuń imiona i nazwiska, zdjęcia, daty urodzenia, obywatelstwo i stan cywilny, zanim model zobaczy CV, i sprawdź lata ukończenia studiów oraz przerwy.
- Odtwórz zamknięte rekrutacje: uruchom narzędzie na zanonimizowanych CV z obsadzonych już stanowisk i porównaj jego krótką listę z listą rekrutera.
- Porównaj między grupami: tam, gdzie prawo pozwala przechowywać takie dane, porównaj odsetek przechodzących dalej w różnych grupach kandydatów i zbadaj każdą różnicę.
- Testy zamiany: zmień jeden szczegół, na przykład imię lub uczelnię, w poza tym identycznych CV i sprawdź, czy wynik się zmienia.
- Sprawdź ukryty tekst: szukaj białego tekstu lub poleceń wewnątrz CV, czyli ryzyka prompt injection, które OWASP top 10 dla aplikacji LLM oznacza jako LLM01.
Przykład poglądowy, liczby są założeniami: jeśli narzędzie przepuszcza 40 na 100 CV z jednej grupy i 25 na 100 z innej przy podobnych kwalifikacjach, ta różnica wymaga wyjaśnienia przed uruchomieniem, a nie po skardze.
#O czym zawsze powinien decydować człowiek?
O każdej krótkiej liście i każdym odrzuceniu. Narzędzie podsumowuje każde CV względem uzgodnionych kryteriów i pokazuje dowody; rekruter czyta podsumowanie, w razie potrzeby otwiera CV i decyduje. Ramy zarządzania ryzykiem AI NIST, styczeń 2023 traktują nadzór człowieka i odpowiedzialność jako część zarządzania ryzykiem AI, a w rekrutacji oznacza to wskazaną osobę decydującą o każdym wyniku.
#Kiedy wystarczy prostsze podejście?
Jeśli zatrudniacie kilka osób na kwartał, zrezygnujcie z automatycznej selekcji. Ustrukturyzowana karta oceny, dwie osoby czytające i zanonimizowane CV dają większość korzyści w zakresie sprawiedliwości bez udziału modelu. Podsumowywanie CV w zatwierdzonym narzędziu czatu jest w porządku, o ile nikt nie prosi go o szeregowanie ludzi.
#Jaka jest w tym rola Stennir?
Usługa doradztwa AI Stennir obejmuje zasady zarządzania: audyt pokazuje, gdzie AI dotyka waszej rekrutacji, kto decyduje, co trafia do dziennika i jakie testy są wykonywane przed uruchomieniem i po nim. Tam, gdzie warto zbudować wsparcie selekcji, wdrożenia AI budują je z usuwaniem pól zastępczych, dowodami przy każdym podsumowaniu i rekruterem zatwierdzającym każdą decyzję.
Szkolenia z AI uczą rekruterów, w czym wyniki selekcji się mylą i jak je kwestionować.
We are
Stennir projektuje i testuje wsparcie selekcji, które pokazuje swoje dowody, a o każdym wyniku dla kandydata decyduje człowiek.
We aren't
Stennir nie jest narzędziem do automatycznej rekrutacji, audytorem stronniczości w rozumieniu konkretnych przepisów ani kancelarią prawną.
#Co powinien teraz zrobić szef działu talentów?
Wypisz każde miejsce, w którym AI już dotyka decyzji o kandydacie, w tym funkcje, które wasz system ATS włączył domyślnie. Przy każdym zanotuj, kto decyduje i czy cokolwiek zostało przetestowane. Przeczytaj AI dla operacji, przykład z praktyki: selekcja CV w agencji zatrudnienia i co zarząd powinien zobaczyć przed wdrożeniem. Potem umów 30-minutową rozmowę.
#Najczęstsze pytania
Czy selekcja przez AI może być kiedykolwiek sprawiedliwsza niż ludzie?
Może być bardziej spójna, bo stosuje te same kryteria do każdego CV i nigdy się nie męczy. Spójność to jednak nie sprawiedliwość: spójne stosowanie stronniczego kryterium nadal jest stronnicze. Korzyść wynika z uzgodnionych kryteriów, usuwania pól zastępczych, regularnych testów i człowieka decydującego o każdym wyniku.
Nasz ATS ma wbudowane szeregowanie przez AI. Czy można go bezpiecznie używać?
Zapytaj dostawcę, na czym opiera się szeregowanie, czy było testowane pod kątem stronniczości i jakie dowody pokazuje przy każdej ocenie. Potem przeprowadź własne odtworzenie na zamkniętych rekrutacjach. Jeśli dostawca nie potrafi wyjaśnić szeregowania, korzystaj z podsumowań, a szeregowanie zostaw rekruterom.
Jaką dokumentację powinniśmy prowadzić?
Kryteria dla każdego stanowiska, wersję użytego narzędzia i promptu, podsumowanie, które otrzymał każdy kandydat, kto zdecydował i uzasadnienie jego słowami. Zachowuj wyniki testów sprzed uruchomienia i po każdej zmianie. Okres przechowywania wynika z waszych zasad ochrony danych, uzgodnionych z prawnikiem.
Czego potrzebujecie od nas na start?
Szefa działu talentów, który odpowiada za wynik, listy wszystkich funkcji AI w waszych narzędziach rekrutacyjnych, zanonimizowanych CV i decyzji z kilku obsadzonych stanowisk oraz osoby kontaktowej ds. Ochrony danych. Stennir wykorzystuje je, by przetestować to, czego już używacie, zanim zaproponuje cokolwiek nowego.
