Zanim kandydat w ogóle wejdzie w kontakt z rekruterem, jego zgłoszenie przechodzi zwykle przez oprogramowanie, które porównuje treść CV z opisem stanowiska, przydziela punktację i układa listę rankingową. Rekruter dostaje już listę przefiltrowaną i z niej wybiera osoby na rozmowę. W wielu firmach ten pierwszy filtr odrzuca większość zgłoszeń, zanim może zobaczyć je człowiek, a za jego rozstrzygnięcia nikt nie odpowiada: system oficjalnie nie zatrudnia, a firma, która go kupiła, nie musi się tłumaczyć z tego jak on działa.
Jak działa selekcja
System uczy się na danych historycznych: kto przeszedł rekrutację, kto awansował, kto został w firmie dłużej. Jeśli w przeszłości stanowiska techniczne obsadzano w tej firmie głównie mężczyznami albo brano absolwentów kilku konkretnych uczelni, model odtworzy ten wzorzec, bo siedzi w danych, na których się uczył. Punktacja mierzy podobieństwo zgłoszenia do profilu, który wcześniej uznawano za udany; kompetencje liczą się o tyle, o ile mieszczą się w tym profilu. Dyskryminacja, która kiedyś była świadomą decyzją firmy, zmienia w ten sposób formę, bowiem staje się punktacją, której logiki z zewnątrz nie widzi ani kandydat, ani urząd.
Po drugiej stronie procesu działają podobne narzędzia. Kandydaci piszą CV i listy motywacyjne przy pomocy sztucznej inteligencji, dopasowując je do konkretnego ogłoszenia pod kątem fraz, które wyłapie skaner. Jeden model układa więc dokument pod drugi model, który ten dokument ocenia, tworząc błędne koło, gdzie człowiek, który faktycznie ma jakąś pracę wykonywać, jest relegowany na drugi plan. To, co kandydat naprawdę umie, weryfikuje się dopiero na rozmowie, o ile do niej w ogóle dojdzie.
Kto ponosi konsekwencje
Odrzucony w automatycznej selekcji kandydat dostaje zwykle jeden generyczny mail o dużej liczbie zgłoszeń, albo innym pretekście i na tym kontakt się kończy. Nie wie, czy zawinił brak konkretnego słowa w CV, przerwa w zatrudnieniu, którą system zinterpretował jako ryzyko, czy cecha niezwiązana z pracą, jak choćby wiek, dający się wyliczyć z daty ukończenia studiów. Bez wglądu w kryteria oceny nie ma czego zakwestionować. Żeby wykazać dyskryminację zakazaną przez prawo pracy, trzeba najpierw wiedzieć, według czego oceniano zgłoszenia.
RODO w art. 22 przyznaje prawo do niepodlegania decyzji opartej wyłącznie na zautomatyzowanym przetwarzaniu, jeśli wywołuje ona istotne skutki prawne. W praktyce rekruterzy zachowują formalny udział człowieka w ostatnim etapie, co pozwala im obejść ten przepis, mimo że to algorytm decyduje, kto w ogóle do tego etapu dotrze.
Na tym wszystkim traci kandydat. Pracodawca zyskuje czas rekruterów i możliwość przerobienia tysięcy zgłoszeń bez powiększania działu HR. Osoba szukająca pracy nie ma wpływu na przebieg własnej kariery i nie ma żadnego trybu odwoławczego, który dałoby się porównać z odwołaniem od decyzji urzędu.
Co nakazuje AI Act
Unijne rozporządzenie o sztucznej inteligencji zalicza systemy używane przy rekrutacji do kategorii wysokiego ryzyka. Wiąże się z tym obowiązek oceny ryzyka przed wdrożeniem, udokumentowania działania algorytmu, zapewnienia nadzoru człowieka i poinformowania kandydatów, że takie narzędzie jest w ogóle używane. Formalny obowiązek nie tworzy jednak mechanizmu kontroli. W Polsce nie ma dziś instytucji, która rutynowo audytowałaby algorytmy rekrutacyjne pod kątem dyskryminacji, tak jak Państwowa Inspekcja Pracy kontroluje warunki zatrudnienia czy wypłatę wynagrodzeń.
Czego brakuje
Automatyzacja pierwszego etapu selekcji da się pogodzić z prawem pracy, ale pod trzema warunkami. Jawność kryteriów jest pierwszym: skoro punktacja rozstrzyga o dostępie do etatu, kandydat powinien móc poznać zasady oceny, tak jak pracownik zna zasady premiowania. Drugi to niezależny audyt, bo model uczony na danych historycznych potrafi odtworzyć dawną praktykę kadrową, a wewnętrzna deklaracja firmy, że „dba o różnorodność”, niczego takiego nie wykryje. Trzeci dotyczy odpowiedzialności: korzyść z automatyzacji ma pracodawca, więc po jego stronie powinny leżeć skutki błędów systemu, razem z sankcją organu nadzorczego i prawem odrzuconego kandydata do odwołania.
Żadnego z tych trzech warunków polskie prawo dziś nie egzekwuje.
Komentarze