Gdy kandydat pyta pracodawcę: „Dlaczego moja aplikacja została odrzucona?”, a słyszy w odpowiedzi: „To decyzja naszych algorytmów”, sytuacja staje się nie tylko niezadowalająca dla kandydata – to również naruszenie jego praw. Prawo do wyjaśnienia, dlaczego algorytm podjął wobec niego negatywną decyzję, to nie kwestia uprzejmości czy dobrego tonu. To prawo każdego człowieka, wynikające bezpośrednio z przepisów AI Act.
Czarna skrzynka algorytmu: problem prawny
Sztuczna inteligencja to czarna skrzynka. System AI podejmuje decyzje, ale nikt – łącznie z twórcami algorytmu – nie potrafi w pełni wyjaśnić, dlaczego konkretnie ta decyzja została podjęta. Wynika to z milionów drobnych obliczań i wzorów, które nawet sama AI nie potrafić dokładnie wyjaśnić.
W HR ten problem jest bardzo poważny, a jednak wiele firm go ignoruje. Kandydat często dostaje maila z informacją: „Dziękujemy za zainteresowanie, nie przeszedł Pan/przeszła Pani do następnego etapu”. I tyle. Żadnego wyjaśnienia. Żadnej możliwości zrozumienia, czy problem był w kompetencjach, doświadczeniu, czy w czymś zupełnie innym.
Prawo do nieautomatycznej decyzji
Kandydat ma prawo do tego, aby decyzja dotycząca jego zatrudnienia była podejmowana przez człowieka, a nie wyłącznie przez algorytm.
Co to oznacza w praktyce HR? Jeśli Twój system AI automatycznie odrzuca kandydatów bez przeglądu człowieka, naruszasz przepisy. Automatyczne decyzje w procesach rekrutacyjnych są zakazane.
To oznacza konkretnie:
- System AI nie może sam zdecydować o odrzuceniu kandydata. Musi o tym zdecydować człowiek.
- Algorytm może być narzędziem wspierającym, np. sortować aplikacje, wystawiać rekomendacje, ale ostateczną decyzję zawsze podejmuje człowiek.
- Kandydat może żądać wyjaśnienia decyzji przez człowieka. Pracodawca nie może tej prośby odmówić.
Pracodawca, który całkowicie automatyzuje decyzje rekrutacyjne (bez udziału człowieka), łamie prawo. Niezależnie od tego, jak dobry jest algorytm i jak sprawiedliwy się wydaje.
Problem z czarną skrzynką polega na tym, że kandydat pozostaje w niewiedzy. Nie wie, czy problem był w kompetencjach, doświadczeniu, czy może algorytm uznał, że „nie pasuje”. To nie jest uczciwe i – co ważniejsze – to naruszenie prawa.
Kandydat ma prawo do wyjaśnienia. Jeśli algorytm odrzucił jego aplikację, pracodawca musi mu wyjaśnić dlaczego. Konkretnie i zrozumiale.
Kandydat może żądać informacji na temat:
- Tego, że AI brała udział w decyzji – nie może być to tajemnica.
- Tego, które dane algorytm analizował – CV, doświadczenie, certyfikaty, czy coś innego.
- Tego, jakie cechy były oceniane i jaki był jego wynik – dlaczego nie przeszedł progu.
- Przeglądu decyzji przez człowieka, jeśli uważa, że algorytm był niesprawiedliwy.
Nie musisz ujawniać tajemnic handlowych ani dokładnych reguł, na których algorytm się opiera. Ale musisz udzielić wyjaśnienia w sposób zrozumiały dla kandydata.
Jak być transparentnym: praktyczna lista
Jeśli używasz AI w rekrutacji, musisz mieć procedurę wyjaśniania decyzji:
1. Przed rekrutacją: poinformuj kandydatów, że używasz AI
„Aplikacje będą analizowane przez system AI, który ocenia: doświadczenie, umiejętności, edukację. Ostateczną decyzję o zaproszeniu na rozmowę podejmuje człowiek.”
2. Po odrzuceniu: nie wysyłaj szablonowego maila
Jeśli kandydat wnioskuje o wyjaśnienie, przygotuj szczegółową odpowiedź opartą na analizie algorytmu. Która cechy były oceniane? Jaki był wynik kandydata? Dlaczego nie przeszedł do następnego etapu?
3. Dokumentowanie decyzji
Wszystkie wyniki algorytmu oraz przyczyny odrzucenia muszą być dokumentowane i przechowywane. Na wypadek gdyby kandydat zaskarżył decyzję, powinieneś mieć pełną historię tego, co algorytm oceniał i dlaczego.
Czemu to ważne dla pracodawcy
Nie chodzi tylko o respektowanie przepisów, ale także o dbanie o wizerunek. Organizacje, które potrafią wyjaśnić decyzje swoich algorytmów, zdobywają zaufanie kandydatów. Wówczas nawet ci, którzy nie przeszli procesu rekrutacyjnego, czują się dobrze traktowani.
Poza tym: czarna skrzynka to zagrożenie dla samej firmy. Jeśli algorytm dyskryminuje (nawet nieświadomie), a Ty tego nie widzisz, to może stanowić problem. Ale jeśli potrafisz pokazać wyniki algorytmu, możesz wykazać, że Twoja analiza była obiektywna i system AI oparł się na rzeczowych kryteriach to stanowi Twoją linię obrony, jeśli kandydat pozwie za dyskryminację.
Jeśli chcesz wiedzieć, jak uczynić swoje procesy rekrutacyjne bardziej transparentnymi, lub chcesz przeanalizować, czy Twój algorytm rzeczywiście jest sprawiedliwy, napisz do mnie na sara.ferenc@legalden.pl.
