Wyobraźmy sobie, że…

Załóżmy taki scenariusz: AI określa wymagania rekrutacyjne a potem samodzielnie, według własnych kryteriów ocenia aplikacje kandydatów, eliminuje tych, którzy według niej się nie nadają, następnie układa listę rankingową i wskazuje najlepszego. Człowiekowi pozostanie jedynie złożyć podpis na umowie o pracę, bo całość rekrutacji zależeć będzie od AI. Technicznie to już dziś żaden problem. Chodzi jednak o to, żeby właśnie tak to nie wyglądało, żeby taki, zależny jedynie od AI model nie był stosowany.     

Sztuczna  inteligencja może być pomocnym narzędziem, można używać jej do przyspieszenia i usprawnienia pracy działów HR, ale to do człowieka musi należeć ostateczna decyzja dotycząca zatrudnienia. Human oversight – nadzór człowieka nad decyzjami AI – to jedna z kilku podstawowych zasad, jakie wprowadza AI Act, które także w sprawach kadrowych będą miały pełne zastosowanie. Co ważne, wprowadzane przez AI Act zasady przede wszystkim  dotyczą firm, bo to po ich stronie leży największa odpowiedzialność i największe ryzyka.      

– Na start musimy tu twardo rozdzielić dwie strony: kandydatów i firmy. Kandydaci dysponują jedynie swoimi danymi, więc prawnie AI Act nie nakłada na nich ograniczeń: mogą swobodnie używać AI (np. ChatGPT) do pisania CV czy przygotowań do rozmów. Pozostaje tu jedyne kwestia etyki, tj. czy informacje, które są zawarte w CV, są prawdziwe, podkoloryzowane czy po prostu fałszywe. Firmy za to przetwarzają masowe ilości danych osobowych i wrażliwych. W wielu organizacjach nikt poza działami HR nie ma tak skondensowanej wiedzy o ludziach – tłumaczą Anna Sykut i Magdalena Sobczak z firmy Traffit, specjalizującej się we wspieraniu procesów rekrutacyjnych (cytat za portalem  pulshr.pl).       

Czego nie wolno?

Na sprawy związane z zatrudnieniem, twórcy AI Act zwrócili zresztą szczególną uwagę. Załącznik III rozporządzenia wymienia systemy AI wysokiego ryzyka, wymagające podwyższonego nadzoru. Obok m.in. biometrii, infrastruktury technicznej, dostępu do usług prywatnych i publicznych, ścigania przestępstw czy sprawowania wymiaru sprawiedliwości, za systemy wysokiego ryzyka AI ACT uznaje także rozwiązania stosowane w obszarach „kształcenie i szkolenie zawodowe” oraz „zatrudnienie, zarządzanie pracownikami i dostęp do samozatrudnienia”.

Już teraz, od lutego 2025 roku, nie wolno wykorzystywać szeregu praktyk uznanych za szczególnie niebezpieczne. Artykuł 5 rozporządzenia zakazuje wprowadzania do obrotu, oddawania do użytku lub wykorzystywania systemów AI, które:

• stosują techniki podprogowe, będące poza świadomością danej osoby lub celowe techniki manipulacyjne i wprowadzające w błąd;
• wykorzystują słabość osoby lub grupy osób ze względu na ich wiek, niepełnosprawność, szczególną  sytuację społeczną lub ekonomiczną;   
• wyciągają wnioski na temat emocji osoby fizycznej w miejscu pracy lub instytucjach edukacyjnych – z wyjątkiem zastosowań medycznych i związanych z bezpieczeństwem;
• oceniają lub klasyfikują osoby i grupy osób na podstawie ich zachowania społecznego lub cech osobistych i cech osobowości a utworzone w ten sposób zestawienie rankingowe może prowadzić do krzywdzącego lub niekorzystnego traktowania niektórych osób;
• wykorzystują systemy kategoryzacji biometrycznej, które indywidualnie kategoryzują osoby fizyczne w celu wnioskowania na temat ich rasy, poglądów politycznych, przynależności do związków zawodowych, przekonań religijnych i światopoglądowych, seksualności i orientacji seksualnej.              

Dzień dobry, jestem wirtualnym asystentem!

Z początkiem sierpnia 2026 roku w życie weszły zasady zapewniające przejrzystość w stosowaniu AI. Firmy i instytucje stosujące sztuczną inteligencję w kontakcie ze swymi klientami muszą to robić w sposób transparentny. Tak, żeby każdy był w jasny sposób poinformowany z czym ma do czynienia, gdy np. odpowiada na pytania wirtualnego asystenta, albo wchodzi w kontakt z chatbotem. Dotyczy to także obowiązku czytelnego oznaczania materiałów generowanych przez sztuczną inteligencję, w tym materiałów audio, czy wideo stworzonych z udziałem AI, które sprawiać mogą wrażenie autentyczności. Co warto przypomnieć, przepisy nie zabraniają tworzenia treści, np. zdjęć, czy materiałów wideo łudząco podobnych do rzeczywistych. Chodzi tylko o to, żeby ich odbiorca miał pełną świadomość, że to materiał wygenerowany przez AI.

Czas na przygotowanie się do ryzyka

Pierwotnie, w sierpniu 2026 roku, wejść miały w życie także obowiązki związane z systemami AI wysokiego ryzyka. Termin ten został jednak przesuniętym pakietem AI Omnibus do 2 grudnia 2027 roku. Firmy i instytucje będą miały więc miały więcej czasu na przygotowanie się do zmian.

– AI Act to dla firm moment porównywalny z wejściem RODO – kończy się etap eksperymentów z AI bez jasnych zasad. Dla działów HR to szczególnie istotne, bo AI coraz częściej wspiera rekrutację, ocenę kandydatów czy zarządzanie personelem. Firmy, które przygotują się odpowiednio wcześnie, zyskają przewagę nie tylko regulacyjną, ale również reputacyjną –  twierdzi  Kamil Jankowski, Dyrektor Marketingu i Komunikacji Gi Group Holding (cytat za managerplus.pl).

A zrobić trzeba sporo. Wprowadzone muszą być procedury nadzoru człowieka nad stosowaniem sztucznej inteligencji przy naborze, i to takie, żeby ten nadzór był rzeczywisty. Przejrzenia wymagają stosowane w firmach systemy rekrutacyjne (ATS), narzędzia do automatycznego selekcjonowania CV i wyciągania wniosków z rozmów  rekrutacyjnych, by upewnić się, czy np. nie dochodzi do równie automatycznego odrzucania kandydatów, bez decyzji człowieka odpowiedzialnego za proces rekrutacji.

– Jednym z największych problemów praktycznych jest ryzyko dyskryminacji algorytmicznej. System AI może preferować określone grupy kandydatów albo powielać uprzedzenia obecne w danych treningowych. Ryzyko to może wystąpić nawet wtedy, gdy pracodawca nie ma zamiaru nikogo dyskryminować. Jeżeli historyczne dane były obciążone określonymi schematami, system może je utrwalać – podkreśla adwokat Jakub Chajdas, partner zarządzający w łódzkiej kancelarii CGO Legal (cytat za materiałami kancelarii).

Nowe obowiązki to też m.in. stworzenie zasad i wdrożenie systemów dokumentowania zastosowań  AI, zabezpieczenie systemów pod względem cyberbezpieczeństwa, przygotowanie kadr odpowiedzialnych za zgodność z AI Act i stworzenie wewnętrznych procedur regulujących stosowanie sztucznej inteligencji.    

KRIBSI wyjaśni

Dostosowanie się do AI ACT nie będzie ani łatwe, ani proste choćby dlatego, że nie zawsze  jasne będzie, które rozwiązanie mieści się dozwolonych ramach, a które już je przekracza. Mało tego, założyć można, że takich wątpliwości będzie mnóstwo. A to jest kłopot, bo dotąd nie ma instytucji, której głos byłby tu rozstrzygający.

To się jednak zmieni. Wspomniana już Ustawa z 3 lipca 2026 roku o systemach sztucznej inteligencji tworzy organ, który będzie pełnić rolę regulatora w sprawach AI, działającego z jednej strony na rzecz rozwoju tej technologii, a z drugiej chroniącej przed jej nieprawidłowym wykorzystywaniem. KRIBSI, czyli Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji właśnie powstaje.  Jej główne, określone w ustawie zadania to m.in.:

• kontrola przestrzegania AI Act,

• przeciwdziałanie zagrożeniom w zakresie bezpieczeństwa systemów sztucznej inteligencji,

• wydawanie postanowień i decyzji w sprawach o naruszenie AI Act,

• prowadzenie rejestru skarg,

• prowadzenie działań na rzecz rozwoju innowacji w obszarze AI,

• wydawanie z urzędu lub na wniosek wyjaśnień istotnych dla stosowania rozporządzenia.

To ostatnie uprawnienie ma szczególne znaczenie, bo daje możliwość uzyskania oficjalnej  interpretacji AI ACT w odniesieniu do konkretnego rozwiązania.     

– Regulacja sama w sobie nie jest największym kosztem dla biznesu. Kosztem jest to, że nie wie on, jak ma te regulacje stosować, jakich narzędzi ma używać. Dlatego ustawa daje kluczowe narzędzie, jakim jest opinia indywidualna, które pozwala za 150 złotych zgłosić się i uzyskać pewność klasyfikacji swego systemu. Co ważne, urząd będzie miał 30 do 60 dni na wydanie takiej decyzji  – tak całkiem niedawno, 15 września 2026 roku, podczas publicznego wysłuchania w gmachu Senatu RP, mówiła Pamela Krzypkowska, kandydująca do stanowiska przewodniczącej KRIBSI. Tego samego dnia zresztą jej kandydatura uzyskała akceptację sejmowej komisji ds. cyfryzacji, a w piątek 18 września o jej wyborze  zadecydował Sejm. Pamela Krzypkowska, ma doświadczenie zarówno związane z administracją, jak i biznesem. Była m.in. szefową Departamentu Badań i Innowacji w Ministerstwie Cyfryzacji, wcześniej pracowała w koncernach Samsung i Microsoft, gdzie  zajmowała się tworzeniem architektury rozwiązań AI. – Systemy AI tworzone są na danych, do których mają dostęp. Jeśli te dane są stronnicze, to systemy też będą stronnicze. Głośna była sprawa jednej z firm, w której rozwiązanie oparte na algorytmach wskazywało, że najbardziej optymalne dla tej firmy jest zatrudnianie mężczyzn. Kluczowe jest zatem audytowanie tych systemów, informowanie, jak można sprawić, żeby te systemy nie były stronnicze, albo jak zweryfikować i testować tę stronniczość algorytmów .   

Jak to będzie działało w praktyce, czy uda wprowadzić pełne zapisy AI Act bezkolizyjnie, czy KRISBI spełni pokładanie w niej nadzieje?  Czas pokaże. I to bez potrzeby wspomagania się sztuczną inteligencją