Systemy HR i CRM pod lupą AI Act – kiedy grożą zakazane praktyki
Narzędzia AI wykorzystywane codziennie w działach kadr i sprzedaży – selekcja CV, ranking kandydatów, scoring czy chatboty – wcale nie mają jednolitego poziomu ryzyka regulacyjnego. Spółka powinna oceniać każdy moduł AI osobno, ponieważ błędna klasyfikacja może oznaczać poważne konsekwencje, zarówno finansowe, jak i wizerunkowe.
Wysokie ryzyko w HR, ograniczone w CRM – ale nie zawsze
Większość narzędzi HR – selekcja CV, ranking kandydatów, ogłoszenia o pracę, przydzielanie zadań, ocena pracy – kwalifikuje się jako systemy wysokiego ryzyka, podobnie jak scoring kredytowy osób fizycznych. Systemy CRM zwykle mieszczą się w kategorii ryzyka ograniczonego, obejmującej głównie obowiązki przejrzystości – rozmowy z chatbotem oraz treści generowane przez AI powinny być jasno oznaczone jako pochodzące od AI. Niemniej jednak każdy moduł należy klasyfikować osobno, bo w praktyce granica bywa płynna, a te same narzędzia bywają wykorzystywane do różnych celów w różnych działach spółki.
Zakazane praktyki, na które trzeba zwrócić szczególną uwagę
W obu obszarach trzeba zweryfikować ryzyko praktyk zakazanych z art. 5 AI Act – w HR chodzi zwłaszcza o rozpoznawanie emocji w miejscu pracy, w CRM o techniki podprogowe i manipulacyjne wykorzystujące słabości klientów. Jeżeli natomiast dany moduł zostanie zakwalifikowany jako system wysokiego ryzyka, spółka musi zapewnić m.in. użytkowanie zgodne z instrukcją obsługi, realny nadzór człowieka o odpowiednich kompetencjach, dbałość o reprezentatywność danych wejściowych oraz przechowywanie logów przez co najmniej sześć miesięcy. Przy systemach scoringu kredytowego dochodzi dodatkowo odrębnie uregulowany obowiązek oceny skutków dla praw podstawowych.
Katalog zakazanych praktyk obejmuje m.in. rozpoznawanie emocji w miejscu pracy oraz techniki podprogowe i manipulacyjne wykorzystujące słabości klientów – zjawiska, które mogą pojawić się właśnie w systemach HR i CRM i wymagają uważnej weryfikacji przed wdrożeniem.
Spółka może nieświadomie stać się dostawcą systemu AI, a nie tylko jego użytkownikiem – wystarczy oznaczenie systemu własną marką, istotna modyfikacja lub zmiana przeznaczenia prowadząca do zakwalifikowania go jako systemu wysokiego ryzyka. Skutkuje to przejęciem znacznie szerszego zakresu obowiązków niż te, które ciążą na zwykłym użytkowniku systemu.
Oprac. Marta Muszyńska
REDAKCJA INFORLEX
POTRZEBUJESZ POMOCY?