nowe technologie

Obowiązek oznaczania treści AI. Komisja tłumaczy

Od 2 sierpnia dostawcy oraz podmioty stosujące systemy AI będą musieli oznaczać treści wygenerowane przez sztuczną inteligencję. Obowiązek taki nakłada art. 50 unijnego rozporządzenia AI Act. Komisja Europejska wydała wytyczne, które mają ułatwić dostosowanie się do nowych wymogów.

Art. 50 AI Act rozróżnia cztery rodzaje systemów AI. Do pierwszego są zaliczane te bezpośrednio wchodzące w interakcję z osobami fizycznymi. Ich dostawcy muszą opracować i zaprojektować system AI tak, aby użytkownicy byli informowani, że wchodzą z nim w interakcję. W wytycznych KE podano przykłady takich systemów. Są to m.in. asystenci głosowi wykorzystujący AI, np. do obsługi klientów, infolinie AI do zgłaszania incydentów, oszustw lub innych zdarzeń, (humanoidalne) roboty, boty AI w mediach społecznościowych. Z kolei jako przykłady systemów AI, które nie wchodzą w interakcję z osobami, KE wymienia np. przemysłowe roboty wykorzystujące AI, działające w zamkniętym środowisku przemysłowym i nieprzeznaczone do interakcji z ludźmi.

Do kolejnego rodzaju systemów AI zalicza się te generujące lub manipulujące syntetycznymi obrazami, treściami wideo, audio lub tekstowymi. Na ich dostawców zostanie nałożony obowiązek oznaczania treści AI w sposób pozwalający na odczyt maszynowy, aby umożliwić wykrywanie treści generowanych lub zmanipulowanych przez sztuczną inteligencję. W wytycznych KE wymieniono, że do tej kategorii należą m.in. systemy VR, digital twins (np. stanowiące wirtualną replikę osób lub obiektów). Nie są do niej zaliczane natomiast np. treści wygenerowane przez system AI na podstawie prostego przetwarzania danych, które nie zostały specjalnie wygenerowane ani zmanipulowane przez AI, np. renderowana klatka obrazu.

Do trzeciego rodzaju systemów AI, o których mowa w art. 50 AI Act, są zaliczane te, które wykorzystuje się do rozpoznawania emocji lub kategoryzacji biometrycznej. Podmioty je stosujące będą musiały informować osoby, wobec których systemy te są stosowane. W wytycznych podano, że można to zrobić np. przez wyskakujące okno (pop-up) z komunikatem powitalnym przed uruchomieniem gry komputerowej, informującym, że twarz gracza jest rejestrowana w celu rozpoznawania jego emocji, albo poprzez widoczne ogłoszenie przy każdym możliwym wejściu do sali wystawowej.

Ostatni rodzaj systemów wskazanych w art. 50 AI Act to systemy AI generujące obrazy, treści audio lub wideo stanowiące treści deepfake lub systemy, które manipulują takimi obrazami lub treściami. Podmioty je stosujące muszą ujawnić, że treści zostały sztucznie wygenerowane lub zmanipulowane. Przykładami takich deepfake’ów są: zmieniony przez AI obraz przedstawiający dwóch prawdziwych zawodowych piłkarzy na tle budynku przypominającego stadion piłkarski czy wygenerowany przez AI dźwięk zawierający sklonowany głos prowadzących podcast. ©℗

Olga Łozińska

Dziennikarka DGP