(1)

Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 (5) ustanawia zharmonizowane przepisy dotyczące sztucznej inteligencji (AI) i ma na celu poprawę funkcjonowania rynku wewnętrznego, promowanie upowszechniania zorientowanej na człowieka i godnej zaufania sztucznej inteligencji, przy jednoczesnym zapewnieniu wysokiego poziomu ochrony zdrowia, bezpieczeństwa i praw podstawowych oraz wspieraniu innowacji. Rozporządzenie (UE) 2024/1689 weszło w życie w dniu 1 sierpnia 2024 r. Jego przepisy zaczynają obowiązywać stopniowo, przy czym rozpoczęcie stosowania wszystkich przepisów nastąpi do dnia 2 sierpnia 2027 r.

(2)

Doświadczenia zdobyte podczas wdrażania części rozporządzenia (UE) 2024/1689, które już mają zastosowanie, mogą stanowić podstawę dla wdrażania tych części, które nie mają jeszcze zastosowania. W tym kontekście opóźnienia w przygotowaniu norm, które zapewniają rozwiązania techniczne dla dostawców systemów AI wysokiego ryzyka w celu zapewnienia zgodności z ich obowiązkami wynikającymi z tego rozporządzenia, oraz opóźnienia w ustanowieniu ram zarządzania i oceny zgodności na poziomie krajowym doprowadziły do większego niż oczekiwano obciążenia wynikającego z przestrzegania przepisów. Ponadto konsultacje z zainteresowanymi stronami ujawniły potrzebę wprowadzenia dodatkowych środków w celu ułatwienia wdrażania i przestrzegania przepisów oraz zapewnienia jasności w tym zakresie, bez obniżania poziomu ochrony zdrowia, bezpieczeństwa i praw podstawowych przed zagrożeniami związanymi ze sztuczną inteligencją, który mają zapewnić przepisy rozporządzenia (UE) 2024/1689.

(3)

Aby sprostać niektórym wyzwaniom związanym z wdrażaniem, konieczne są ukierunkowane zmiany w rozporządzeniu (UE) 2024/1689 w celu skutecznego, prostego i jednolitego stosowania odpowiednich przepisów.

(4)

Aby umożliwić innowacje w dziedzinie AI w sektorach prywatnym i publicznym, ważne jest, aby Komisja i właściwe organy państw członkowskich zadbały o to, aby nadzór, egzekwowanie i monitorowanie przepisów sektorowych i krajowych były przeprowadzone w sposób, który nie prowadzi do powielania działań, niejednoznacznych interpretacji ani rozbieżności w egzekwowaniu.

(5)

W rozporządzeniu (UE) 2024/1689 ustanowiono przepisy horyzontalne dotyczące systemów AI, aby zapewnić spójny i wysoki poziom ochrony interesu publicznego w odniesieniu do zdrowia i bezpieczeństwa oraz praw podstawowych. W odniesieniu do systemów AI wysokiego ryzyka, o których mowa w art. 6 ust. 1, rozporządzenie to stosuje się w związku z unijnym prawodawstwem harmonizacyjnym wymienionym w sekcji A załącznika I. W niektórych przypadkach w unijnym prawodawstwie harmonizacyjnym można ustanowić wymogi zapewniające poziom ochrony istotnego interesu publicznego taki sam lub wyższy niż poziom przewidziany w wymogach szczególnych lub obowiązkach określonych w rozporządzeniu (UE) 2024/1689. W takim przypadku powinna istnieć możliwość ograniczenia stosowania szczególnych wymogów lub obowiązków określonych w rozporządzeniu (UE) 2024/1689 w celu ułatwienia zgodności z tymi wymogami oraz zminimalizowania obciążeń administracyjnych i powielania działań, przy jednoczesnym utrzymaniu poziomu ochrony zapewnianego na mocy tego rozporządzenia. Takie ograniczenie powinno być możliwe, jeżeli – i w zakresie, w jakim – unijne prawodawstwo harmonizacyjne wymienione w sekcji A załącznika I przewiduje wymogi zapewniające poziom ochrony zdrowia, bezpieczeństwa lub praw podstawowych równoważny poziomowi zapewnianemu przez dany wymóg lub obowiązek. Należy przekazać Komisji uprawnienia do przyjmowania aktów delegowanych w celu uzupełnienia tego rozporządzenia poprzez wskazanie takich przypadków i określenie danych produktów, wymogów lub obowiązków, które mogą podlegać ograniczeniom, a także warunków i zakresu wszelkich ograniczeń, przy jednoczesnym zapewnieniu, że poziom ochrony przewidziany w rozporządzeniu (UE) 2024/1689 nie zostanie obniżony.

(6)

Większość unijnych przedsiębiorstw to małe i średnie przedsiębiorstwa, z których większość to mikroprzedsiębiorstwa i małe przedsiębiorstwa. Przedsiębiorstwa wykraczające poza definicję mikroprzedsiębiorstw oraz małych i średnich przedsiębiorstw (MŚP), a mianowicie „małe spółki o średniej kapitalizacji”, odgrywają kluczową rolę w gospodarce Unii. W porównaniu z MŚP małe spółki o średniej kapitalizacji wykazują zwykle wyższe tempo wzrostu oraz wyższy poziom innowacji i cyfryzacji. Stoją one jednak przed podobnymi wyzwaniami związanymi z obciążeniem administracyjnym jak MŚP, co powoduje konieczność zachowania proporcjonalności przy wdrażaniu rozporządzenia (UE) 2024/1689 i ukierunkowanego wsparcia. Aby umożliwić sprawne przejście przedsiębiorstw z segmentu MŚP do segmentu małych spółek o średniej kapitalizacji, istotne jest spójne uwzględnienie wpływu, jaki rozporządzenie może mieć na ich działalność, gdy przedsiębiorstwa te staną się małymi spółkami o średniej kapitalizacji i będą musiały przestrzegać przepisów mających zastosowanie do dużych przedsiębiorstw. W rozporządzeniu (UE) 2024/1689 przewidziano szereg środków dla drobnych operatorów, które – w stosownych przypadkach – należy rozszerzyć na małe spółki o średniej kapitalizacji, przy jednoczesnym zabezpieczeniu nadrzędnych celów oraz poziomu ochrony przewidzianych w rozporządzeniu (UE) 2024/1689. Aby lepiej wyjaśnić, jak w rozporządzeniu (UE) 2024/1689 traktowane są MŚP i małe spółki o średniej kapitalizacji, należy wprowadzić definicje MŚP i małych spółek o średniej kapitalizacji, które powinny odpowiadać definicjom określonym odpowiednio w załączniku do zalecenia Komisji 2003/361/WE (6) i w załączniku do zalecenia Komisji (UE) 2025/1099 (7).

(7)

Pojęcie „związanego z bezpieczeństwem elementu” jest kluczowe dla klasyfikacji niektórych systemów AI jako systemów wysokiego ryzyka zgodnie z rozporządzeniem (UE) 2024/1689. W związku z tym, zgodnie z podejściem opartym na analizie ryzyka określonym w tym rozporządzeniu, pojęcie to powinno być zawężone tak, aby obejmowało wyłącznie systemy AI, które mogą mieć negatywny wpływ na zdrowie i bezpieczeństwo osób lub mienia. Definicja zawarta w art. 3 pkt 14 rozporządzenia (UE) 2024/1689 nie jest wystarczająco jasna, aby dostawcy systemów AI mogli stwierdzić, czy dany system AI można uznać za związany z bezpieczeństwem element, co w rezultacie stwarza ryzyko rozszerzenia klasyfikacji systemów AI jako systemów wysokiego ryzyka poza to, co jest uzasadnione opartym na ryzyku podejściem przewidzianym w tym rozporządzeniu. Należy zatem odpowiednio zmienić tę definicję. W pierwszej kolejności konieczne jest wyjaśnienie pojęcia „funkcja bezpieczeństwa”. Funkcja bezpieczeństwa powinna być jednym z przeznaczeń systemu określonych przez dostawcę systemu. System AI spełnia funkcję bezpieczeństwa, jeżeli jego określonym przez dostawcę przeznaczeniem jest zapobieganie ryzyku dla zdrowia i bezpieczeństwa osób lub mienia lub ograniczanie tego ryzyka. Nie obejmuje to w szczególności systemów AI przeznaczonych do eksploatacji wyłącznie w obszarach wsparcia użytkownika, optymalizacji skuteczności działania, skuteczności usługi, automatyzacji, wygody korzystania lub aspektów niezwiązanych z bezpieczeństwem w ramach kontroli jakości. Sam fakt, że system AI jest wbudowany w produkt podlegający unijnemu prawodawstwu harmonizacyjnemu lub działa w ramach produktu podlegającego temu prawodawstwu, nie oznacza sam w sobie, że system ten spełnia funkcję bezpieczeństwa.

(8)

W art. 4 rozporządzenia (UE) 2024/1689 nałożono obecnie na wszystkich dostawców i podmioty stosujące systemy AI obowiązek zapewnienia swojemu personelowi kompetencji w zakresie AI. Rozwój kompetencji w zakresie AI, począwszy od kształcenia i szkolenia po uczenie się przez całe życie, ma kluczowe znaczenie dla wyposażenia dostawców, podmiotów stosujących systemy AI i innych osób, na które AI ma wpływ, w niezbędne umiejętności do podejmowania świadomych decyzji dotyczących wdrażania systemów AI. Z doświadczeń zainteresowanych stron wynika jednak, że rozwiązanie nakładające rygorystyczne obowiązki w celu zapewnienia wystarczającego poziomu kompetencji w zakresie AI nie byłoby odpowiednie dla wszystkich rodzajów dostawców i podmiotów stosujących systemy AI w odniesieniu do promowania kompetencji w zakresie AI. Ponadto dane wskazują, że nałożenie takich obowiązków stwarza dodatkowe obciążenie regulacyjne, zwłaszcza w przypadku mniejszych przedsiębiorstw, podczas gdy kompetencje w zakresie AI powinny być priorytetem strategicznym, niezależnie od obowiązków regulacyjnych i potencjalnych sankcji. Biorąc pod uwagę te informacje, należy zmienić art. 4 rozporządzenia (UE) 2024/1689, aby zobowiązać dostawców i podmioty stosujące systemy AI do wprowadzenia środków wspierających rozwój kompetencji w zakresie AI wśród swojego personelu i innych osób zajmujących się eksploatacją i wykorzystywaniem systemów AI w ich imieniu. Komisja i państwa członkowskie powinny wspierać i ułatwiać działania dostawców i podmiotów stosujących systemy AI, w tym poprzez oferowanie możliwości szkoleniowych, zapewnianie zasobów informacyjnych oraz umożliwianie wymiany dobrych praktyk i innych inicjatyw. Wypełniając ten obowiązek, Komisja i państwa członkowskie mogłyby uwzględnić europejskie ramy kompetencji, takie jak ramy kompetencji cyfrowych dla obywateli oraz ramy umiejętności korzystania ze sztucznej inteligencji dla szkół podstawowych i średnich. Europejska Rada ds. Sztucznej Inteligencji (zwana dalej „Radą ds. AI”) powinna wspierać Komisję i państwa członkowskie poprzez opracowywanie zaleceń określających wspólne cele, które Komisja i państwa członkowskie muszą osiągnąć, aby wywiązać się ze swoich obowiązków, oraz powinna zapewnić regularną wymianę informacji na ten temat między Komisją a państwami członkowskimi, natomiast sojusz na rzecz stosowania AI powinien umożliwiać dyskusję z szerszą społecznością.

(9)

Wykrywanie i korygowanie stronniczości stanowi istotny interes publiczny, ponieważ chroni osoby fizyczne przed niekorzystnymi skutkami stronniczości, w tym dyskryminacją. Z tego względu rozporządzenie (UE) 2024/1689 zapewnia podstawę prawną zezwalającą dostawcom systemów AI wysokiego ryzyka na przetwarzanie szczególnych kategorii danych osobowych w niektórych wyjątkowych przypadkach i z zastrzeżeniem rygorystycznych zabezpieczeń. Ta podstawa prawna jest powiązana ze spoczywającym na tych dostawcach obowiązkiem ustanowienia praktyk służących wykrywaniu stronniczości, która może mieć wpływ na zdrowie i bezpieczeństwo osób, negatywnie wpływać na prawa podstawowe lub prowadzić do dyskryminacji zakazanej przez prawo Unii, a także zapobieganiu takiej stronniczości i jej korygowaniu. Stronniczość, która może mieć takie skutki, może jednak również wynikać z działań podmiotów stosujących systemy AI wysokiego ryzyka. Ponadto taka stronniczość może wystąpić również w przypadku innych systemów lub modeli AI. Na przykład stronniczość występująca w narzędziach do oceny kwalifikowalności lub punktowej oceny ryzyka wykorzystywanych do oceny wniosków o różnego rodzaju zezwolenia publiczne lub licencje publiczne może ograniczać prawa lub skutecznie uniemożliwiać niektórym grupom dostęp do usług publicznych. Istnieje zatem istotny interes publiczny uzasadniający zezwolenie na przetwarzanie szczególnych kategorii danych osobowych, w drodze wyjątku i gdy jest to absolutnie niezbędne, przez dostawców i podmioty stosujące inne systemy i modele AI, a także podmioty stosujące systemy AI wysokiego ryzyka, w celu wykrywania i korygowania stronniczości. Konieczne jest zatem rozszerzenie podstawy prawnej ustanowionej zgodnie z rozporządzeniem (UE) 2024/1689 na tych dostawców i te podmioty stosujące. Ta podstawa prawna powinna podlegać takim samym ograniczeniom, warunkom i zabezpieczeniom jak te, które mają zastosowanie na mocy obecnego art. 10 ust. 5 tego rozporządzenia, aby zapewnić spójność z art. 9 ust. 2 lit. g) rozporządzenia Parlamentu Europejskiego i Rady (UE) 2016/679 (8), art. 10 ust. 2 lit. g) rozporządzenia Parlamentu Europejskiego i Rady (UE) 2018/1725 (9) oraz art. 10 lit. a) dyrektywy Parlamentu Europejskiego i Rady (UE) 2016/680 (10). Ponadto, aby umożliwić dostawcom systemów AI wysokiego ryzyka prowadzenie zgodnie z prawem działań w zakresie wykrywania i korygowania stronniczości, a tym samym przygotowanie się do spełnienia wymogów dotyczących systemów AI wysokiego ryzyka, w tym wymogów określonych w art. 10 ust. 2 lit. f) i g) rozporządzenia (UE) 2024/1689, podstawa prawna przewidziana w art. 4a rozporządzenia (UE) 2024/1689 powinna mieć zastosowanie od dnia rozpoczęcia stosowania tego rozporządzenia.

(10)

W art. 5 rozporządzenia (UE) 2024/1689 zakazano niektórych praktyk związanych z systemami AI, które są szczególnie szkodliwe, stanowią nadużycie, są sprzeczne z niektórymi wartościami Unii i naruszają niektóre prawa podstawowe. Art. 5 musi zostać poddany przeglądowi, jak przewidziano w art. 112 ust. 1 tego rozporządzenia. W związku z rozwojem technologicznym i społecznym, jaki nastąpił od czasu przyjęcia tego rozporządzenia, w tym z uwagi na wdrażanie i wykorzystywanie na dużą skalę systemów AI, które generują niekonsensualne obrazy, materiały wideo, nagrania dźwiękowe i podobne niekonsensualne materiały (zwane dalej „niekonsensualnymi materiałami intymnymi”) oraz materiały przedstawiające niegodziwe traktowanie dzieci w celach seksualnych, należy zmienić art. 5 tego rozporządzenia.

(11)

Niekonsensualne materiały intymne stanowią przemoc seksualną i wykorzystywanie seksualne wobec osób fizycznych, w szczególności kobiet. Systemy AI, które generują takie materiały lub nimi manipulują, stwarzają poważne zagrożenie dla zdrowia i bezpieczeństwa, a także dla praw podstawowych, w tym godności ludzkiej, samostanowienia, integralności i prywatności ofiar, i mogą prowadzić do poważnych i trwałych szkód psychicznych i innych szkód oraz umożliwiać nadużycia na dużą skalę. Z uwagi na upowszechnienie technologii, często nazywanych aplikacjami do „rozbierania”, wystąpiła pilna potrzeba przyjęcia wyraźnego zakazu regulacyjnego. Materiały przedstawiające niegodziwe traktowanie dzieci w celach seksualnych, w tym w całości lub w części sztucznie wygenerowane materiały, stanowią poważne zagrożenie dla bezpieczeństwa i praw podstawowych dzieci. Systemy AI, które generują takie materiały lub nimi manipulują, stwarzają poważne zagrożenie dla godności ludzkiej i praw dziecka oraz niosą ryzyko normalizowania, wzmacniania i utrwalania przemocy seksualnej wobec dzieci. W związku z tym konieczna jest zmiana art. 5 rozporządzenia (UE) 2024/1689 zarówno w celu ochrony kobiet, dzieci, innych osób i społeczeństwa przed wysoce szkodliwymi praktykami, aby osiągnąć cele tego rozporządzenia, jak i w celu zapewnienia dostawcom i podmiotom stosującym jasności co do zakresu ich obowiązków, aby sprostać wyzwaniom związanym z wdrażaniem.

(12)

Należy jasno określić zakres zakazu, w szczególności w odniesieniu do zakresu obowiązków dostawców i podmiotów stosujących. Zakaz ten nie powinien uniemożliwiać dostawcom rozwijania zdolności technicznych systemów AI do generowania obrazów, materiałów wideo, nagrań dźwiękowych lub podobnych materiałów lub do manipulowania nimi. W odniesieniu do dostawców zakaz powinien ograniczać się do wprowadzania do obrotu lub oddawania do użytku systemów AI, które generują niekonsensualne materiały intymne lub materiały przedstawiające niegodziwe traktowanie dzieci w celach seksualnych lub manipulują takimi materiałami, w dwóch przypadkach. Po pierwsze, zakaz powinien dotyczyć systemów mających na celu generowanie takich materiałów i manipulowanie nimi. Po drugie, zakaz powinien dotyczyć systemów, w przypadku których takie generowanie lub manipulowanie jest racjonalnie przewidywalnym i odtwarzalnym rezultatem oraz w przypadku gdy nie istnieją racjonalne i odpowiednie techniczne środki bezpieczeństwa ani inne zabezpieczenia, aby – biorąc pod uwagę racjonalnie przewidywalne nadużycia – w wiarygodny sposób zapobiegać takiemu rezultatowi oraz, w stosownych przypadkach, skorygować ten rezultat i skorygować wszelkie zaobserwowane lub zgłoszone przypadki niewłaściwego użycia, w tym obchodzenie takich środków. Środki techniczne i inne zabezpieczenia mające na celu zapobieganie generowaniu takich materiałów mogłyby obejmować czyszczenie danych, uczenie odmowy udzielania odpowiedzi, bezpieczne projektowanie promptów oraz kontrolę wyników, zabezpieczenia promptów w czasie działania systemu, mechanizmy klasyfikowania i filtrowania treści, ograniczenia dotyczące wykorzystania, mechanizmy wykrywania nadużyć oraz mechanizmy zgłaszania i interwencji. Takie środki zapobiegawcze powinny być racjonalne w odniesieniu do konkretnego systemu AI i powinny być uznawane za odpowiednie, jeżeli odpowiadają najnowocześniejszym środkom i w każdym indywidualnym przypadku w sposób możliwy do wykazania uniemożliwiają generowanie takich materiałów lub manipulowanie nimi lub w wystarczającym stopniu zmniejszają prawdopodobieństwo takiego generowania lub modyfikowania, biorąc pod uwagę znane i racjonalnie przewidywalne niewłaściwe wykorzystanie, w tym racjonalnie przewidywalne obchodzenie środków zapobiegawczych bez istotnych modyfikacji technicznych. W przypadku dostawców, którzy zachowują skuteczną kontrolę nad systemami AI, na przykład za pośrednictwem platformy internetowej lub interfejsu internetowego, mogłoby to obejmować metody monitorowania i zgłaszania przypadków niewłaściwego wykorzystania, w pełnej zgodności z prawem Unii dotyczącym prywatności i ochrony danych. W przypadkach znanego lub zaobserwowanego obchodzenia środków zapobiegawczych lub innych zabezpieczeń należy podjąć odpowiednie działania naprawcze, pod warunkiem że środki te są racjonalne, biorąc pod uwagę dany system AI, w tym jego strategię udostępniania i dystrybucji (np. udostępnianie na zasadach otwartego kodu źródłowego). W odniesieniu do podmiotów stosujących należy zakazać korzystania z systemu AI wyłącznie wtedy, gdy jest on wykorzystywany przez podmiot stosujący do generowania niekonsensualnych materiałów intymnych lub materiałów przedstawiających niegodziwe traktowanie dzieci w celach seksualnych lub do manipulowania takimi materiałami. Obejmuje to przypadki, w których podmiot stosujący wykorzystuje lub niewłaściwie wykorzystuje wprowadzone do obrotu lub oddane do użytku systemy AI niewyposażone w racjonalne i odpowiednie środki zapobiegawcze lub obchodzi środki zapobiegawcze lub niewłaściwie wykorzystuje zgodną z prawem AI w celu generowania takich materiałów lub manipulowania nimi. Zakaz wykorzystywania nie obejmuje zatem wykorzystywania systemu AI do zgodnych z prawem celów, takich jak generowanie materiałów innych niż niekonsensualne materiały intymne lub materiały przedstawiające niegodziwe traktowanie dzieci w celach seksualnych lub manipulowanie takimi materiałami, nawet jeżeli system AI nie zapewnia racjonalnych i odpowiednich zabezpieczeń, które dostawca powinien był wprowadzić, i nie obejmuje przypadkowego generowania takich treści lub przypadkowego manipulowania nimi. W odniesieniu do zakazu dotyczącego materiałów o charakterze intymnym przedstawiających osoby fizyczne bez ich zgody, w przypadku gdy system AI jest przeznaczony do generowania materiałów objętych tym zakazem lub do manipulowania takimi materiałami, takie środki i inne zabezpieczenia powinny obejmować odpowiednie środki do dystrybucji systemu AI, aby umożliwić wiarygodne uzyskanie i wykazanie zgody przedstawionej osoby na takie generowanie lub manipulowanie, zgodnie z rozporządzeniem (UE) 2016/679. Zakaz dotyczący niekonsensualnych materiałów intymnych powinien ograniczać się do realistycznego przedstawienia części intymnych, w szczególności narządów płciowych, okolicy łonowej, odbytu, odsłoniętych pośladków lub odsłoniętych kobiecych piersi, brodawek sutkowych lub otoczek brodawek sutkowych, lub czynności o wyraźnie seksualnym charakterze. Ten „realizm” polega na przedstawieniu w sposób wiarygodny i realistyczny twarzy, głosu lub ciała danej osoby, niezależnie od realistycznego kontekstu tego przedstawienia i niezależnie od tego, czy dokładnie odpowiada on rzeczywistemu głosowi lub wyglądowi przedstawionej osoby. Natomiast zakaz nie obejmuje kreskówkowego lub fizycznie niemożliwego przedstawienia ciała danej osoby. Zakaz niekonsensualnych materiałów intymnych nie ma wpływu na generowanie innych form materiałów przedstawiających nagość lub manipulowanie nimi, takich jak materiały nieprzedstawiające możliwych do zidentyfikowania osób fizycznych, realistyczne przedstawienia częściowej nagości, w których części intymne nie są pokazywane i w których nie przedstawia się czynności o charakterze jednoznacznie seksualnym lub nierealistyczne artystyczne przedstawienia nagości, które nie przedstawiają w realistyczny sposób możliwych do zidentyfikowania osób fizycznych uczestniczących w czynnościach o charakterze jednoznacznie seksualnym lub nie przedstawiają ich części intymnych. Zakaz nie obejmuje też aplikacji generatywnej AI, w których części intymne nie są eksponowane lub – jeśli są eksponowane – odbywa się to na podstawie dobrowolnej, konkretnej, świadomej, jednoznacznej i wyraźnej zgody przedstawionej osoby (np. aplikacje umożliwiające wirtualne przymierzanie oraz aplikacje w obszarze medycyny, takie jak symulacje anatomiczne o zastosowaniu medycznym i mammografie); zakaz ten nie uniemożliwia wyjątkowego wykorzystania systemów AI, które generują nagie przedstawienia intymnych części możliwej do zidentyfikowania osoby lub manipulują takimi przedstawieniami, zgodnie z prawem dotyczącym praw podstawowych, w tym z prawem o ochronie danych, i z mającym zastosowanie prawem medycznym, do celów diagnozy medycznej i leczenia przez personel medyczny, w przypadku gdy dana osoba nie jest w stanie wyrazić zgody (np. w stanie wyższej konieczności). Ponadto zakaz dotyczący „manipulowania” niekonsensualnymi materiałami intymnymi nie ma zastosowania w przypadkach, w których wcześniej istniejący materiał intymny jest zmanipulowany w sposób, który nie zwiększa ekspozycji przedstawionych intymnych części ciała ani nie zmienia charakteru przedstawionych czynności o wyraźnie seksualnym charakterze, na przykład poprzez zwykłe ulepszenie istniejącego obrazu przedstawiającego części intymne lub materiału wideo przedstawiającego czynności o wyraźnie seksualnym charakterze, takie jak zmiana tła, dodanie nagłówka tekstowego lub poprawa kontrastu lub jasności. Natomiast wszelkie przetwarzanie materiałów, w tym materiałów przedstawiających już części intymne lub czynności o wyraźnie seksualnym charakterze, w sposób, który zwiększa stopień ekspozycji przedstawionych intymnych części ciała lub zmienia charakter przedstawionych czynności o wyraźnie seksualnym charakterze, wchodzi w zakres niniejszego zakazu.

(13)

Zakaz dotyczący materiałów przedstawiających niegodziwe traktowanie dzieci w celach seksualnych nie powinien uniemożliwiać wprowadzania do obrotu, oddawania do użytku lub wykorzystywania systemu AI w przypadkach, w których na mocy prawa krajowego znajduje zastosowanie obrona oparta na braku bezprawności, o której mowa w art. 5 ust. 1 dyrektywy Parlamentu Europejskiego i Rady 2011/93/UE (11). Obejmuje to działania podejmowane na podstawie krajowych uprawnień ustawowych, takie jak zgodne z prawem generowanie materiałów przedstawiających niegodziwe traktowanie dzieci w celach seksualnych lub manipulowanie tymi materiałami przez organy w celu prowadzenia postępowań karnych lub zapobiegania przestępstwom, ich wykrywania lub prowadzenia postępowań przygotowawczych w ich sprawie, a także zgodne z prawem wykorzystywanie systemu AI w kontekście red teamingu oraz ewaluacji na potrzeby oceny zgodności systemu z zakazem ustanowionym w niniejszym rozporządzeniu.

(14)

Zakazy te stanowią uzasadnioną ingerencję w wolność wypowiedzi i informacji oraz wolność prowadzenia działalności gospodarczej. Realizują one cele leżące w interesie ogólnym i chronią prawa i wolności innych osób, w tym te określone w art. 1, art. 3 ust. 1 oraz art. 4, 7, 8, 21, 23 i 24 Karty praw podstawowych Unii Europejskiej (zwanej dalej „Kartą”). Zakazy te są ściśle dostosowane. W przypadku materiałów o charakterze intymnym ograniczają się do realistycznego przedstawienia możliwych do zidentyfikowania osób fizycznych oraz do przypadków, w których system AI jest wykorzystywany do zwiększenia stopnia nagości lub jednoznaczności, i nie mają zastosowania do generowania lub manipulowania za zgodą danej osoby. Ponadto zakazy ograniczają się do zobowiązania dostawców do wdrożenia „racjonalnych i odpowiednich” środków i zabezpieczeń w przypadku systemów, których przeznaczeniem nie jest generowanie materiałów objętych zakazem ani manipulowanie takimi materiałami. Zakazy są również zgodne z obowiązującym prawem Unii, w tym z dyrektywami Parlamentu Europejskiego i Rady 2011/93/UE i (UE) 2024/1385 (12). Ingerencje te nie naruszają istoty przepisów zawartych w art. 11 i 16 Karty, są przewidziane przez prawo i są proporcjonalne.

(15)

Działania objęte tymi zakazami mogą również naruszać inne przepisy, w tym prawo karne. Zakazy nie stanowią przeszkody w ściganiu na podstawie takiego prawa. Jednakże w zakresie, w jakim naruszenie zakazów może skutkować nałożeniem sankcji o charakterze karnym, które mogą być przewidziane na podstawie art. 99 ust. 1 rozporządzenia (UE) 2024/1689, oraz w zakresie, w jakim ten sam czyn podlega karze na mocy prawa karnego, w tym prawa karnego objętego zakresem stosowania dyrektyw 2011/93/UE i (UE) 2024/1385, państwa członkowskie są zobowiązane do zapewnienia poszanowania zasady ne bis in idem zgodnie z Kartą.

(16)

Zakazy pozostają bez uszczerbku dla środków ochrony prawnej przysługujących osobom fizycznym na mocy prawa krajowego w celu ochrony swoich praw podstawowych, w tym prawa do wizerunku, prywatności i godności ludzkiej.

(17)

Aby zapewnić spójność, uniknąć powielania działań i zminimalizować obciążenia administracyjne związane z procedurą wyznaczania jednostek notyfikowanych na podstawie rozporządzenia (UE) 2024/1689, przy jednoczesnym utrzymaniu tego samego poziomu kontroli, należy zapewnić nowym jednostkom oceniającym zgodność i jednostkom notyfikowanym wyznaczonym na podstawie unijnego prawodawstwa harmonizacyjnego wymienionego w sekcji A załącznika I do rozporządzenia (UE) 2024/1689, np. na podstawie rozporządzeń Parlamentu Europejskiego i Rady (UE) 2017/745 (13) i (UE) 2017/746 (14), możliwość złożenia jednego wniosku i poddania się jednolitej procedurze oceny, jeżeli taki wniosek i procedura zostały ustanowione na podstawie tego unijnego prawodawstwa harmonizacyjnego. Możliwość złożenia jednego wniosku i poddania się jednolitej procedurze oceny ma na celu ułatwienie, wspieranie i przyspieszenie procedury wyznaczania na podstawie rozporządzenia (UE) 2024/1689, przy jednoczesnym zapewnieniu zgodności z wymogami mającymi zastosowanie do jednostek notyfikowanych na podstawie tego rozporządzenia oraz z unijnym prawodawstwem harmonizacyjnym wymienionym w sekcji A załącznika I do tego rozporządzenia. Jednolitą procedurę oceny należy wdrożyć z uwzględnieniem zadań i obowiązków zainteresowanych organów. Ponadto należy wyjaśnić, że jednostka oceniająca zgodność wyznaczona na podstawie więcej niż jednego elementu unijnego prawodawstwa harmonizacyjnego wymienionego w sekcji A załącznika I powinna złożyć tylko jeden wniosek o wyznaczenie na podstawie niniejszego rozporządzenia.

(18)

Aby zapewnić sprawne stosowanie i spójność rozporządzenia (UE) 2024/1689, należy wprowadzić do niego zmiany. Należy wprowadzić korektę techniczną art. 43 ust. 3 akapit pierwszy rozporządzenia (UE) 2024/1689 w celu dostosowania wymogów oceny zgodności do wymogów dotyczących dostawców systemów AI wysokiego ryzyka określonych w art. 16 tego rozporządzenia. Ponadto należy wyjaśnić, że w przypadku gdy dostawca systemu AI wysokiego ryzyka podlega procedurze oceny zgodności na podstawie unijnego prawodawstwa harmonizacyjnego wymienionego w sekcji A załącznika I do rozporządzenia (UE) 2024/1689, a ocena zgodności obejmuje zgodność systemu zarządzania jakością określonego w tym rozporządzeniu i takim unijnym prawodawstwie harmonizacyjnym, dostawca ten powinien mieć możliwość włączenia aspektów związanych z systemami zarządzania jakością określonymi w tym rozporządzeniu jako części systemów zarządzania jakością określonych w takim unijnym prawodawstwie harmonizacyjnym, zgodnie z art. 17 ust. 3 rozporządzenia (UE) 2024/1689. Należy zmienić art. 43 ust. 3 akapit drugi tego rozporządzenia w celu wyjaśnienia, że jednostki notyfikowane, które zostały notyfikowane na podstawie unijnego prawodawstwa harmonizacyjnego wymienionego w sekcji A załącznika I do rozporządzenia (UE) 2024/1689 i które mają na celu ocenę systemów AI wysokiego ryzyka objętych unijnym prawodawstwem harmonizacyjnym wymienionym w sekcji A załącznika I do tego rozporządzenia, powinny być uprawnione do oceny zgodności systemów AI wysokiego ryzyka pod pewnymi warunkami przez 18 miesięcy od dnia 27 lipca 2026 r. Ta zmiana pozostaje bez uszczerbku dla art. 28 rozporządzenia (UE) 2024/1689, a zatem jednostki oceniające zgodność, które chcą zostać wyznaczone i notyfikowane na podstawie tego rozporządzenia, mogą złożyć wniosek w dowolnym momencie w trakcie tych 18 miesięcy i po ich upływie. Ponadto należy zmienić rozporządzenie (UE) 2024/1689 w celu wyjaśnienia, że w przypadku gdy system AI wysokiego ryzyka jest objęty zarówno unijnym prawodawstwem harmonizacyjnym wymienionym w sekcji A załącznika I do rozporządzenia (UE) 2024/1689, jak i jednym z przypadków wykorzystania wymienionych w załączniku III do tego rozporządzenia, dostawca powinien zastosować odpowiednią procedurę oceny zgodności wymaganą na podstawie tego odpowiedniego prawodawstwa harmonizacyjnego.

(19)

Rozporządzenie (UE) 2024/1689 i rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/2847 (15) uzupełniają się w taki sposób, że zapewniają bezpieczeństwo i cyberbezpieczeństwo produktów z elementami cyfrowymi. Art. 12 rozporządzenia (UE) 2024/2847 stanowi, że jeżeli systemy AI wysokiego ryzyka i procesy wprowadzone przez producentów spełniają zasadnicze wymagania w zakresie cyberbezpieczeństwa określone w rozporządzeniu (UE) 2024/2847, należy je uznać za zgodne z wymogami w zakresie cyberbezpieczeństwa określonymi w art. 15 rozporządzenia (UE) 2024/1689 w zakresie, w jakim wymogi te są objęte deklaracją zgodności UE lub jej częściami wydaną na podstawie rozporządzenia (UE) 2024/2847. Aby zwiększyć widoczność związku między rozporządzeniem (UE) 2024/1689 a rozporządzeniem (UE) 2024/2847, w rozporządzeniu (UE) 2024/1689 należy również uwzględnić zasadę określoną w art. 12 rozporządzenia (UE) 2024/2847. Wzajemna zależność między tymi dwoma instrumentami nie powinna być naruszona.

(20)

Zgodnie z art. 6 ust. 1 rozporządzenia (UE) 2024/1689 systemy AI uznaje się za systemy wysokiego ryzyka, jeżeli system AI będący elementem produktu objętego unijnym prawodawstwem harmonizacyjnym wymienionym w sekcji A załącznika I do tego rozporządzenia jest związanym z bezpieczeństwem elementem i produkt ten wymaga oceny zgodności przeprowadzanej przez stronę trzecią. Wymóg, aby taki produkt podlegał ocenie zgodności przeprowadzanej przez stronę trzecią, pozostaje jednak bez uszczerbku dla procedury oceny zgodności wybranej przez producenta dla takiego produktu. W przypadku gdy unijne prawodawstwo harmonizacyjne wymienione w sekcji A załącznika I umożliwia wybór procedury oceny zgodności opartej na normach zharmonizowanych spośród procedur oceny zgodności, możliwość ta ma również zastosowanie do produktów, w których wbudowany jest system AI wysokiego ryzyka. Nie należy interpretować art. 6 ust. 1 rozporządzenia (UE) 2024/1689 jako obowiązku automatycznego poddawania produktów, w których wbudowany jest system AI wysokiego ryzyka, ocenie zgodności przeprowadzanej przez osobę trzecią z udziałem jednostki notyfikowanej. W przypadku gdy taka możliwość jest przewidziana w unijnym prawodawstwie harmonizacyjnym, dostawca produktu, w którym wbudowany jest system AI wysokiego ryzyka, mógłby nadal stosować normy zharmonizowane jako procedurę oceny zgodności w celu spełnienia wymogów określonych w unijnym prawodawstwie harmonizacyjnym i rozporządzeniu (UE) 2024/1689.

(21)

Aby pobudzić konkurencyjność i innowacje, kluczowe znaczenie ma wspieranie podmiotów gospodarczych, które są zobowiązane do jednoczesnego spełniania wymogów lub obowiązków określonych w sekcjach 2 i 3 rozdziału III rozporządzenia (UE) 2024/1689, a także odpowiednich wymogów i obowiązków określonych w unijnym prawodawstwie harmonizacyjnym wymienionym w załączniku I do tego rozporządzenia. Aby wspierać i ułatwiać procesy zapewniania zgodności z przepisami przez podmioty gospodarcze, Komisja powinna zwrócić się do europejskich organizacji normalizacyjnych o opracowanie, bez zbędnej zwłoki, dokumentów normalizacyjnych, w tym, w stosownych przypadkach, norm zharmonizowanych. Te dokumenty normalizacyjne powinny opierać się na normach zharmonizowanych opublikowanych w Dzienniku Urzędowym Unii Europejskiej, które stanowią podstawę do domniemania zgodności z wymogami lub obowiązkami określonymi w rozporządzeniu (UE) 2024/1689, a także na wszelkich odpowiednich normach zharmonizowanych opublikowanych w Dzienniku Urzędowym Unii Europejskiej, które stanowią podstawę do domniemania zgodności z odpowiednimi wymogami lub obowiązkami określonymi w unijnym prawodawstwie harmonizacyjnym wymienionym w załączniku I do tego rozporządzenia. Takie dokumenty normalizacyjne powinny pomóc zmniejszyć niepewność prawa, uniknąć niepotrzebnego powielania działań związanych z oceną zgodności, obowiązków w zakresie badań, dokumentacji i sprawozdawczości oraz obniżyć koszty zapewniania zgodności, w szczególności w przypadku małych i średnich przedsiębiorstw oraz przedsiębiorstw typu start-up. Terminowe opracowanie takich dokumentów ma zasadnicze znaczenie dla zapewnienia podmiotom gospodarczym praktycznych i niezawodnych rozwiązań technicznych, zwiększenia pewności prawa oraz ułatwienia wprowadzania do obrotu, oddawania do użytku i wykorzystywania systemów AI zgodnie z niniejszym rozporządzeniem i unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I do tego rozporządzenia.

(22)

Aby usprawnić przestrzeganie przepisów i zmniejszyć związane z tym koszty, należy uprościć rejestrację systemów AI, o których mowa w art. 6 ust. 3 rozporządzenia (UE) 2024/1689, w unijnej bazie danych zgodnie z art. 49 ust. 2 tego rozporządzenia, poprzez usystematyzowanie wymaganego zakresu informacji na podstawie załącznika VIII do tego rozporządzenia. Chociaż rejestracja takich systemów AI w unijnej bazie danych ma nadal kluczowe znaczenie dla skutecznego nadzoru rynku i rozliczalności publicznej, wymogi dotyczące rejestracji należy uprościć i uczynić bardziej proporcjonalnymi. Uproszczenie to umożliwiłoby osiągnięcie lepszej równowagi bez uszczerbku dla ochrony określonej w rozporządzeniu (UE) 2024/1689. Pod pewnymi warunkami takich systemów AI nie uznaje się za systemy wysokiego ryzyka, jeżeli nie stwarzają one istotnego ryzyka szkody dla zdrowia, bezpieczeństwa lub praw podstawowych osób. Ponadto dostawca stosujący art. 6 ust. 3 rozporządzenia (UE) 2024/1689 pozostaje zobowiązany do dokumentowania swojej oceny przed wprowadzeniem tego systemu AI do obrotu lub oddaniem go do użytku. Właściwe organy krajowe powinny mieć możliwość zwrócenia się o taką ocenę.

(23)

Należy zmienić art. 57, 58 i 60 rozporządzenia (UE) 2024/1689 w celu zacieśnienia dalszej współpracy na poziomie Unii w odniesieniu do piaskownic regulacyjnych w zakresie AI, zwiększenia przejrzystości i spójności zarządzania piaskownicami regulacyjnymi w zakresie AI oraz rozszerzenia zakresu testów w warunkach rzeczywistych poza piaskownicami regulacyjnymi w zakresie AI na systemy AI wysokiego ryzyka objęte unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I do tego rozporządzenia. W szczególności, aby umożliwić uproszczenie procedur, w stosownych przypadkach, w projektach nadzorowanych w piaskownicach regulacyjnych w zakresie AI, które obejmują również testy w warunkach rzeczywistych, plan testów w warunkach rzeczywistych należy włączyć do planu działania piaskownicy uzgodnionego przez dostawców lub potencjalnych dostawców i właściwy organ.

(24)

Ponadto należy przewidzieć możliwość ustanowienia przez Europejski Urząd ds. Sztucznej Inteligencji (zwany dalej „Urzędem ds. AI”) piaskownicy regulacyjnej w zakresie AI na poziomie Unii w odniesieniu do systemów AI objętych art. 75 ust. 1 rozporządzenia (UE) 2024/1689. Aby zapewnić spójność, pewność prawa i skuteczny podział obowiązków nadzorczych między poziomem Unii i poziomem krajowym, należy jasno określić zakres piaskownicy regulacyjnej w zakresie AI na poziomie Unii, aby uniknąć powielania z krajowymi piaskownicami regulacyjnymi w zakresie AI ustanowionymi na podstawie tego rozporządzenia. Aby wspierać innowacje i ułatwić wdrażanie AI, MŚP, w tym przedsiębiorstwa typu start-up, i małe spółki o średniej kapitalizacji powinny mieć priorytetowy dostęp do piaskownic regulacyjnych w zakresie AI ustanowionych przez Urząd ds. AI.

(25)

Ponadto należy doprecyzować przepisy dotyczące współpracy między odpowiednimi właściwymi organami w odniesieniu do funkcjonowania piaskownicy regulacyjnej w zakresie AI, aby zapewnić ich skuteczne funkcjonowanie. W związku z tym uprawnienia Komisji do przyjmowania aktów wykonawczych określających szczegółowe ustalenia dotyczące ustanawiania, rozwijania, wdrażania, funkcjonowania i nadzorowania piaskownic regulacyjnych w zakresie AI należy rozszerzyć, tak aby uprawnienia te obejmowały również aspekty związane z zarządzaniem tymi piaskownicami. Ponadto w przypadku gdy piaskownice regulacyjne w zakresie AI obejmują innowacyjne systemy AI, które przetwarzają dane osobowe lub w inny sposób podlegają nadzorowi ze strony innych organów krajowych lub właściwych organów zapewniających lub wspierających dostęp do danych, odpowiednie właściwe organy nadzorcze powinny być zaangażowane w funkcjonowanie piaskownicy regulacyjnej w zakresie AI i uczestniczyć w sprawowaniu nadzoru nad tymi aspektami w zakresie swoich odpowiednich zadań i uprawnień.

(26)

Aby wspierać innowacje, należy również rozszerzyć zakres testów w warunkach rzeczywistych poza piaskownicami regulacyjnymi w zakresie AI określonych w art. 60 rozporządzenia (UE) 2024/1689, który ma obecnie zastosowanie do systemów AI wysokiego ryzyka wymienionych w załączniku III do tego rozporządzenia, oraz umożliwić dostawcom i potencjalnym dostawcom systemów AI wysokiego ryzyka objętych unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I do tego rozporządzenia również testowanie takich systemów w warunkach rzeczywistych, z zastrzeżeniem wystarczających zabezpieczeń. Pozostaje to bez uszczerbku dla innych przepisów prawa Unii lub prawa krajowego dotyczących testowania w warunkach rzeczywistych systemów AI wysokiego ryzyka związanych z produktami objętymi tym unijnym prawodawstwem harmonizacyjnym.

(27)

Należy również zapewnić możliwość testowania systemów AI wysokiego ryzyka objętych unijnym prawodawstwem harmonizacyjnym wymienionym w sekcji B załącznika I do rozporządzenia (UE) 2024/1689 w warunkach rzeczywistych. Takie systemy podlegają wymogom i procedurom odnośnego prawodawstwa sektorowego i w większości przypadków nie podlegają bezpośrednio temu rozporządzeniu. We właściwym czasie do przepisów sektorowych dodane zostaną wymogi odpowiadające wymogom wymienionym w art. 8–15 tego rozporządzenia. W związku z tym należy zadbać o to, aby państwa członkowskie mogły zezwalać na testowanie takich systemów AI w warunkach rzeczywistych, aby ocenić i zweryfikować ich zgodność z wymogami określonymi w art. 8–15 tego rozporządzenia. Jeżeli państwa członkowskie zdecydują się zezwolić na takie testy, wspomniane rozporządzenie powinno zobowiązywać je do przyjęcia ram, które określają szczegółowe wymogi dotyczące takich testów. We wspomnianym rozporządzeniu powinny się znaleźć najważniejsze elementy takich ram. Przygotowując ramy, państwa członkowskie dbają o wysoki poziom ochrony zdrowia, bezpieczeństwa oraz praw podstawowych osób fizycznych. Przed wdrożeniem ram państwa członkowskie powinny powiadomić o nich Komisję. Testowanie w warunkach rzeczywistych powinno być zgodne z odpowiednim unijnym prawodawstwem harmonizacyjnym wymienionym w sekcji B załącznika I do rozporządzenia (UE) 2024/1689, w tym z innymi mającymi zastosowanie przepisami dotyczącymi testowania. Nie powinno to jednak mieć wpływu na stosowanie nowego artykułu dotyczącego testowania w warunkach rzeczywistych.

(28)

Art. 63 rozporządzenia (UE) 2024/1689 oferuje mikroprzedsiębiorstwom będącym dostawcami systemów AI wysokiego ryzyka możliwość korzystania z uproszczonego sposobu wypełniania obowiązku ustanowienia systemu zarządzania jakością. Aby ułatwić większej liczbie innowatorów przestrzeganie przepisów, możliwość tę należy rozszerzyć na wszystkie MŚP, w tym przedsiębiorstwa typu start-up.

(29)

W świetle ważnej roli Urzędu ds. AI dla skutecznego i skoordynowanego stosowania rozporządzenia (UE) 2024/1689, dodatkowo wzmocnionej niniejszym rozporządzeniem, oraz bez uszczerbku dla kolejnych wieloletnich ram finansowych i procedury budżetowej, Komisja powinna wyposażyć Urząd ds. AI w odpowiednie zasoby kadrowe, finansowe i techniczne, aby mógł on skutecznie i na czas wykonywać swoje zadania w odniesieniu do egzekwowania rozporządzenia (UE) 2024/1689, w tym w wystarczającą liczbę stałych, wysoko wykwalifikowanych pracowników z dogłębną wiedzą techniczną.

(30)

Należy zmienić art. 69 rozporządzenia (UE) 2024/1689, aby uprościć strukturę opłat dla panelu naukowego. Jeżeli państwa członkowskie zwrócą się do panelu o opinię ekspertów, opłaty, jakie mogą być zobowiązane zapłacić ekspertom, powinny być równoważne wynagrodzeniu, jakie Komisja jest zobowiązana zapłacić w podobnych okolicznościach.

(31)

Aby wzmocnić system zarządzania systemami AI, konieczne jest wyjaśnienie roli Urzędu ds. AI w monitorowaniu i nadzorowaniu zgodności takich systemów AI z rozporządzeniem (UE) 2024/1689. Na podstawie art. 88 tego rozporządzenia Komisja ma wyłączną kompetencję w odniesieniu do modeli AI ogólnego przeznaczenia. W trosce o spójność, precyzję i skuteczność oraz w świetle zasięgu i wpływu systemów AI związanych z tymi kompetencjami, należy doprecyzować zakres wyłącznych kompetencji Urzędu ds. AI do nadzoru nad systemami. Urząd ds. AI powinien mieć zwłaszcza wyłączną kompetencję w odniesieniu do systemów AI opartych na modelach AI ogólnego przeznaczenia, nie tylko w przypadku gdy zarówno system, jak i model są opracowywane przez tego samego dostawcę, ale również wtedy gdy są one opracowywane przez dostawców, którzy stanowią część tego samego przedsiębiorstwa. W niektórych przypadkach, zwłaszcza gdy istnieje szczególny nadzór sektorowy, odpowiedzialność powinna jednak spoczywać na odpowiednim właściwym organie krajowym. W związku z tym należy ustanowić pewne wyjątki. Zakres podmiotowy takiej wyłącznej kompetencji powinien obejmować dostawców tych systemów AI i podmioty je stosujące w ramach tego samego przedsiębiorstwa. Inne podmioty stosujące powinny nadal podlegać krajowemu nadzorowi i egzekwowaniu. Poza tym nie obejmuje to systemów AI wprowadzanych do obrotu, oddawanych do użytku lub wykorzystywanych przez instytucje, organy lub jednostki organizacyjne Unii, które podlegają nadzorowi Europejskiego Inspektora Ochrony Danych na podstawie art. 74 ust. 9 rozporządzenia (UE) 2024/1689.

(32)

Ponadto, biorąc pod uwagę istniejący system nadzoru i egzekwowania przepisów określony w rozporządzeniu Parlamentu Europejskiego i Rady (UE) 2022/2065 (16), należy przyznać Komisji uprawnienia właściwego organu nadzoru rynku na podstawie rozporządzenia (UE) 2024/1689, w przypadku gdy system AI kwalifikuje się jako bardzo duża platforma internetowa lub bardzo duża wyszukiwarka internetowa zgodnie z rozporządzeniem (UE) 2022/2065 lub gdy jest on wbudowany w taką platformę lub wyszukiwarkę. Powinno to przyczynić się do zapewnienia spójnego i skutecznego wykonywania uprawnień Komisji w zakresie nadzoru i egzekwowania przepisów na podstawie rozporządzenia (UE) 2024/1689 i rozporządzenia (UE) 2022/2065, a także uprawnień mających zastosowanie do modeli AI ogólnego przeznaczenia zintegrowanych z takimi platformami lub wyszukiwarkami. Jest to również właściwe w świetle znaczenia takich platform i wyszukiwarek, biorąc pod uwagę ich zasięg, wpływ oraz wielkość i złożoność potencjalnych szkód społecznych, które mogą wywołać. Zakres podmiotowy tej wyłącznej kompetencji powinien obejmować dostawców tych systemów AI i podmioty je stosujące w ramach tego samego przedsiębiorstwa. W przypadku systemów AI wbudowanych w bardzo dużą platformę internetową lub wyszukiwarkę internetową lub kwalifikujących się jako bardzo duża platforma internetowa lub wyszukiwarka internetowa pierwszym punktem dostępu do oceny systemów AI jest ocena ryzyka, środki ograniczające ryzyko i obowiązki w zakresie audytu określone w art. 34, 35 i 37 rozporządzenia (UE) 2022/2065, bez uszczerbku dla uprawnień Urzędu ds. AI do prowadzenia postępowań i podejmowania działań ex post w związku z nieprzestrzeganiem przepisów rozporządzenia (UE) 2024/1689. W kontekście analizy tej oceny ryzyka, środków ograniczających ryzyko i audytów służby Komisji odpowiedzialne za egzekwowanie rozporządzenia (UE) 2022/2065 mogą zwrócić się do Urzędu ds. AI o opinię na temat wyniku potencjalnej wcześniejszej lub równoległej oceny ryzyka przeprowadzonej na podstawie rozporządzenia (UE) 2024/1689 oraz możliwości stosowania zakazów na podstawie rozporządzenia (UE) 2024/1689. Ponadto Urząd ds. AI i właściwe organy krajowe powinny – zgodnie z rozporządzeniem (UE) 2024/1689 – koordynować swoje działania w zakresie egzekwowania przepisów z organami właściwymi do nadzoru i egzekwowania przepisów rozporządzenia (UE) 2022/2065, w tym z Komisją, aby zapewnić przestrzeganie zasad lojalnej współpracy, proporcjonalności i zasady ne bis in idem, natomiast informacje uzyskane na podstawie jednego rozporządzenia mają być wykorzystywane do celów nadzoru i egzekwowania przepisów drugiego rozporządzenia wyłącznie pod warunkiem wyrażenia zgody przez przedsiębiorstwo. W szczególności organy te powinny regularnie wymieniać opinie i uwzględniać, w swoich odpowiednich obszarach kompetencji, wszelkie kary pieniężne i kary nałożone na tego samego dostawcę za to samo zachowanie w drodze ostatecznej decyzji w postępowaniu dotyczącym naruszenia innych przepisów unijnych lub krajowych w celu zapewnienia, by wszystkie nałożone kary pieniężne i kary były proporcjonalne i odpowiadały wadze popełnionych naruszeń.

(33)

Przy nadzorowaniu i egzekwowaniu obowiązków w odniesieniu do systemów AI wchodzących w zakres jego kompetencji Urząd ds. AI ma taką samą rolę i obowiązki jak organ nadzoru rynku zgodnie z rozporządzeniem (UE) 2024/1689. W związku z tym konieczne jest, aby Urząd ds. AI posiadał wszystkie uprawnienia i obowiązki przysługujące organom nadzoru rynku na podstawie tego rozporządzenia i rozporządzenia Parlamentu Europejskiego i Rady (UE) 2019/1020 (17) (zwane dalej „uprawnieniami ogólnymi”). Powinny one zapewniać odpowiednie i skuteczne egzekwowanie wymogów i obowiązków określonych w rozporządzeniu (UE) 2024/1689. Konieczne jest jednak doprecyzowanie, uzupełnienie i określenie ram niektórych istotnych elementów i innych aspektów uprawnień ogólnych, a także ich zabezpieczeń (zwanych dalej „przepisami szczegółowymi”). Konieczne jest zwłaszcza ustanowienie przepisów regulujących stosunki między Urzędem ds. AI a organami krajowymi; przepisów określających, uzupełniających i ograniczających uprawnienia do żądania informacji i wykonywania kontroli na miejscu; przepisów regulujących postępowanie przygotowawcze, w tym możliwość nadania zobowiązaniom wiążącego charakteru; oraz przepisów określających i ograniczających uprawnienia do stwierdzania niezgodności, nakładania kar pieniężnych i kar okresowych. Jeżeli określono w ten sposób rodzaj uprawnień ogólnych, Urząd ds. AI nie może obchodzić warunków i ograniczeń tych uprawnień, opierając się na powiązanych uprawnieniach ogólnych. Analogicznie Urząd ds. AI może powoływać się na rodzaje uprawnień ogólnych, które nie są sprecyzowane i ujęte w ramy w odniesieniu do Urzędu ds. AI, takie jak uprawnienie do podejmowania środków, o których mowa w art. 16 ust. 3 rozporządzenia (UE) 2019/1020. Jeżeli jest to niezbędne do właściwego wdrożenia rozporządzenia (UE) 2024/1689, Komisja powinna mieć możliwość przyjmowania aktów wykonawczych doprecyzowujących przepisy i procedury dotyczące stosowania terminów przedawnienia oraz dostępu do akt i wynegocjowanego ujawniania informacji. Wykonując wszystkie te uprawnienia, Urząd ds. AI musi przestrzegać Karty. Ponadto Urząd ds. AI podlega zabezpieczeniom i ochronie praw podstawowych określonym w przepisach szczegółowych.

(34)

W uzupełnieniu do tych zabezpieczeń proceduralnych i zabezpieczeń praw podstawowych, prawa proceduralne przewidziane w art. 18 rozporządzenia (UE) 2019/1020 powinny mieć zastosowanie odpowiednio do dostawców systemów AI, bez uszczerbku dla bardziej szczegółowych praw proceduralnych przewidzianych w rozporządzeniu (UE) 2024/1689. Jeżeli krajowe organy nadzoru rynku, za pośrednictwem pojedynczego punktu kontaktowego, zwrócą się do Urzędu ds. AI o wprowadzenie środków nadzoru i egzekwowania przepisów w odniesieniu do systemów AI znajdujących się pod jego wyłącznym nadzorem, Urząd ds. AI nie później niż cztery miesiące po otrzymaniu takiego wniosku powinien poinformować pojedynczy punkt kontaktowy o zamiarze wykonania swoich uprawnień w zakresie nadzoru i egzekwowania przepisów lub o powodach ich niewykonania. Jeżeli Urząd ds. AI postanowi skorzystać ze swoich uprawnień w zakresie nadzoru i egzekwowania przepisów, powinien również poinformować pojedynczy punkt kontaktowy o ostatecznym wyniku takiego postępowania oraz o pośrednich zmianach, które zdaniem Urzędu ds. AI mają istotny wpływ na dochodzenie, w tym o decyzji o wszczęciu postępowania przygotowawczego, nałożeniu kary pieniężnej oraz wycofaniu systemu AI z rynku lub z użytku.

(35)

Aby umożliwić dostęp do unijnego rynku systemom AI, które podlegają nadzorowi Urzędu ds. AI na podstawie art. 75 rozporządzenia (UE) 2024/1689 i ocenie zgodności przeprowadzanej przez osobę trzecią, Komisja powinna być odpowiedzialna za oceny zgodności tych systemów przed wprowadzeniem do obrotu.

(36)

Art. 77 i powiązane przepisy rozporządzenia (UE) 2024/1689 stanowią ważny mechanizm zarządzania, ponieważ mają na celu umożliwienie organom lub podmiotom odpowiedzialnym za egzekwowanie lub nadzorowanie prawa Unii mającego na celu ochronę praw podstawowych wypełniania ich mandatu na określonych warunkach oraz wspieranie współpracy z organami nadzoru rynku odpowiedzialnymi za nadzorowanie i egzekwowanie tego rozporządzenia. Konieczne jest doprecyzowanie zakresu takiej współpracy, a także wskazanie, które organy lub podmioty publiczne z niej korzystają. W celu zacieśnienia współpracy należy doprecyzować, że wnioski o dostęp do informacji i dokumentacji powinny być kierowane do właściwego organu nadzoru rynku, który powinien odpowiadać na takie wnioski bez zbędnej zwłoki, oraz że zaangażowane organy lub podmioty powinny być wzajemnie zobowiązane do współpracy. Należy wyjaśnić, że przepisy te pozostają bez uszczerbku dla kompetencji, zadań, uprawnień i niezależności odpowiednich krajowych organów lub podmiotów publicznych w ramach ich mandatów. W szczególności przepisy te nie ograniczają uprawnień tych organów i podmiotów do zwracania się o informacje na podstawie innych przepisów prawa Unii lub prawa krajowego. W związku z tym wspomniane organy i podmioty zachowują uprawnienia do bezpośredniego zwracania się do operatorów o informacje na podstawie ich mandatu lub przepisów unijnych albo krajowych.

(37)

Wymogi dotyczące systemów AI wysokiego ryzyka określone w rozporządzeniu (UE) 2024/1689 dotyczą konkretnych rodzajów ryzyka nieodłącznie związanych z systemami AI, w tym stronniczości, nieprzewidywalnego zachowania modeli, niskiej solidności lub dokładności, podatności na ataki ze strony osób trzecich oraz braku przejrzystości systemu AI. Przeciwdziałając ryzyku związanemu z AI, rozporządzenie to uzupełnia wymogi określone w unijnym prawodawstwie harmonizacyjnym wymienionym w załączniku I do tego rozporządzenia, nie powielając ich. W rozporządzeniu (UE) 2024/1689 przewidziano mechanizmy umożliwiające podmiotom gospodarczym zminimalizowanie obciążenia związanego z przestrzeganiem przepisów. W szczególności art. 8 ust. 2 dotyczący przestrzegania przepisów sektorowych, art. 9 ust. 10 dotyczący zarządzania ryzykiem i art. 17 ust. 3 dotyczący zarządzania jakością umożliwiają podmiotom gospodarczym integrację, w razie potrzeby i w stosownych przypadkach, oceny ryzyka związanego z AI do istniejących systemów zarządzania ryzykiem i jakością. W art. 40 rozporządzenia (UE) 2024/1689 zobowiązano ponadto Komisję do określenia, że normy zharmonizowane opracowane na podstawie tego rozporządzenia mają być spójne z normami opracowanymi na podstawie unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I do tego rozporządzenia. Komisja powinna przedstawić wytyczne, które pomogą operatorom systemów AI wysokiego ryzyka objętym załącznikiem I do rozporządzenia (UE) 2024/1689 w przestrzeganiu tego rozporządzenia, w tym poprzez przedstawienie wytycznych dotyczących stosowania art. 8 ust. 2, art. 9 ust. 10 i art. 17 ust. 3 tego rozporządzenia jako mechanizmów minimalizujących obciążenie regulacyjne, zgodnie z zasadami komplementarności i proporcjonalności. Te wytyczne powinny zostać opublikowane najpóźniej do dnia 1 sierpnia 2027 r.

(38)

Aby zapewnić dostawcom systemów generatywnej AI podlegającym obowiązkom w zakresie oznakowania określonym w art. 50 ust. 2 rozporządzenia (UE) 2024/1689 wystarczająco dużo czasu na dostosowanie swoich praktyk w rozsądnym terminie bez zakłócania rynku, należy wprowadzić czteromiesięczny okres przejściowy dla dostawców, którzy wprowadzili już swoje systemy do obrotu przed dniem 2 sierpnia 2026 r.

(39)

W celu zapewnienia dostawcom systemów AI wysokiego ryzyka wystarczająco dużo czasu oraz doprecyzowania przepisów mających zastosowanie do systemów AI już wprowadzonych do obrotu lub oddanych do użytku przed rozpoczęciem stosowania odpowiednich przepisów rozporządzenia (UE) 2024/1689, należy doprecyzować zakres dodatkowego okresu przewidzianego w art. 111 ust. 2 tego rozporządzenia. Do celów art. 111 ust. 2 dodatkowy okres powinien mieć zastosowanie do rodzaju i modelu systemów AI już wprowadzonych do obrotu. Oznacza to, że jeżeli co najmniej jeden egzemplarz systemu AI wysokiego ryzyka został zgodnie z prawem wprowadzony do obrotu lub oddany do użytku przed datą określoną w art. 111 ust. 2, inne pojedyncze egzemplarze tego samego rodzaju i modelu systemu AI wysokiego ryzyka podlegają dodatkowemu okresowi przewidzianemu w art. 111 ust. 2, a zatem mogą być nadal wprowadzane do obrotu, udostępniane lub oddawane do użytku na rynku unijnym bez żadnych dodatkowych obowiązków, wymogów lub potrzeby dodatkowej certyfikacji, o ile projekt tego systemu AI wysokiego ryzyka pozostaje niezmieniony. Do celów stosowania dodatkowego okresu przewidzianego w art. 111 ust. 2 czynnikiem decydującym jest data pierwszego wprowadzenia do obrotu lub oddania do użytku na rynku unijnym pierwszego egzemplarza tego rodzaju i modelu systemu AI wysokiego ryzyka. Każda istotna zmiana projektu tego systemu AI po dacie określonej w art. 111 ust. 2 powinna skutkować zobowiązaniem dostawcy do pełnego przestrzegania wszystkich odpowiednich przepisów tego rozporządzenia mających zastosowanie do systemów AI wysokiego ryzyka, w tym wymogów oceny zgodności.

(40)

W art. 113 rozporządzenia (UE) 2024/1689 określono daty wejścia w życie i rozpoczęcia stosowania tego rozporządzenia, w szczególności, że ogólną datą rozpoczęcia stosowania jest 2 sierpnia 2026 r. W odniesieniu do obowiązków związanych z systemami AI wysokiego ryzyka określonych w rozdziale III sekcje 1, 2 i 3 rozporządzenia (UE) 2024/1689 opóźniona dostępność norm, wspólnych specyfikacji i alternatywnych wytycznych oraz opóźnione ustanowienie właściwych organów krajowych prowadzą do powstania wyzwań, które zagrażają skutecznemu wejściu w życie tych obowiązków oraz ryzyka znacznego wzrostu kosztów wdrażania w sposób, który nie uzasadnia utrzymania ich pierwotnej daty rozpoczęcia stosowania, tj. 2 sierpnia 2026 r. Dlatego należy wyznaczyć datę rozpoczęcia stosowania rozdziału III sekcje 1, 2 i 3 na dzień 2 grudnia 2027 r. w odniesieniu do systemów AI sklasyfikowanych jako systemy wysokiego ryzyka zgodnie z art. 6 ust. 2 i załącznikiem III, a na dzień 2 sierpnia 2028 r. w odniesieniu do systemów AI sklasyfikowanych jako systemy wysokiego ryzyka zgodnie z art. 6 ust. 1 i załącznikiem I. Rozróżnienie między rozpoczęciem stosowania przepisów w odniesieniu do systemów AI sklasyfikowanych jako systemy wysokiego ryzyka na podstawie art. 6 ust. 2 i załącznika III oraz art. 6 ust. 1 i załącznika I do tego rozporządzenia jest spójne z rozróżnieniem między pierwotnymi datami rozpoczęcia stosowania przewidzianymi w rozporządzeniu (UE) 2024/1689 i ma na celu zapewnienie czasu niezbędnego na dostosowanie i wdrożenie odpowiednich obowiązków. Istotne jest, aby w porę udostępnić instrumenty wsparcia, w tym wytyczne, odpowiednie normy, wspólne specyfikacje i kodeksy praktyk, w celu ułatwienia przestrzegania i zmniejszenia ryzyka rozbieżnej interpretacji i niejednolitego stosowania przepisów w poszczególnych państwach członkowskich. W trosce o pewność prawa i aby uniknąć dalszych opóźnień w stosowaniu rozporządzenia (UE) 2024/1689, Komisja powinna zadbać o wprowadzenie w odpowiednim terminie środków wspierających przestrzeganie rozdziału III sekcje 1, 2 i 3 tego rozporządzenia, aby niezbędne przepisy zostały wdrożone w skuteczny sposób i na czas.

(41)

W świetle celu, jakim jest ograniczenie wyzwań związanych z wdrażaniem dla obywateli, przedsiębiorstw i administracji publicznej, konieczne jest, aby zharmonizowane warunki wdrażania niektórych przepisów były przyjmowane wyłącznie wtedy, gdy jest to absolutnie niezbędne. W tym celu należy znieść niektóre uprawnienia przyznane Komisji do przyjmowania takich zharmonizowanych warunków w drodze aktów wykonawczych w przypadkach, gdy nie zachodzi taka okoliczność. Należy zatem zmienić rozporządzenie (UE) 2024/1689 w celu usunięcia uprawnień przyznanych Komisji w art. 50 ust. 7, art. 56 ust. 6 i art. 72 ust. 3 tego rozporządzenia do przyjmowania aktów wykonawczych. Biorąc pod uwagę, że kodeksy praktyk, o których mowa w art. 50 ust. 7 i art. 56 ust. 6, mają ograniczone skutki prawne, a ponadto nie zakładają domniemania zgodności, ich zatwierdzenie w drodze aktu wykonawczego nie jest bezwzględnie konieczne. Dostawcy powinni mieć możliwość polegania, zgodnie z art. 53 ust. 4 i art. 54 ust. 2 rozporządzenia (UE) 2024/1689, na kodeksach praktyk uznanych za odpowiednie na podstawie art. 56 ust. 6 tego rozporządzenia. Usunięcie uprawnienia do przyjęcia zharmonizowanego wzoru planu monitorowania po wprowadzeniu do obrotu w art. 72 ust. 3 rozporządzenia (UE) 2024/1689 przynosi dodatkową korzyść w postaci zapewnienia dostawcom systemów AI wysokiego ryzyka większej elastyczności we wprowadzaniu systemu monitorowania po wprowadzeniu do obrotu, który jest dostosowany do ich organizacji. Jednocześnie, uznając potrzebę zapewnienia jasności co do sposobu, w jaki dostawcy systemów AI wysokiego ryzyka są zobowiązani do przestrzegania obowiązku określonego w art. 72 ust. 1 rozporządzenia (UE) 2024/1689, Komisja powinna być zobowiązana do opublikowania do dnia 2 września 2027 r. wytycznych, w tym dobrowolnego wzoru, dotyczących planu monitorowania po wprowadzeniu do obrotu.

(42)

Wykorzystanie sztucznej inteligencji w maszynach może sprzyjać innowacjom i poprawie efektywności maszyn. Stosowanie rozporządzenia Parlamentu Europejskiego i Rady (UE) 2023/1230 (18) i rozporządzenia (UE) 2024/1689 może prowadzić do nakładania się przepisów. Jednocześnie ważne jest zapewnienie pewnego poziomu ochrony w odniesieniu do ryzyka związanego z wykorzystaniem sztucznej inteligencji w maszynach, który jest spójny z poziomem ochrony przewidzianym w rozporządzeniu (UE) 2024/1689 w odniesieniu do systemów AI wysokiego ryzyka. Biorąc pod uwagę szczególny charakter maszyn i sektora maszynowego oraz w trosce o uproszczenie ram regulacyjnych dotyczących maszyn opartych na AI, należy zastosować podejście sektorowe poprzez przeniesienie rozporządzenia (UE) 2023/1230 z sekcji A do sekcji B załącznika I do rozporządzenia (UE) 2024/1689. W związku z tym, po pierwsze, stosowanie rozporządzenia (UE) 2024/1689 do tych maszyn należy ograniczyć do przepisów, o których mowa w art. 2 ust. 2 tego rozporządzenia. Odniesienie do dyrektywy 2006/42/WE należy przenieść z sekcji A do sekcji B załącznika I do rozporządzenia (UE) 2024/1689 i zaktualizować, tak aby odnosiło się do rozporządzenia (UE) 2023/1230. Po drugie, kluczowe znaczenie ma zadbanie, aby w rozporządzeniu (UE) 2023/1230 uwzględniono zasadnicze wymagania w zakresie ochrony zdrowia i bezpieczeństwa dotyczące systemów AI wysokiego ryzyka sklasyfikowanych zgodnie z art. 6 ust. 1 rozporządzenia (UE) 2024/1689 i wykorzystywanych jako element bezpieczeństwa w maszynach lub systemów AI wysokiego ryzyka stanowiących maszyny, które zapewniają poziom ochrony zgodny z rozporządzeniem (UE) 2024/1689. W tym celu należy zobowiązać Komisję do przyjęcia aktów delegowanych zmieniających załącznik III do rozporządzenia (UE) 2023/1230 w celu odzwierciedlenia odpowiednich wymogów określonych w rozdziale III sekcja 2 oraz w art. 17, 19, 72 i 73 rozporządzenia (UE) 2024/1689. Aby uniknąć luki prawnej i zapewnić dostosowanie do wejścia w życie odpowiednich przepisów dotyczących systemów AI wysokiego ryzyka określonych w rozporządzeniu (UE) 2024/1689, wspomniane akty delegowane powinny mieć zastosowanie do dnia 2 sierpnia 2028 r. Z tych samych powodów producenci powinni mieć swobodę powoływania się na normy zharmonizowane lub wspólne specyfikacje przywołane lub przyjęte na podstawie rozporządzenia (UE) 2024/1689, które obejmują odpowiednie zasadnicze wymagania dotyczące domniemania zgodności w rozumieniu art. 20 rozporządzenia (UE) 2023/1230, aż do momentu ustalenia norm zharmonizowanych lub wspólnych specyfikacji dotyczących AI lub ich przyjęcia na podstawie rozporządzenia (UE) 2023/1230.

(43)

Ocena zgodności systemów AI wysokiego ryzyka na podstawie rozporządzenia (UE) 2024/1689 może wymagać zaangażowania jednostek oceniających zgodność. Wyłącznie jednostki oceniające zgodność wyznaczone na podstawie tego rozporządzenia mogą przeprowadzać oceny zgodności i jedynie w odniesieniu do działań związanych z danymi kategoriami i rodzajami systemów AI. Aby zapewnić możliwość sprecyzowania zakresu wyznaczenia jednostek oceniających zgodność notyfikowanych na podstawie art. 30 rozporządzenia (UE) 2024/1689, należy sporządzić wykaz kodów, kategorii i odpowiadających im rodzajów systemów AI. W wykazie kodów należy uwzględnić, czy system AI jest elementem wyrobu lub sam w sobie produktem objętym unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I do rozporządzenia (UE) 2024/1689 („kody AIP” w przypadku systemów AI objętych prawodawstwem dotyczącym produktów) lub systemem wymienionym w załączniku III do tego rozporządzenia, który obecnie dotyczy wyłącznie biometrycznych systemów AI, o których mowa w załączniku III pkt 1 („kody AIB” w przypadku biometrycznych systemów AI). Zarówno kody AIP, jak i kody AIB są kodami wertykalnymi. Kody AIP są kodami referencyjnymi zapewniającymi powiązanie z unijnym prawodawstwem harmonizacyjnym wymienionym w sekcji A załącznika I do rozporządzenia (UE) 2024/1689. Kody AIB są nowymi kodami specyficznymi dla rozporządzenia (UE) 2024/1689 służącymi do identyfikacji biometrycznych systemów AI, o których mowa w pkt 1 załącznika III do tego rozporządzenia. Wykaz kodów powinien również uwzględniać szczególne typy i technologie bazowe systemów AI („kody AIH” w przypadku horyzontalnych kodów systemów AI). Kody AIH są nowymi kodami specyficznymi dla technologii AI i mogą być stosowane w połączeniu z kodami wertykalnymi AIP lub AIB. Kody AIH obejmują podstawowe rodzaje i technologie systemów AI. Wykaz kodów, obejmujący trzy kategorie, powinien przewidywać wielowymiarową typologię systemów AI, która zapewni, aby jednostki oceniające zgodność wyznaczone jako jednostki notyfikowane posiadały pełne kompetencje w zakresie systemów AI, które mają obowiązek oceniać.

(44)

W rozporządzeniu Parlamentu Europejskiego i Rady (UE) 2018/1139 (19) ustanowiono wspólne zasady w dziedzinie lotnictwa cywilnego. Art. 108 rozporządzenia (UE) 2024/1689 zmienia rozporządzenie (UE) 2018/1139 w celu zapewnienia, aby przy przyjmowaniu wszelkich odpowiednich aktów delegowanych lub wykonawczych na podstawie rozporządzenia (UE) 2018/1139 Komisja uwzględniała – na podstawie specyfiki technicznej i regulacyjnej sektora lotnictwa cywilnego i bez ingerowania w istniejące mechanizmy zarządzania, oceny zgodności i egzekwowania przepisów oraz ustanowione w tym rozporządzeniu organy – obowiązkowe wymogi dotyczące systemów AI wysokiego ryzyka określone w rozporządzeniu (UE) 2024/1689. Korekta techniczna zmieniająca dodatkowe artykuły rozporządzenia (UE) 2018/1139 jest konieczna w celu zapewnienia, aby obowiązkowe wymogi dotyczące systemów AI wysokiego ryzyka określone w rozporządzeniu (UE) 2024/1689 zostały w pełni uwzględnione przy przyjmowaniu odpowiednich aktów delegowanych lub wykonawczych na podstawie rozporządzenia (UE) 2018/1139.

(45)

W celu zmiany niektórych, innych niż istotnych, elementów rozporządzeń (UE) 2024/1689 i (UE) 2023/1230 należy przekazać Komisji uprawnienia do przyjmowania aktów zgodnie z art. 290 Traktatu o funkcjonowaniu Unii Europejskiej w odniesieniu do:

Szczególnie ważne jest, aby w czasie prac przygotowawczych Komisja prowadziła stosowne konsultacje, w tym na poziomie ekspertów, oraz aby konsultacje te prowadzone były zgodnie z zasadami określonymi w Porozumieniu międzyinstytucjonalnym z dnia 13 kwietnia 2016 r. w sprawie lepszego stanowienia prawa (20). W szczególności, aby zapewnić Parlamentowi Europejskiemu i Radzie udział na równych zasadach w przygotowaniu aktów delegowanych, instytucje te otrzymują wszelkie dokumenty w tym samym czasie co eksperci państw członkowskich, a eksperci tych instytucji mogą systematycznie brać udział w posiedzeniach grup eksperckich Komisji zajmujących się przygotowaniem aktów delegowanych.

(46)

Aby bez zbędnej zwłoki zapewnić pewność prawa z myślą o zbliżającym się powszechnym stosowaniu rozporządzenia (UE) 2024/1689, niniejsze rozporządzenie wchodzi w życie trzeciego dnia po jego opublikowaniu w Dzienniku Urzędowym Unii Europejskiej.

(47)

Zgodnie z art. 42 ust. 1 i 2 rozporządzenia (UE) 2018/1725 skonsultowano się z Europejskim Inspektorem Ochrony Danych i Europejską Radą Ochrony Danych, którzy wydali wspólną opinię dnia 20 stycznia 2026 r.,