Regulacja sztucznej inteligencji w UE. Czy AI Act powstrzyma innowacje, zamiast je wspierać?

Regulacja sztucznej inteligencji w UE. Czy AI Act powstrzyma innowacje zamiast je wspierać?

Pierwsze na świecie kompleksowe prawo dotyczące AI

Regulacja sztucznej inteligencji w UE to pierwsza na świecie próba stworzenia kompleksowych ram prawnych dla tej technologii. AI Act to ambitna inicjatywa, której celem jest zarówno ochrona obywateli, jak i wspieranie rozwoju innowacji. Komisja Europejska zakładała, że przepisy będą równoważyć potrzebę bezpieczeństwa z potencjałem gospodarczym sztucznej inteligencji.

Nowe prawo klasyfikuje systemy sztucznej inteligencji według poziomu ryzyka. Im większe zagrożenie dla praw podstawowych, tym surowsze wymogi. Brzmi sensownie, ale rzeczywistość bywa bardziej skomplikowana.

Jakie ryzyka chce uregulować UE?

Unia Europejska dąży do wyeliminowania takich zastosowań sztucznej inteligencji, które mogą naruszać podstawowe prawa człowieka lub zagrażać społecznemu zaufaniu. Chodzi o systemy, które ingerują w autonomię jednostki, wzmacniają nierówności lub ułatwiają kontrolę społeczną.

Wśród zakazanych zastosowań AI znalazły się m.in.:

• rozpoznawanie twarzy w czasie rzeczywistym w przestrzeni publicznej, bez zgody obywateli,
• scoring obywateli, czyli przydzielanie punktów na podstawie ich zachowań lub cech społecznych,
• poznawczo-behawioralna manipulacja, szczególnie wobec dzieci – np. zabawki sterowane głosem, które wpływają na decyzje najmłodszych,
• zdalna identyfikacja biometryczna w czasie rzeczywistym stosowana do celów masowej inwigilacji.

Wyjątki przewidziano tylko dla organów ścigania – i to w ściśle określonych, wyjątkowych sytuacjach. UE podkreśla, że ochrona obywateli przed technologią AI nie może być mniej ważna niż innowacyjność czy rozwój gospodarczy.

Modele ryzyka: od niedopuszczalnych po niskie

Systemy AI zostały podzielone na cztery grupy: niedopuszczalne, wysokiego, ograniczonego i minimalnego ryzyka. Tylko te pierwsze będą całkowicie zakazane.

Systemy wysokiego ryzyka będą dopuszczone do obrotu pod warunkiem spełnienia bardzo surowych wymogów. Muszą przejść ocenę zgodności, zostać zarejestrowane w unijnej bazie danych i działać zgodnie z określonymi normami technicznymi. Przykłady to AI stosowana w opiece zdrowotnej, rekrutacji, edukacji czy systemach bezpieczeństwa infrastruktury krytycznej.

Systemy o ograniczonym ryzyku muszą spełniać obowiązki informacyjne – np. informować użytkownika, że ma do czynienia z AI. Dotyczy to m.in. chatbotów lub systemów rekomendacyjnych.

W przypadku systemów minimalnego ryzyka, takich jak filtry antyspamowe, nie przewidziano żadnych dodatkowych wymogów – co oznacza, że większość popularnych narzędzi AI będzie mogła funkcjonować bez znaczących barier regulacyjnych.

Wymagania dla modeli generatywnych i systemów wysokiego ryzyka

Regulacja sztucznej inteligencji w UE nakłada konkretne obowiązki na twórców modeli generatywnych, takich jak ChatGPT, Midjourney czy inne narzędzia tworzące treści AI. Obowiązek informowania użytkownika o sztucznym pochodzeniu treści to kluczowy element przejrzystości. Dodatkowo – nie mogą generować nielegalnych materiałów i muszą szanować prawa autorskie.

To oznacza m.in. konieczność wdrożenia zabezpieczeń technicznych, które zapobiegną generowaniu treści nawołujących do nienawiści, przemocy lub fałszywych informacji. Producenci takich modeli muszą też opublikować streszczenia danych treningowych – zwłaszcza tych chronionych prawem autorskim.

W przypadku modeli ogólnego przeznaczenia (jak GPT-4), pojawiły się dodatkowe wymogi dotyczące oceny ryzyka systemowego. Oznacza to, że jeśli model ma potencjał wpływania na systemy gospodarcze, społeczne lub polityczne, musi być regularnie audytowany, a wszelkie poważne incydenty – zgłaszane do Komisji Europejskiej. Te wymogi mogą istotnie wpłynąć na sposób, w jaki firmy będą rozwijać i wdrażać AI w praktyce – zwłaszcza w kontekście globalnej konkurencji.

Co mówi autor AI Act? Krytyka z wewnątrz

„Jeśli prawo nie jest przejrzyste, trzeba je zatrzymać” – Gabriele Mazzini

Autor AI Act, Gabriele Mazzini, otwarcie mówi o wadach prawa, które współtworzył. Jego stanowisko jest jasne: regulacja musi być nie tylko dobrze zaprojektowana, ale przede wszystkim zrozumiała. Bez tego – może bardziej szkodzić niż chronić. Mazzini podkreśla, że bez jasno określonych celów i środków, prawo staje się narzędziem chaosu, a nie bezpieczeństwa.

Brak jasnych celów = ryzyko błędów systemowych

Gdy cele nie są precyzyjnie zdefiniowane, łatwo o błędne interpretacje i niezamierzone konsekwencje. Przepisy mogą się wzajemnie wykluczać, być sprzeczne z innymi regulacjami lub po prostu nie działać w praktyce. To nie tylko problem legislacyjny – to także ryzyko operacyjne dla firm i instytucji wdrażających AI.

Konflikty z innymi przepisami, brak spójności, zbyt ogólne zapisy

Mazzini wskazuje, że obecna wersja AI Act generuje napięcia z istniejącym porządkiem prawnym – szczególnie w zakresie ochrony danych osobowych oraz regulacji sektora finansowego. Przykładowo, wymogi dotyczące przejrzystości mogą kolidować z przepisami o tajemnicy zawodowej lub zasadami działania algorytmów scoringowych w bankowości. To niebezpieczny precedens.

Modele bazowe jako problematyczny punkt ustawy

Najwięcej kontrowersji budzą zapisy dotyczące tzw. modeli bazowych. Eksperci zwracają uwagę, że ich definicja w ustawie jest niejasna i zbyt szeroka. W efekcie trudno określić, kiedy dany model podpada pod surowsze wymagania. To nie tylko utrudnia interpretację prawa, ale też zwiększa ryzyko dla firm rozwijających AI – bo nie wiedzą, czy są już objęte obowiązkami, czy jeszcze nie. Brakuje tu precyzji, a to może prowadzić do zatorów we wdrażaniu innowacji.