2/2025, data dodania: 17.01.2025 Od lutego 2025 r. obowiązuje zakaz stosowania szczególnie niebezpiecznych systemów AI
Od 2 lutego 2025 r. obowiązują przepisy zakazujące stosowania w całej Unii Europejskiej (UE) szczególnie niebezpiecznych systemów sztucznej inteligencji (AI, ang. artificial intelligence). Wprowadzający tę regulację tzw. AI Act ma formę unijnego rozporządzenia, co oznacza, że jego przepisy obowiązują bezpośrednio w całej UE. AI Act jest obowiązkową lekturą nie tylko dla projektantów systemów AI, ale i dla osób chcących te systemy wdrażać. Za nieprzestrzeganie przepisów tego rozporządzenia grożą bardzo wysokie kary.
AI Act - europejskie uregulowanie sztucznej inteligencji i zakazane AI
Przyjęty przez Parlament Europejski w 2024 r. AI Act jest pierwszym w skali globalnej aktem prawnym dedykowanym regulacji sztucznej inteligencji. Polska, jako członek UE, jest zobowiązana do przestrzegania tych przepisów. Przy tym przepisy AI Act wprowadzane są stopniowo. Wstępnie od 2 lutego 2025 r. w całej Europie zaczął obowiązywać zakaz stosowania szczególnie niebezpiecznych systemów sztucznej inteligencji. Od tej daty zakazano systemów AI, które:
- celowo manipulują użytkownikami w sposób prowadzący do istotnych szkód, np. poprzez techniki podprogowe lub wprowadzanie w błąd,
- celowo wykorzystują słabości osób (np. wiek lub niepełnosprawność), aby wpłynąć na ich decyzje,
- stosują tzw. scoring społeczny, tj. zabroniona jest ocena ludzi na podstawie ich zachowań lub cech osobistych, jeśli prowadzi to do dyskryminacji,
- dokonują zdalnej identyfikacji biometrycznej (np. systemy rozpoznawania twarzy). Zakazana została identyfikacja ludzi w czasie rzeczywistym w przestrzeni publicznej, chyba że ma być ona przeprowadzona w ściśle określonych przypadkach, takich jak ściganie przestępstw.
Klasyfikacja AI według poziomu ryzyka
AI Act wprowadza klasyfikację systemów AI w oparciu o poziom ryzyka, jaki niosą dla użytkowników i społeczeństwa. W zależności od tego, do jakiej kategorii należy AI, przepisy nakładają różnego rodzaju obostrzenia lub obowiązki na wprowadzających te systemy. Podstawowe informacje na temat klasyfikacji AI pod względem kategorii ryzyka przedstawiamy w tabeli 1.
Tabela 1. Kategorie systemów AI według AI Act
| Kategoria ryzyka | Przykłady systemów | Wymogi regulacyjne w AI Act |
| Systemy o niedopuszczalnym ryzyku | AI stosowana do manipulacji behawioralnej, podprogowej i systemy tzw. chińskiego "kredytu społecznego" | Całkowity zakaz stosowania. |
| Systemy wysokiego ryzyka | AI w medycynie, systemy oceny zdolności kredytowej, narzędzia do oceny CV | Obowiązek przeprowadzenia audytu i zapewnienia zgodności z wymaganiami technicznymi i etycznymi. |
| Systemy o ograniczonym ryzyku | Chatboty, aplikacje rekomendacyjne | Wymóg przejrzystości i informowania użytkowników o stosowaniu AI. |
| Systemy o minimalnym ryzyku | Gry komputerowe, aplikacje rozrywkowe | Brak szczególnych regulacji. |
Ważne
W związku z wprowadzeniem AI Act przedsiębiorcy powinni przeprowadzić inwentaryzację systemów AI w firmie i dokonać ich klasyfikacji pod względem ryzyka.
Sankcje za naruszenie przepisów
AI Act przewiduje surowe sankcje finansowe za naruszanie przepisów. Ma to na celu zapewnienie przestrzegania zasad bezpieczeństwa i odpowiedzialności. W tabeli 2 przedstawiono maksymalne kary finansowe.
Tabela 2. Kary za naruszenie AI Act
| Rodzaj naruszenia | Maksymalna kara (wybierana jest wyższa kwota) |
| Zakazane praktyki AI | 35 mln euro lub 7% światowego rocznego obrotu |
| Naruszenie innych obowiązków wynikających z AI Act | 15 mln euro lub 3% światowego rocznego obrotu |
| Dostarczanie nieprawdziwych informacji organom władzy | 7,5 mln euro lub 1% światowego rocznego obrotu |
Moment wejścia w życie przepisów
Przepisy dotyczące AI Act co do zasady zaczną obowiązywać po upływie 24 miesięcy od ich ogłoszenia (a więc w sierpniu 2026 r.). Jednak część z nich już zaczęła obowiązywać lub zacznie obowiązywać po upływie 12 i 36 miesięcy (zob. tabelę 3).
Tabela 3. Wejście w życie przepisów dotyczących AI Act
| Wejście w życie regulacji | Jaka regulacja AI Act zaczyna obowiązywać |
| od 2 lutego 2025 r. | rozdział II (Zakazane praktyki) |
| od 2 sierpnia 2025 r. | rozdział V (Modele ogólnego przeznaczenia), rozdział XII (Kary) bez art. 101 |
| od 2 sierpnia 2026 r. | artykuł 6(2) i aneks III (Systemy wysokiego ryzyka), rozdział IV (Obowiązki w zakresie przejrzystości) |
| od 2 sierpnia 2027 r. | artykuł 6(1) (Systemy wysokiego ryzyka) i odpowiadające mu obowiązki |
Podstawa prawna
rozporządzenie Parlamentu Europejskiego I Rady (UE) 2024/1689 z 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) - Dz.U. UE. L z 2024 r. 1689 z 12 lipca 2024 r.
Sławomir Biliński
prawnik, redaktor "MONITORA księgowego", ekspert podatkowy, autor licznych publikacji z prawa podatkowego i gospodarczego
Broszura Ministerstwa Cyfryzacji na temat zakazanych AI stanowi załącznik do e-wydania "Mk"
