Brak niezależnej certyfikacji modeli

Jedną z najczęściej poruszanych kwestii jest brak scentralizowanego mechanizmu certyfikacji systemów sztucznej inteligencji. Inma Martinez, która ściśle współpracowała z rządami i globalnymi korporacjami, podkreśla tę lukę: W żadnym miejscu na tych 144 stronach nie ma mowy o mechanizmie certyfikacji modeli. Potrzebujemy agencji, która będzie testować i zatwierdzać systemy sztucznej inteligencji w taki sam sposób, w jaki EMA [Europejska Agencja Leków] certyfikuje leki. W przeciwnym razie, jak możemy ufać temu, co trafia na rynek? Luka ta jest szczególnie problematyczna w sektorach wysokiego ryzyka, takich jak opieka zdrowotna czy obrona, gdzie awaria systemu sztucznej inteligencji mogłaby mieć katastrofalne konsekwencje. Bez znormalizowanych i przejrzystych protokołów walidacji zainteresowane strony mogą mieć trudności z odróżnieniem zgodnych z przepisami i bezpiecznych systemów sztucznej inteligencji od systemów eksperymentalnych lub nieprzejrzystych. Taka jednostka certyfikująca mogłaby również pomóc w ujednoliceniu rozumienia tego, co stanowi godną zaufania sztuczną inteligencję, zwłaszcza w miarę jak modele ogólnego przeznaczenia stają się coraz bardziej złożone. Kilku ekspertów wzywa UE do utworzenia specjalnej instytucji nadzorującej sztuczną inteligencję, zdolnej do przeprowadzania audytów technicznych, analiz porównawczych oraz ciągłego monitorowania systemów po ich wdrożeniu.

Nadmierne uproszczenie podejścia opartego na ryzyku

Ustawa o sztucznej inteligencji opiera się w dużej mierze na czterostopniowej klasyfikacji ryzyka: niedopuszczalne, wysokie, ograniczone i minimalne. Jednak eksperci tacy jak Raja Chatila twierdzą, że systemy sztucznej inteligencji nie dają się łatwo zaklasyfikować do odrębnych kategorii. Granice są nieostre, co powoduje niepewność zarówno wśród twórców, jak i organów regulacyjnych. Na przykład sztuczna inteligencja wykorzystywana w rekrutacji kadrowej może zostać sklasyfikowana jako system wysokiego ryzyka ze względu na potencjalną dyskryminację. A co, jeśli ten sam system zostanie wykorzystany do weryfikacji CV kandydatów na stanowiska wolontariackie? Czy ryzyko jest takie samo? Statyczny model klasyfikacji może nie uwzględniać dynamicznych kontekstów i skumulowanych skutków społecznych. Ponadto krytycy ostrzegają, że klasyfikowanie systemów na podstawie zamierzonego celu pomija sposób, w jaki mogą one zostać wykorzystane do innych celów lub ewoluować w rzeczywistym zastosowaniu. Aby temu zaradzić, niektórzy proponują bardziej elastyczny, uwzględniający kontekst model, który bierze pod uwagę zmieniające się ryzyko, pętle sprzężenia zwrotnego i zastosowania wtórne.

Luki w wdrażaniu i zdolności instytucjonalne

Regulowanie sztucznej inteligencji to jedno — wdrażanie i egzekwowanie tych przepisów w zróżnicowanej Unii składającej się z 27 państw członkowskich to zupełnie inna sprawa. Elinor Wahal zwraca uwagę, że bez zdolności technicznych i przeszkolonego personelu w agencjach krajowych ryzykujemy, że przepisy nie będą egzekwowane w optymalny sposób w praktyce. Niektóre państwa członkowskie nie wyznaczyły jeszcze ani nie upoważniły właściwych organów do sprawowania nadzoru nad sztuczną inteligencją. Ponadto mniejsze kraje mogą nie dysponować infrastrukturą niezbędną do prowadzenia piaskownic regulacyjnych lub oceny zaawansowanych systemów. Eksperci wzywają do zwiększenia finansowania na szczeblu UE, współpracy transgranicznej oraz programów szkoleniowych w celu zapewnienia jednolitego stosowania przepisów. Bez tego egzekwowanie przepisów może stać się nierównomierne, co doprowadzi do arbitrażu regulacyjnego lub utraty zaufania publicznego.

Ryzyko zniechęcenia do innowacji

Chociaż ustawa o sztucznej inteligencji zawiera rozwiązania sprzyjające innowacjom, takie jak piaskownice regulacyjne i proporcjonalne kary, istnieją obawy, że nadmiernie uciążliwe wymagania dotyczące systemów wysokiego ryzyka mogą zniechęcić do inwestycji w badania i rozwój w dziedzinie sztucznej inteligencji. Laurence Liew, opierając się na doświadczeniach singapurskiego ekosystemu sztucznej inteligencji, zauważyła, że wiele mniejszych firm zajmujących się sztuczną inteligencją wyraża obawy dotyczące zasobów niezbędnych do zapewnienia pełnej zgodności z przepisami. Znalezienie właściwej równowagi między niezbędnymi zabezpieczeniami a umożliwianiem innowacji stanowi wyzwanie, przed którym stoją wszystkie jurysdykcje w zakresie zarządzania sztuczną inteligencją. Szczególnie dla start-upów i firm w fazie ekspansji koszty dokumentacji, testów i wsparcia prawnego mogą być zbyt wysokie. Istnieją również obawy, że europejskie uniwersytety i publiczne organizacje badawcze mogą wahać się przed komercjalizacją innowacji, które mogłyby zostać zaklasyfikowane do kategorii wysokiego ryzyka. Aby temu zaradzić, eksperci zalecają większą jasność co do zakresu wyłączeń oraz uproszczenie procedur dla podmiotów działających w dobrej wierze.

Niewystarczające przepisy dotyczące sztucznej inteligencji ogólnego przeznaczenia

Ponieważ ustawa została opracowana przed gwałtownym rozwojem dużych modeli językowych i innych systemów sztucznej inteligencji ogólnego przeznaczenia, wielu ekspertów uważa, że nie uwzględnia ona w wystarczającym stopniu tych technologii. Marko Grobelnik wyjaśnia: Regulujemy sztuczną inteligencję tak, jakby była stworzona do wąskich, ściśle określonych zadań. Ale co się stanie, gdy pojawią się modele, które potrafią wszystko – tłumaczyć, przewidywać, generować, wchodzić w interakcje? Obecna struktura tego nie uwzględnia. Wprowadzone na późnym etapie poprawki do ustawy, mające na celu uwzględnienie sztucznej inteligencji ogólnego przeznaczenia, są przez niektórych postrzegane jako działania reaktywne, a nie strategiczne. Wyzwaniem jest zdefiniowanie obowiązków bez ograniczania wszechstronności i skalowalności. Niektórzy sugerują, że sztuczna inteligencja ogólnego przeznaczenia może wymagać zupełnie nowej logiki regulacyjnej, obejmującej dynamiczne licencjonowanie, otwarte rejestry zbiorów danych oraz środowiska testowe oparte na współpracy publicznej.

Globalna interoperacyjność i ryzyko fragmentacji

Sally Radwan, która kierowała polityką w zakresie sztucznej inteligencji w dziedzinie ochrony środowiska na szczeblu ONZ, ostrzega, że ustawa o sztucznej inteligencji została wynegocjowana przy silnym wewnętrznym konsensusie, ale z zewnętrznej perspektywy może wydawać się wykluczająca. Nie każdy kraj chce w całości przyjąć model europejski. Eksterytorialne skutki ustawy, wymagające od przedsiębiorstw spoza UE przestrzegania jej przepisów, jeśli obsługują one użytkowników z UE, zostały skrytykowane jako imperializm regulacyjny. Podczas gdy RODO z czasem doprowadziło do globalnej harmonizacji, sztuczna inteligencja wiąże się z wyjątkowymi wyzwaniami geopolitycznymi, zwłaszcza w sytuacji, gdy państwa rywalizują o dominację w dziedzinie nowych technologii. Jeśli UE nie będzie aktywnie wspierać ram współpracy z kluczowymi partnerami, takimi jak Stany Zjednoczone, Japonia i Unia Afrykańska, może stanąć w obliczu tarć, sporów prawnych lub powielania wysiłków. Niezbędne jest zatem wyważone podejście, obejmujące wzajemne uznawanie, ramy interoperacyjności oraz dyplomację techniczną.

Obawy te nie umniejszają przełomowego charakteru ustawy o sztucznej inteligencji. Odzwierciedlają one raczej złożoność regulacji szybko ewoluującej i głęboko transformacyjnej technologii. Otwarte podejście do tych kwestii będzie miało kluczowe znaczenie dla sukcesu ustawy oraz dla utrzymania jej legitymacji społecznej i międzynarodowego wpływu, do których dąży.

O raporcie GAIA

Raport GAIA to seria strategicznych analiz i prognoz zorientowanych na człowieka, poświęcona badaniu zmieniających się relacji między sztuczną inteligencją, ludzkością i zrównoważonym rozwojem. W epoce, w której algorytmy w coraz większym stopniu wpływają na ludzkie doświadczenia, raport GAIA ma na celu wyjście poza sam postęp technologiczny i zastanowienie się, w jaki sposób systemy sztucznej inteligencji można dostosować do zasad etycznych, wartości demokratycznych, godności ludzkiej oraz dobra naszej planety.

W świecie rządzonym przez kod stawiamy na pierwszym miejscu człowieczeństwo.

Finansowanie 

Raport GAIA Report został współfinansowany przez Pracodawców RP, których wsparcie umożliwiło jego przygotowanie i publikację.

Jak cytować: 

Ciachorowski, D., Kroplewski, R. (2025). Beyond Compliance, GAIA Report, Vol. 1, Global Artificial Intelligence Alliance, ISBN: 978-83-975918-0-6