Zasady prawne i etyczne w zarządzaniu danymi

Równie istotne są umiejętności i gotowość organizacyjna niezbędne do skutecznego zarządzania danymi – zwłaszcza w połączeniu z modelowaniem wiedzy – jako podstawowe kompetencje zarówno w projektowaniu, jak i odpowiedzialnym wykorzystaniu systemów sztucznej inteligencji.

Jak wyjaśnia Ana Prică-Cruceanu: Bez odpowiedniego zarządzania systemy oparte na danych stają się motorami wykluczenia. Etyka, zrównoważony rozwój i inkluzywność zaczynają się na poziomie gromadzenia, dostępu i wykorzystania danych.

Ustawa o sztucznej inteligencji odzwierciedla rosnącą świadomość tej rzeczywistości. Chociaż rozporządzenie to nie oferuje kompletnych ram zarządzania danymi, krzyżuje się z szeregiem istniejących przepisów – zwłaszcza z RODO – i określa oczekiwania wobec systemów sztucznej inteligencji wysokiego ryzyka w zakresie jakości danych, procesów szkolenia i dokumentacji. W niniejszym rozdziale omówiono te powiązania i wyzwania, a także pojawiające się apele o szerszy, bardziej partycypacyjny model zarządzania danymi.

Zarządzanie danymi w ramach ustawy o sztucznej inteligencji opiera się na zasadach minimalizacji danych, jakości, reprezentatywności i sprawiedliwości. Systemy wysokiego ryzyka muszą wykorzystywać zbiory danych do szkolenia, walidacji i testowania, które są istotne, wystarczająco reprezentatywne i wolne od błędów. Wymogi te odzwierciedlają zaangażowanie UE na rzecz ekosystemu cyfrowego opartego na prawach, w którym prywatność i niedyskryminacja mają kluczowe znaczenie.

Pam Dixon podkreśla ten podwójny mandat: Ustawa o sztucznej inteligencji próbuje pogodzić dwa wymagania: skalowalność technologiczną i prawa podstawowe. Nie jest to łatwe. Wiele problemów związanych ze sztuczną inteligencją ma swój początek na poziomie danych, a nie tylko algorytmów.

Ustawa o sztucznej inteligencji opiera się na wcześniejszych aktach prawnych, takich jak RODO, które już ustanowiły kluczowe obowiązki dotyczące zgody, ograniczenia celu i przejrzystości. Jednak, jak zauważa Olivia J. Erdelyi, RODO reguluje »jak« w odniesieniu do danych, natomiast ustawa o sztucznej inteligencji zaczyna regulować »dlaczego« i »z jakimi konsekwencjami«.

Te nakładające się na siebie ramy wymagają uzgodnienia – nie tylko w prawie, ale także w praktyce instytucjonalnej. Nadal pozostają pytania dotyczące tego, w jaki sposób organy ochrony danych i organy nadzoru rynku sztucznej inteligencji będą koordynować swoje działania. Ponadto granica między danymi osobowymi a nieosobowymi coraz bardziej się zaciera w związku z danymi syntetycznymi, danymi wywnioskowanymi oraz metodami anonimizacji, które nadal mogą umożliwiać ponowną identyfikację.

Ostatecznie zarządzanie danymi dotyczy nie tylko zgodności z przepisami, ale także kształtowania odpowiedzialnych innowacji. Jak sugeruje Cyrus Hodes: Nadszedł czas, aby myśleć o danych nie tylko jako o towarze lub ryzyku, ale jako o dobru wspólnym – czymś, czym należy zarządzać wspólnie dla dobra publicznego.

Jakość danych, stronniczość i reprezentatywność

Wysokiej jakości, obiektywne dane są siłą napędową godnej zaufania sztucznej inteligencji. Jednak wiele dzisiejszych systemów jest szkolonych na zbiorach danych zawierających systemowe stronniczości, pominięcia lub błędy – często odziedziczone po rzeczywistych środowiskach, które odzwierciedlają. Konsekwencje mogą być daleko idące: od utrwalania stereotypów po odmawianie usług, sprawiedliwości lub szans całym grupom.

Laurence Liew zwraca uwagę na praktyczne zagrożenia: Jeśli 70% danych szkoleniowych pochodzi od anglojęzycznych użytkowników z obszarów miejskich, system może działać znakomicie dla nich – a katastrofalnie zawieść w przypadku wszystkich pozostałych.

Ustawa o sztucznej inteligencji (AI Act) próbuje zaradzić tym zagrożeniom poprzez wymogi dotyczące reprezentatywności danych, zwłaszcza w zastosowaniach wysokiego ryzyka. Twórcy muszą dokumentować swoje zbiory danych szkoleniowych i testowych oraz wykazać, że uwzględniają one różnorodność populacji. Jednak wielu ekspertów twierdzi, że to za mało.

Merve Hickok podkreśla potrzebę reform strukturalnych: Ograniczanie stronniczości nie może być tylko doraźnym rozwiązaniem. Musi być wbudowane w cykle projektowania, zamówień i oceny – zwłaszcza we wdrożeniach w sektorze publicznym.

Ponadto jakość danych jest często mylona z ich ilością. Jednak, jak zauważa Marko Grobelnik, większa ilość danych nie zawsze oznacza lepsze wyniki: Źle oznaczone lub zakłócone dane na dużą skalę powodują jedynie bardziej wyrafinowane awarie. Jakość i pochodzenie muszą być na pierwszym miejscu.

Kompleksowa strategia dotycząca jakości danych musi zatem obejmować nie tylko walidację techniczną, ale także przejrzystość w zakresie pozyskiwania danych, praktyk kuratorskich oraz zaangażowania społeczności – szczególnie gdy zbiory danych dotyczą grup historycznie marginalizowanych.

W miarę jak sztuczna inteligencja staje się coraz bardziej zakorzeniona w kluczowych funkcjach społeczeństwa, zapewnienie, by jej podstawy były inkluzywne i sprawiedliwe, stanowi nie tylko wyzwanie techniczne, ale także demokratyczny imperatyw.

Dostęp, własność i kontrola

Kto kontroluje dane i kto decyduje o tym, w jaki sposób można uzyskać do nich dostęp i je ponownie wykorzystać? Te pytania leżą u podstaw współczesnego rozwoju sztucznej inteligencji. Z prawnego punktu widzenia dane – o ile nie dotyczą danych osobowych – nie są przedmiotem własności; stanowią one cyfrową reprezentację rzeczywistości, która sama w sobie pozostaje własnością publiczną. Jednak w praktyce ogromne ilości danych są gromadzone, zamykane w zamkniętych systemach i monetyzowane przez niewielką liczbę podmiotów. Ustawa o sztucznej inteligencji wytycza ścieżkę regulacyjną w kierunku sprawiedliwszego dostępu, ale wielu ekspertów twierdzi, że potrzeba czegoś więcej: ram, które zapewnią sprawiedliwe prawa dostępu i umożliwią dzielenie się danymi dla wspólnego dobra – nie tylko użytkowników, ale także przyszłych innowatorów.

Amir Banifatemi porusza fundamentalną kwestię: Małe i średnie przedsiębiorstwa nie mogą sobie pozwolić na gromadzenie lub licencjonowanie ogromnych zbiorów danych. Jeśli dostęp do danych pozostanie w rękach kilku gigantów technologicznych, innowacje nigdy nie będą naprawdę konkurencyjne – ani inkluzywne.

Ustawa o sztucznej inteligencji nakłada obowiązki dokumentacyjne, ale pozostawia wiele decyzji dotyczących dostępu do danych i ich ponownego wykorzystania w rękach twórców i dostawców. Chociaż może to zapewnić elastyczność, niesie ze sobą również ryzyko wzmocnienia monopolistycznej kontroli nad podstawowymi zasobami danych. Nicolas Miailhe zauważa: Musimy zdemokratyzować dostęp do danych wysokiej jakości, jeśli chcemy, aby środowisko sztucznej inteligencji służyło wszystkim, a nie tylko najpotężniejszym.

Kwestia własności dotyczy również osób, których dane dotyczą. Zgodnie z RODO osoby fizyczne mają prawa do swoich danych osobowych, w tym prawo dostępu i usunięcia. Jednak w procesie tworzenia sztucznej inteligencji znaczna część danych jest agregowana, wnioskowana lub anonimizowana – co stwarza nowe wyzwania w zakresie odpowiedzialności i kontroli użytkowników.

Jak podkreśla Octavio Kulesz: Jeśli systemy sztucznej inteligencji opierają się na danych kulturowych, językowych lub behawioralnych pochodzących ze społeczności, to społeczności te muszą mieć wpływ na to, w jaki sposób ich dane są wykorzystywane. Zgoda nie może być abstrakcyjna ani mieć mocy wstecznej.

Stworzenie mechanizmów zbiorowego zarządzania – takich jak spółdzielnie danych, modele oparte na dobrach wspólnych lub publiczne infrastruktury danych – mogłoby pomóc w bardziej sprawiedliwym podziale zarówno kontroli, jak i korzyści. Modele te wymagają jednak wsparcia instytucjonalnego, jasności prawnej, a przede wszystkim woli politycznej.

Wyzwanie związane z suwerennością danych

Suwerenność danych – idea, zgodnie z którą dane podlegają przepisom i strukturom zarządzania obowiązującym w kraju, w którym są gromadzone – stała się centralną koncepcją w debacie na temat polityki w zakresie sztucznej inteligencji. Dla Unii Europejskiej suwerenność danych stanowi kamień węgielny jej strategii cyfrowej, odzwierciedlając dążenie do zapewnienia, by dane europejskie służyły interesom Europy, były zgodne z europejskimi wartościami oraz chronione przed wykorzystaniem przez podmioty zagraniczne.

Samo Zorc podkreśla ten geopolityczny aspekt: Jeśli Europa chce przewodzić pod względem etycznym, musi również przewodzić pod względem infrastrukturalnym. Nie możemy budować suwerennych systemów sztucznej inteligencji bez suwerennej kontroli nad danymi, które je zasilają.

Ustawa o sztucznej inteligencji pośrednio wzmacnia tę wizję. Chociaż nie reguluje ona wprost kwestii suwerenności danych, jej spójność z RODO i szerszą strategią cyfrową – w tym z ustawą o zarządzaniu danymi oraz planowaną europejską przestrzenią danych dotyczących zdrowia – pozycjonuje ją jako część szerszej architektury europejskiej autonomii cyfrowej, szczególnie w świetle rozporządzenia w sprawie swobodnego przepływu danych nieosobowych (FFOD) na wewnętrznym rynku europejskim oraz postanowień dotyczących handlu cyfrowego zawartych w umowach o wolnym handlu z krajami trzecimi o podobnych poglądach.

Yuko Harayama zauważa, że różni się to znacznie od modelu amerykańskiego: Europa koncentruje się na wspólnych wartościach i spójności regulacyjnej. Model amerykański jest bardziej rozdrobniony i zorientowany na rynek, podczas gdy Azja łączy centralizację z dążeniem do innowacji.

Jednak suwerenność to nie tylko kwestia granic. W praktyce wiąże się ona również z potencjałem instytucjonalnym, interoperacyjnością między jurysdykcjami oraz prawami jednostek i społeczności. Dla krajów Globalnego Południa suwerenność danych może oznaczać zdolność do przeciwstawiania się praktykom wyzysku stosowanym przez zagraniczne firmy technologiczne oraz do budowania lokalnego potencjału w zakresie zarządzania sztuczną inteligencją.

Sebastian Hallensleben ostrzega przed ryzykiem błędnej interpretacji tej koncepcji: Suwerenność danych nie powinna przerodzić się w protekcjonizm danych. Potrzebujemy otwartości połączonej z zabezpieczeniami – a nie murów, które uniemożliwiają wymianę naukową i wspólne innowacje.

Osiągnięcie właściwej równowagi między lokalną kontrolą a globalną interoperacyjnością będzie wymagało ciągłego udoskonalania polityki i wielostronnej koordynacji. Ustawa o sztucznej inteligencji może służyć jako platforma do umacniania demokratycznego zarządzania danymi – ale tylko wtedy, gdy pozostanie otwarta na dialog, dostosowanie i partnerstwo.

Przyszłe kierunki: od zgodności z przepisami do opartego na współpracy zarządzania danymi

W miarę jak systemy sztucznej inteligencji stają się coraz bardziej integralną częścią usług publicznych, badań naukowych i działalności komercyjnej, pytanie nie brzmi już, czy dane powinny podlegać zarządzaniu, ale w jaki sposób. Eksperci coraz częściej twierdzą, że modele oparte na zgodności z przepisami muszą przekształcić się w bardziej dynamiczne, oparte na współpracy i partycypacyjne ramy.

Ana Prică-Cruceanu przewiduje przejście w kierunku wspólnej odpowiedzialności: Potrzebujemy nowych mechanizmów – wspólnych zasobów danych, funduszy powierniczych danych, paneli obywatelskich – które pozwolą ludziom współzarządzać danymi mającymi wpływ na ich życie. Modele takie podważają konwencjonalne postrzeganie danych jako zasobu kontrolowanego wyłącznie przez przedsiębiorstwa lub państwa.

Uczenie federacyjne, udostępnianie danych syntetycznych oraz technologie chroniące prywatność oferują nowe sposoby gromadzenia wiedzy przy jednoczesnym poszanowaniu prywatności. Jednak ich wdrożenie wymaga standardów, infrastruktury i zaufania społecznego. Raja Chatila podkreśla potrzebę rozliczalności na każdym poziomie: Etyczne zarządzanie danymi nie dotyczy wyłącznie dostępu – chodzi o odpowiedzialność w całym cyklu życia danych: gromadzeniu, oznaczaniu, wykorzystywaniu, przechowywaniu i usuwaniu.

Cyrus Hodes dodaje wymiar globalny: Nie możemy mówić o zmianach klimatycznych ani gotowości na pandemię bez transgranicznej wymiany danych. Jednak współpraca musi opierać się na zasadach etycznych – a nie tylko na wskaźnikach wydajności.

Unia Europejska rozpoczęła badanie tych nowych obszarów poprzez Wspólne Europejskie Przestrzenie Danych oraz inicjatywy sektorowe w dziedzinie zdrowia, energii i mobilności. Jednak większość działań pozostaje na wczesnym etapie i ma charakter fragmentaryczny.

Aby osiągnąć skalowalność, wspólne zarządzanie wymaga:

• Jasności prawnej w zakresie praw i obowiązków w ramach partnerstw dotyczących danych.
• Narzędzi do audytu etycznego i uzyskiwania zgody społeczności.
  
• Organów zarządzających, w których uwzględnione są głosy grup niedostatecznie reprezentowanych.
  
• Stworzenia sprawiedliwych ram dla godnych zaufania przestrzeni wymiany danych.
  

Bez tych elementów nawet najbardziej innowacyjne modele narażone są na ryzyko, że staną się projektami pilotażowymi, które nigdy nie osiągną znaczenia systemowego. Wyzwaniem na przyszłość jest uczynienie zarządzania opartego na współpracy standardem, a nie wyjątkiem, w przyszłych europejskich i globalnych ekosystemach danych.

Podsumowanie: budowa odpowiedzialnej i otwartej infrastruktury danych

Zarządzanie danymi nie jest już kwestią drugorzędną w sztucznej inteligencji – stanowi jej fundament. Jak wykazano w niniejszym rozdziale, sposób, w jaki gromadzimy dane, uzyskujemy do nich dostęp, kontrolujemy je i udostępniamy, określa etyczne i operacyjne granice sztucznej inteligencji.

Od ram prawnych, takich jak RODO i ustawa o sztucznej inteligencji, po powstające modele wspólnego zarządzania – sytuacja szybko się zmienia. Nadal jednak istnieją znaczne luki. Wyzwania związane z tendencyjnością, jakością, dostępem, suwerennością i globalną interoperacyjnością utrzymują się i, jeśli nie zostaną rozwiązane, mogą pogłębić nierówności cyfrowe.

Eksperci są zgodni, że zarządzanie danymi musi zostać zdemokratyzowane. Nie tylko pod względem tego, kto jest w posiadaniu danych, ale także tego, kto kształtuje zasady, kto kontroluje procesy i kto czerpie korzyści z uzyskanych wniosków.

Jak ujął to Marc Buckley: Prawdziwa zrównoważoność oznacza budowanie ekosystemów danych, które uwzględniają wiele głosów – a nie tylko te najpotężniejsze. Tylko dzięki odważnemu, inkluzywnemu i etycznemu zarządzaniu danymi możemy zapewnić, że technologie sztucznej inteligencji wzmacniają społeczeństwo, a nie je dzielą. Ustawa o sztucznej inteligencji stanowi punkt wyjścia – jednak infrastruktura zaufania musi być nieustannie budowana, poddawana weryfikacji i odnawiana.

GŁÓWNE WNIOSKI 

1. Ustawa o sztucznej inteligencji promuje federacyjne ramy zarządzania danymi, ale brakuje jej instytucjonalnej głębi. Chociaż ustawa ta stawia wysokie wymagania dotyczące jakości i sprawiedliwości danych, wiele istotnych decyzji – dotyczących dostępu, zarządzania i odpowiedzialności – odracza na przyszłe mechanizmy lub istniejące ramy, takie jak RODO. Powoduje to powstanie mozaiki, która wymaga konsolidacji instytucjonalnej i dedykowanego nadzoru.
2. Zarządzanie danymi ewoluuje od praw indywidualnych w kierunku etyki zbiorowej. Eksperci opowiadają się za przejściem od modeli ochrony danych skoncentrowanych na własności dostępu do danych i zgodzie w kierunku modeli wspólnego zarządzania, takich jak wspólne zasoby danych, spółdzielnie i fundusze powiernicze danych. Te powstające paradygmaty lepiej nadają się do rozwiązywania problemów asymetrii władzy, wpływu na społeczność oraz sprawiedliwości w dostępie do wysokiej jakości zbiorów danych.
3. Suwerenność, zrównoważony rozwój i inkluzywność muszą się połączyć w ekosystemie regulacyjnym po wejściu w życie RODO. Europejska suwerenność danych jest postrzegana jako reakcja na dominację transnarodowych platform. Istnieje jednak ryzyko, że zostanie ona błędnie zinterpretowana jako protekcjonizm. Przyszłość polega na zrównoważeniu lokalnej kontroli z interoperacyjnością oraz uwzględnieniu wymiaru środowiskowego i społecznego na każdym etapie zarządzania cyklem życia danych.