W 2021 roku Europejski Trybunał Praw Człowieka wydał wyrok, który przeszedłby niezauważony, gdyby nie jeden szczegół. Sprawa dotyczyła masowej inwigilacji organizacji obywatelskich przez służby wywiadowcze Wielkiej Brytanii i Stanów Zjednoczonych. Trybunał stwierdził, że sama obserwacja nie naruszała praw człowieka. Naruszały je technologie, za pomocą których była prowadzona. To subtelne rozróżnienie stało się punktem wyjścia dla referatu Aleksandry Sztymy z VII edycji Our Future Forum, który zadaje jedno z najważniejszych pytań naszych czasów: czy prawo do prywatności, jakie znamy, ma jeszcze rację bytu w świecie sztucznej inteligencji?

Technologia zawsze kształtowała prywatność

Sztyma zaczyna od obserwacji, która wydaje się prosta, ale ma dalekosiężne konsekwencje: prawo do prywatności nigdy nie istniało w próżni. Jedno z jego najbardziej wpływowych sformułowań, „prawo do bycia pozostawionym w spokoju”, powstało w XIX wieku jako odpowiedź na rozwój gazet i fotografii. Kiedy technologia zmieniała to, co można zobaczyć, usłyszeć i zarejestrować, prawo musiało odpowiedzieć na nowo pytaniem: gdzie kończy się sfera publiczna, a zaczyna prywatna?

Dziś to pytanie wraca z nową siłą. I z nowym przeciwnikiem.

Problem, którego RODO nie rozwiązuje

Przez ostatnie dekady główną odpowiedzią prawa na cyfrowe zagrożenia prywatności było RODO. Jego logika jest pozornie prosta: użytkownik musi wiedzieć, jakie dane są zbierane, w jakim celu i przez kogo. Musi wyrazić świadomą zgodę. Może zażądać usunięcia danych. Kluczem jest tu słowo „świadomy” — całe prawo do ochrony danych osobowych opiera się na założeniu, że człowiek jest w stanie zrozumieć swoją sytuację.

Sztyma pokazuje, że właśnie to założenie przestaje działać w kontakcie z systemami opartymi na sztucznej inteligencji. I nie dlatego, że firmy technologiczne ukrywają informacje. Dlatego że same nie są w stanie ich ujawnić.

Czarna skrzynka i nierówność poznawcza

W odróżnieniu od klasycznego oprogramowania, gdzie na komendę X program reaguje w przewidywalny sposób Y, systemy oparte na deep learningu uczą się autonomicznie. Przetwarzają ogromne ilości danych, wychwytują wzorce, modyfikują własne działanie, i robią to w sposób, którego nawet ich twórcy nie potrafią w pełni prześledzić. Decyzja algorytmu jest efektem milionów mikrooperacji, których nie da się rozłożyć na czynniki pierwsze.

To właśnie Sztyma nazywa paradoksem czarnej skrzynki. Użytkownik może formalnie zgodzić się na przetwarzanie swoich danych, ale nie jest w stanie przewidzieć, co system z nich wyciągnie. Algorytm może wywnioskować preferencje polityczne, stan zdrowia czy orientację konsumencką z danych, które pozornie nic takiego nie sugerują. Autorka nazywa to dysproporcją poznawczą: strukturalną nierównością między tym, co rozumie człowiek, a tym, co przetwarza maszyna.

W świecie klasycznych technologii użytkownik przynajmniej wie, czego nie wie. W świecie AI często nie wie nawet tego.

Co mówi prawo i gdzie się zatrzymuje

Sztyma szczegółowo analizuje AI Act, pierwsze kompleksowe rozporządzenie Unii Europejskiej regulujące sztuczną inteligencję, które weszło w życie w 2024 roku. Rozporządzenie dzieli systemy AI według poziomu ryzyka i nakłada na te wysokiego ryzyka surowe wymogi: dokumentowanie działania, nadzór człowieka, ocena skutków dla praw podstawowych.

Problem w tym, że większość systemów AI, z którymi użytkownicy stykają się na co dzień, nie należy do kategorii wysokiego ryzyka. Wobec nich prawo ogranicza się głównie do zasady przejrzystości: użytkownik powinien wiedzieć, że rozmawia z algorytmem. Ale czy to wystarczy? Informacja o tym, że coś jest systemem AI, nie mówi nic o tym, jak ten system przetwarza dane i jakie wnioski z nich wyciąga.

Ochrona jednostki czy ochrona systemu?

Konsekwencje tej luki są poważniejsze, niż mogłoby się wydawać. Sztyma, powołując się na badaczkę Sue Anne Teo, wskazuje, że naruszenia prawa do prywatności w kontekście AI są praktycznie niewidoczne dla pojedynczego człowieka. Stają się dostrzegalne dopiero w dużych zbiorach danych, badanych przez organizacje pozarządowe lub naukowców. Jednostka zazwyczaj nie jest w stanie sama stwierdzić, że doszło do naruszenia jej praw.

To fundamentalna zmiana. W przypadku innych naruszeń praw człowieka, nawet gdy jednostka jest w słabszej pozycji, zwykle wie, że coś się dzieje. W przypadku AI może nie wiedzieć nigdy.

Co dalej?

Sztyma nie kończy na diagnozie. Wskazuje na dwa możliwe kierunki wyjścia z tego impasu. Pierwszy to rozwój tzw. explainable AI, czyli projektowanie systemów w taki sposób, żeby ich decyzje były przynajmniej częściowo zrozumiałe dla człowieka. Drugi to odejście od modelu opartego wyłącznie na indywidualnej zgodzie użytkownika na rzecz systemowych mechanizmów nadzoru instytucjonalnego.

Oba kierunki łączy jedno przekonanie: w erze AI prywatności nie ochroni sama świadoma zgoda. Potrzebne są nowe narzędzia, bo stare były projektowane dla innego świata.

Powołując się na Thomasa Kuhna, autorka opisuje obecny moment jako zmianę paradygmatu: czas, w którym kształtują się reguły, które będą obowiązywać przez dekady. I właśnie dlatego, konkluduje Sztyma, to, co zdecydujemy teraz, ma znaczenie, którego nie wolno bagatelizować.

Opracowano na podstawie referatu, pn. „AI i sytuacja poznawcza jednostki a prawo do prywatności” wygłoszonego przez Aleksandrę Sztymę podczas VII edycji konferencji Our Future Forum w ramach konkursu na najlepszy referat. Zapraszamy do wysłuchania całego wystąpienia na naszym kanale na YouTube.