Nie ma już prywatności?

Prawie jak u Orwella

Chyba każdy z nas zna orwellowskie "1984". Dystopia ta, w niezwykle przenikliwy, sugestywny i ujmujący sposób pokazywała wyobrażenia autora na temat tego jak może wyglądać świat opanowany przez śledzący każdy krok obywatela totalitaryzm. Choć to, z czym mamy do czynienia we współczesnym świecie, odbiega jeszcze dość wyraźnie od mrocznej wizji Orwella, to jednak pewne rzeczy powinny nas zacząć niepokoić.

Przede wszystkim drastycznemu ograniczeniu uległa nasza prywatność. Jesteśmy śledzeni praktycznie 24 godziny na dobę. Przewrotnie - w czasach, kiedy nie obowiązywały żadne regulacje dotyczące ochrony danych osobowych oraz słynne RODO, wszelkie kampanie reklamowe czy akcje społeczne odbywające się z wykorzystaniem powszechnie dostępnych katalogów z danymi teleadresowymi prowadzone były "na ślepo". Bardziej niż na konkretnych nazwiskach i osobach skupiano się na dużych zasięgach i masowości takich przedsięwzięć.

Gdy ktoś się kontaktował z nami w sprawie "oferty", z reguły nic o nas nie wiedział, a dane zdobył na chybił trafił z np. z książki telefonicznej. Nie musieliśmy się zatem zupełnie obawiać o naszą realną prywatność. Pierwsze firmy profesjonalnie gromadzące dane osobowe pojedynczych osób i podmiotów instytucji pojawiły się zdecydowanie później i na początku była to niewielka nisza ograniczona do 1-2 nie związanych z naszym życiem prywatnym branż.

Nie ma już miejsc, gdzie nikt na nas nie patrzy

Dziś świat się diametralnie zmienił. Jesteśmy obserwowani i podsłuchiwani na każdym kroku - zarówno przez wszechobecne systemy publicznego monitoringu, które choć powołane dla zwiększenia ogólnego bezpieczeństwa na ulicach, są dziś w stanie sprawdzić praktycznie każdy nasz ruch, jak i technologie bardziej wyrafinowane, choćby monitoring klientów przy bankomatach, a także wdrażane coraz szybciej - na razie na obiektach sportowych czy granicach państw - systemy rozpoznawania twarzy oparte o zaawansowaną analizę maszynową, a nawet elementy uczenia maszynowego czy algorytmy sztucznej inteligencji.

Systemy takie są w stanie nie tylko nas nagrać, ale i rozpoznać naszą tożsamość. Są już nawet pierwsze komercyjnie dostępne aplikacje (działające na zasadzie chmury, na przykład Amazon Rekognition), które pozwalają na rozpoznawanie twarzy, miejsc oraz przedmiotów ze zdjęć a nawet filmów. Co więcej, są w stanie robić to niejako "hurtowo", czyli na masową skalę, choćby podczas większych imprez plenerowych.

Teraz także nas podsłuchują

Podglądanie to jednak nie wszystko, już dawno przestało ono korporacjom i rządom wystarczać. Teraz jesteśmy także podsłuchiwani. I nie chodzi tylko o wielkie rządowe systemy do "walki z terroryzmem", które pod pretekstem zapewnienia nam bezpieczeństwa przeczesują codziennie setki miliony rozmów telefonicznych, ale nawet nasz sprzęt AGD. Są modele telewizorów wyposażone w systemy rozpoznawania mowy, które cały czas aktywnie nas nasłuchują - niby wyłącznie w oczekiwaniu na komendy głosowe, ale biorąc pod uwagę fakt, że większość sprzętu nowego typu działa w ramach sieci Internet, nikt nie może zagwarantować nam, że efekty tego ciągłego nasłuchu nie są nigdzie dalej przesyłane. Zresztą jeden z wiodących producentów takiego sprzętu sam przyznał, że wykorzystuje te nagrania (czyli przesyła za naszymi plecami) do "poprawiania możliwości rozpoznawania mowy". Cóż to dokładnie oznacza, nie wiadomo.

Głośna swego czasu była sprawa Edwarda Snowdena, Amerykanina, który ujawnił wiele tajnych dokumentów rządu USA. Twierdził on nawet, że iPhone'y mają wbudowany specjalny moduł elektroniczny, który może być w każdej chwili zdalnie aktywowany (np. przez uprawnione do tego rządowe agencje) i użyty do podsłuchiwania użytkownika aparatu.

To, jak podsłuchują nas telefony, to w ogóle zdecydowanie szerszy problem. Wszyscy znamy sceny z filmów, w których popularni politycy czy ludzie biznesu wyjmują karty sim z własnych urządzeń, by zapewnić sobie całkowitą prywatność podczas poufnych rozmów. Jak na "miejską legendę" jest to zjawisko zdecydowanie zbyt często pokazywane. Niedługo zresztą nie da się karty sim wyjąć z telefonu, gdyż koncerny pracują już nad tym, żeby kawałek plastiku zastąpić zastąpić niewymienialnym czipem na płycie głównej telefonu. Pierwsze tego typu rozwiązania wchodzą już na rynek w postaci esim.

Od momentu, gdy rozpowszechnili się asystenci głosowi (Siri, Bixby, Alexa itp.), nasze telefony nie potrzebują już żadnego specjalnego pretekstu by nas nasłuchiwać. W tym momencie robią to dla naszego dobra i wygody, oczekując 24h na dobę na nasze komendy. Niby żadne zarejestrowane dane nie są zbierane, ale czy ktokolwiek może nam to zagwarantować?

Śledzenie nas wchodzi na nowe, niewyobrażalne dotychczas pola. Jako, że firmy gromadzą terabajty danych na temat setek milionów osób, konieczne stało się stworzenie mechanizmów, które pozwolą oczyścić informacje pożądane od zbędnych, a masową inwigilację uczynić jeszcze bardziej skuteczną i wręcz przerażającą.

Algorytmy w służbie wiedzy

Kilka lat temu głośna była sprawa programu Cambridge Analityca, czyli stworzonego przez doświadczonych psychologów i programistów algorytmu wykorzystywanego przez kilka globalnych koncernów do analizy zachowań klientów w serwisach społecznościowych, a także przez polityków w ich kampaniach politycznych. Było to w zasadzie oprogramowanie, algorytm, który zbierał i analizował informacje o użytkownikach - głównie Facebooka (np. sprawdzając co lajkują, w jakich godzinach są aktywni, co piszą, jakie tematy ich interesują) i wyciągał na tej podstawie wnioski. Efekty tej analizy okazały się bardzo przydatne dla tych, którzy zakupili cały system, miały też zostać zresztą później wykorzystane w kilku głośnych kampaniach politycznych. Teraz jeszcze istotniejszą rolę w tego typu projektach mogą pełnić rozwijane intensywnie algorytmy sztucznej inteligencji, które mają znacznie szersze możliwości. 

Jednak tego typu algorytmy to zdecydowanie tylko "przedsmak" możliwości podobnego oprogramowania analizującego. Na podstawie tego, co piszemy w sieci jest ono w stanie powiedzieć o nas dosłownie wszystko. Od poglądów po styl życia, określą, jak wyglądają nasze relacje z rodziną, poziom dochodów a nawet orientacja seksualna. Twórca Cambridge Analityca miał nawet mówić na jednym ze spotkań, że przeanalizowanie 250 lajków na Facebooku pozwoli systemowi zdobyć większą wiedzę o danej osobie, niż ma chociażby jego współmałżonek...

A co by było gdyby...

Agencje i podmioty zajmujące się podsłuchiwaniem i podglądaniem nas nie ograniczają się zresztą wyłącznie do biernego nasłuchu i patrzenia. Są na świecie miejsca, gdzie tego typu projekty przechodzą w fazę "inwazyjną". Np. policja w amerykańskiej Kalifornii korzysta z oprogramowania nazwanego - nomen omen - Palantir, które nie tylko monitoruje, ale wręcz typuje osoby, które zdaniem systemu mogą popełnić przestępstwo w przyszłości! Kto zna książki Tolkiena, wie że Palantir był bardzo niebezpiecznym, magicznym narzędziem obserwacyjnym, którego główną wadą było to, że "podglądający" – jako, że działało to w obie strony - mógł się stać łatwą ofiarą podglądanego.

W przypadku systemu, z którego korzysta policja w Los Angeles, istnieje duże ryzyko, że system po prostu nie będzie działać dobrze i jako potencjalne zagrożenie wytypuje osoby zupełnie uczciwe, tylko dlatego, że przypadkiem znalazły się na miejscu analizowanego przez ten system zdarzenia.

Tego typu "cudowne" rozwiązania nie są zresztą żadną nowością, o czym ich twórcy przepojeni własnym geniuszem być może nie pamiętają. Choćby funkcjonujący w XIX wieku "katalog zboczeń" z którego korzystała brytyjska policja. Ówcześni uczeni wierzyli, że są w stanie jedynie z kilku charakterystycznych cech wyglądu twarzy człowieka odczytać jego różnorakie skłonności, w tym te przestępcze. Postanowiono nawet zorganizować serię pokazowych zatrzymań prewencyjnych. Jak łatwo się domyślić, sprawa nie zakończyła się sukcesem.

Chiny, czyli kontrola umysłów

Swoistym poligonem doświadczalnym w zakresie inwigilacji ludności pozostają obecnie Chiny. O ile większość z "testowanych" tam rozwiązań nie dotarła jeszcze do Europy i z pewnością budziłaby tu zastrzeżenia natury moralno-etycznej, to bez wątpienia pokazuje to kierunek, w jakim zamierzać będzie świat w następnych pokoleniach.

Na przykład w jednej z chińskich szkół wprowadzono pilotażowy program "podglądający" emocje i stan psychiczny uczniów w czasie lekcji. Specjalny skaner w równych odstępach czasu monitoruje klasę, a na terminal nauczyciela spływają informacje o tym, czy uczniowie uważają i są skupieni, czy też ktoś przypadkiem nie podsypia. Z jednej strony wydaje się to praktyczną pomocą w prowadzeniu lekcji, z drugiej odziera to dzieci nawet z ich prywatnych odczuć czy emocji. Zadaniem systemu jest - przynajmniej w teorii - usprawnienie systemu edukacji i większa dyscyplina, ale moim zdaniem jest to przerażająca kontrola umysłów, zmuszanie do ukrywania prawdziwego stanu emocjonalnego nawet u małych dzieci. Wszyscy mają być pilni i gotowi do odpowiedzi, nie ma miejsca na okazanie chwili słabości.

Monitoring mózgu

Jeszcze dalej poszła jedna z fabryk sprzętu telekomunikacyjnego w Hangzhou, gdzie pracownicy muszą nosić specjalne czepki monitorujące aktywność ich mózgów. Jak informowała tamtejsza prasa, ukryte w specjalnych czapkach oraz kaskach czujniki wysyłają dane do komputerów, które za pomocą sztucznej inteligencji wykrywają zmiany emocjonalne, takie jak depresja, niepokój czy gniew. Dzięki odczytom z czujników menedżerowie są rzekomo w stanie lepiej dopasować aktywność pracowników do ich stanu i dzięki temu zwiększyć wydajność pracy.

Rząd Chin utrzymuje, że szersze zastosowanie tej technologii pozwoli w przyszłości zminimalizować ryzyko wypadków komunikacyjnych (podobne rozwiązanie funkcjonuje już na kilku trasach tamtejszej superszybkiej kolei), czy wszelkich błędów podczas wykonywania odpowiedzialnej i wymagającej skupienia pracy. W tym momencie system działa tak, że pracownicy, u których wykryje się niedyspozycję, zdenerwowanie lub niepokój, są proszeni o zrobienie sobie dnia wolnego lub przesuwani w danym dniu do innych, mniej wymagających zajęć.

Swoją drogą warto przy okazji wspomnieć, że w Europie podobne systemy kontroli pracy, choćby maszynistów na kolei, zapewniające większe bezpieczeństwo, funkcjonują od lat i nie wymagają kontroli myśli (na przykład system hamowania prewencyjnego w polskich pociągach, polegający na tym, że maszynista musi co pewien, krótki czas nacisnąć specjalny przycisk w lokomotywie, dzięki któremu system wie, że jest on przytomny i czuwa; jeśli tego nie zrobi - gdyż na przykład zasłabnie - pociąg się sam zatrzyma).

"System zaufania społecznego"

Kontrola umysłów - choć brzmi to naprawdę przerażająco - nie jest najdalej idącym pomysłem rodem z Państwa Środka, który kiedyś może znaleźć amatorów w naszej części świata. Dziś czymś z punktu widzenia Europejczyka jeszcze bardziej niewyobrażalnym, pojawiającym się dotychczas jedynie w fantastyce naukowej (i to raczej w jej odmianie pełnej grozy) jest wdrażany tam (na razie lokalnie, od 2020 w całym kraju) System Zaufania Społecznego.

W ramach tego zakrojonego na ogólnonarodową skalę przedsięwzięcia powstanie rozbudowany mechanizm, którego zadaniem będzie podglądanie obywateli Chin poprzez specjalny system monitoringu składający się z 400 mln kamer, oraz zaawansowanych systemów informatycznych służących do ich identyfikacji. Głównym zadaniem systemu będzie sprawdzanie, chociażby pod kątem codziennych czynności, nawyków, wywiązywania się ze zobowiązań, a nawet posiadanych znajomych, jak obywatele radzą sobie z wypełnianiem obowiązków wobec państwa, sąsiadów i rodziny.

W kolejnym kroku to, co zarejestrują kamery, będzie oceniane pod kątem przydatności dla społeczeństwa. Na samej analizie faktów się tu jednak nie kończy: każdy mieszkaniec kraju za to, co co robi w przestrzeni publicznej, będzie oceniany. Za działania prospołeczne - np. aktywne uczestniczenie w inicjatywach, które władze państwa uznają za potrzebne, otrzyma specjalne punkty.

Ci, którzy zdobędą dużo punktów, otrzymają specjalne, bardzo konkretne przywileje - tańszą energię elektryczną, szybszy internet, bilety komunikacji zbiorowej w niższych cenach, a nawet pierwszeństwo w przyjęciu do szpitala. Osoby, które nie będą się wywiązywały z obowiązków "publicznych" będą miały odejmowane punkty. Jeśli ich pułap spadnie poniżej pewnego poziomu (jest 5 "kategorii" obywateli), nie będą one w ogóle mogły korzystać z samolotów, transportu publicznego, zostaną pozbawione możliwości zakupu niektórych produktów, nie będą też mogły wchodzić do określonych miejsc (lepsze restauracje, kina, teatry).

Choć w tym momencie system funkcjonuje jeszcze w fazie testowej (jedynie w kilku regionach kraju), szacuje się, że tylko w 2017, aż 5 milionów Chińczyków, którzy zgromadzili zbyt mało punktów, nie mogło latać samolotami, a ponad milion miało ich tak mało, że nie mogło nawet wsiadać do pociągów.

Oczywiście oficjalny przekaz wyklucza nazywanie nowego systemu inwigilacyjnym, niedopuszczalne jest też nazywanie go inżynierią społeczną, którą w oczywisty sposób jest. Nie zmienia to jednak faktu, że wbrew eufemistycznej nazwie jest to pierwszy na świecie system pełnej kontroli obywateli z wykorzystaniem najnowszej technologii. Podsłuchiwanie rozmów przez automatyczne systemy monitorujące, czy nawet demonizowana ACTA2 wyglądają przy tym, co realizują Chiny, na zupełnie niewinną i drobną igraszkę.

Nie ma innej drogi?

Tymczasem rezygnacja z coraz to nowych obszarów prywatności tak naprawdę nie budzi zbyt wielkiego oporu społeczeństwa. Albo w ogóle nic na ten temat nie wiemy (zwłaszcza że przodujące media właściwie niezbyt chętnie o tym informują, a jeśli już to bardziej na zasadzie sensacji niż wnikliwej analizy), albo wiemy zdecydowanie za mało. Wiele przypadków ingerencji w naszą prywatność władza i korporacje tłumaczą potrzebą zapewnienia nam jeszcze większego bezpieczeństwa, zwłaszcza w sferze publicznej. To jest też zresztą często powód naszej bierności. Któż bowiem nie chciałby żyć w bezpiecznym, spokojnym świecie.

Nikt oczywiście nie mówi wprost o drugiej stronie medalu, jaką jest odarcie nas z naszej swobody, możliwości dokonywania realnych wyborów, podejmowania samodzielnych decyzji. Sytuacja w Europie oczywiście nie jest jeszcze tak ekstremalna jak w Chinach, nikt na razie nie przyznaje nam punktów za to, jak się zachowujemy w miejscach publicznych.

Ostatnio organy UE przyjęły nawet regulacje (prawdopodobnie wejdą w życie w 2025), które wręcz zakazują wykorzystywania sztucznej inteligencji do tworzenia mechanizmów social scoringu, czyli oceny ludzi na podstawie ich aktywności w sieci i cech osobistych. Europa jest tu jednak chlubnym wyjątkiem, nigdzie indziej nie jest to regulowane, a firmy i rządy chcą wiedzieć maksymalnie dużo o swoich klientach i obywatelach. Z drugiej strony w tej samej Unii nowe regulacje dopuszczają np. użycie sztucznej inteligencji w celu wyszukiwania przestępców w ramach systemów publicznego monitoringu. Budziło to zresztą spore kontrowersje (gdyż system ten łatwo będzie wykorzystać mniej chwalebnie), a regulacje w tej dziedzinie przyjęto w ostatniej chwili, co pokazuje, że konsultacje trwały tu do samego końca. 

To wszystko pokazuje, że sytuacja jest płynna - z jednej strony pojawiają się próby ograniczenia wszechpotęgi korporacji, mających ogromne możliwości "śledzenia" nas niemal 24h na dobę, z drugiej regulacje te są na tyle skomplikowane - np. nowe przepisy UE dotyczące SI, które są tak złożone, że nawet prawnicy potrzebują kilku miesięcy, by je zrozumieć, a co dopiero wdrożyć, że trudno oczekiwać, iż "jednostka" będzie miała poczucie kontroli sytuacji. Pozostaje mieć nadzieję, że przyszłość rysuje się jednak w bardziej optymistycznych barwach. 

Tomasz Sławiński