Technika w służbie inwigilacji

"System zaufania społecznego"

Początek nowej dekady to czas, w którym po kilku latach ograniczonych eksperymentów na dobre zacznie działać chiński, w pełni już sprawny "system zaufania społecznego". Pod dobrotliwą nazwą kryje się jednak nie ochrona, a mająca działać na globalną skalę totalna technologiczna inwigilacja blisko 1,4 mld mieszkańców Państwa Środka. Z użyciem najnowszych zdobyczy techniki, sztucznej inteligencji oraz szybkiej sieci internetowej państwo będzie mogło gromadzić i analizować dane dotyczące milionów mieszkańców, z czasem pozna wszystkie ich sekrety, przyzwyczajenia i upodobania, a jakby tego było mało, na koniec podda to ocenie i przydzieli lub odbierze specjalne punkty oceniające ich społeczną postawę.

Pomysł na podobny system pojawił się w Chinach kilka lat temu, a pierwsze próby jego działania przeprowadzono w 2014 roku. Wówczas był czymś w rodzaju ciekawostki, demonstracji możliwości w kilku ograniczonych terytorialnie obszarach. Dziś, po kilku latach wszystko się zmieniło, tak jak i zmieniły się same Chiny, które dokonały gigantycznego skoku w dziedzinie nowych technologii. Przestały je tylko kopiować i produkować, a zaczęły na masową skalę konsumować.

Pierwszy z brzegu przykład: szkoła. W Polsce nauczyciele nadal sprawdzają listę obecności uczniów i notują ją w dzienniku. W Chinach w klasach zainstalowane są zaawansowane i połączone z państwową bazą danych skanery twarzy, które same sprawdzają, kto jest, a kogo nie ma na zajęciach i w razie potrzeby informują o tym nauczycieli, rodziców i oczywiście państwo.

Władza wie wszystko

Po sukcesie skanerów szkolnych władze w Pekinie postanowiły zamontować podobne urządzenia wszędzie – na ulicach, placach, w parkach, na ścieżkach rowerowych, w środkach komunikacji publicznej. Mają na bieżąco sprawdzać, co kto robi i jak się zachowuje. Pod koniec roku ma być już ponad 620 milionów takich kamer (a do tego dochodzą systemy przemysłowe, w ramach których może funkcjonować już nawet 2 mld urządzeń rejestrujących). Dziś w Chicago na 1000 mieszkańców przypada 13 ulicznych kamer (zarówno tych publicznych jak i prywatnych), a w Szanghaju 113, przy czym są plany, by tę liczbę docelowo jeszcze kilkakrotnie zwiększyć.

Podglądanie tego, co fizycznie w danej chwili robi obywatel, gdzie się porusza i przemieszcza, to nie jedyne zadanie systemu "zaufania". Analizowane są też wydatki za pomocą aplikacji zakupowych, a nawet płatności w zwykłych sklepach. Wszystko, co dzieje się z wykorzystaniem sieci, podlega szczegółowej i drobiazgowej kontroli. Nad całością nadzór sprawuje sieć algorytmów, która wylicza na przykład, na co i kiedy obywatel najczęściej wydaje swoje pieniądze, tworząc bardzo szczegółowy portret zachowań każdego człowieka.

Skąd władze mają dostęp do danych potrzebnych do identyfikacji?

Z wielu miejsc, chociażby ze wspomnianej wcześniej szkoły, gdzie do skanów twarzy uczniów dopasowuje się ich imiona i nazwiska. Od 2019 każdy zakup smartfona wymaga w Państwie Środka skanowania twarzy więc także i tak zbiera się informacje na temat obywateli, łącząc ich wizerunki z danymi osobowymi. Docelowe plany władz są takie, żeby w ciągu maksymalnie kilkudziesięciu sekund system mógł wyłowić z bazy danych każdego zeskanowanego obywatela tego państwa. Także i prywatny biznes bierze w tym udział – swoje systemy skanowania ma większość dużych sklepów internetowych. Robi tak na przykład Alibaba Group, która, jak to w Chinach bywa, pod bardzo kwiecistą nazwą "Smile-to-pay" stworzyła system do płatności za pomocą skanowania twarzy.

Nowoczesnych zastosowań kamer skanujących jest zresztą znacznie więcej i są one tam mocno rozpowszechnione. Na przykład w postaci skanerów otwierających drzwi na nowych osiedlach mieszkaniowych. Skanery twarzy instaluje się także w restauracjach czy centrach rozrywki. Sztuczna inteligencja jest w stanie rozpoznać nawet nastrój obserwowanej osoby i w efekcie przewidzieć możliwe kierunki jej zachowań.

Co to oznacza dla obywateli?

Formalnie cały program "zaufania społecznego" ma poprawić jakość życia w Chinach. Na jego skuteczność składa się nie tylko stały dozór za pomocą kamer w niemal wszystkich miejscach publicznych, ale przede wszystkim państwowy system oceniania obywateli i przydzielania im punktów za "dobre" zachowanie. Widać tu ogromne podobieństwo do systemu oceny zdolności kredytowej w bankach, przy czym akurat w przypadku Chin państwo ma nieporównanie szerszy dostęp do wiedzy o własnych obywatelach.

Punkty przyznawane są za wszystko. Czy prowadząc auto przestrzega się ruchu drogowego, jak zachowujemy się w miejscach publicznych, czy zdrowo się odżywiamy, czy śmiecimy, czy równo chodzimy po chodniku, czy aby nie za dużo czasu spędzamy grając w gry komputerowe czy uprawiając hazard, czy jeżdżąc rowerem nie wyjeżdżamy poza specjalne pasy, czy nie wypisujemy kontrowersyjnych rzeczy na portalach społecznościowych (które w Chinach poddane są całkowitej kontroli władz i po prostu cenzurowane) a nawet czy regularnie odwiedzamy naszych starszych rodziców.

Znaczenie ma też oczywiście, czy angażujemy się w inicjatywy odgórnie propagowane przez władze, czy jesteśmy obywatelami aktywnie wyrażającymi poparcie dla panującego systemu, czy tylko chowamy się w czterech ścianach. Znaczenie ma też, z kim się zadajemy – jeśli nasi znajomi będą mieć za mało punktów, to w ostatecznej kalkulacji zaszkodzi to także i nam...

Złe zachowanie szkodzi

Jeśli obywatel popełnia dużo błędów, nie stosuje się do wytycznych rządu, popełnia liczne wykroczenia drogowe, zostaje ukarany, ale nie więzieniem, jak to sobie możemy tu w Europie wyobrażać, a na przykład niemożnością lotu samolotem czy jazdy pociągiem (by móc korzystać z transportu lotniczego, a także szybkich kolei, konieczne jest osiągnięcie określonego pułapu punktowego), a nawet zmniejszeniem szybkości transferu domowego internetu. Z kolei obywatele, którzy zgromadzili dużo punktów, będą nagradzani – od prostych przywilejów typu niższe opłaty za bilety komunikacji miejskiej, po zdecydowanie bardziej poważne – przede wszystkim lepsze, preferencyjne warunki kredytowe w bankach, a nawet pierwszeństwo w kolejkach po zabiegi medyczne i usługi publiczne.

System, który wystawia punkty, teoretycznie ma oceniać, jak dana jednostka funkcjonuje pod kątem współpracy z lokalną społecznością. Formalną ideą leżącą u podstaw projektu nie było karanie, ale nagradzanie tych, którzy wybijają się ponad przeciętność, są liderami swoich środowisk. W rzeczywistości system jest w stanie odkrywać podejrzane dla władzy powiązania między ludźmi i wyłapywać jednostki krnąbrne lub takie, które nie podporządkowują się w całości zaleceniom komunistycznych władz.

Nie tylko ludzie

Choć cały ten system kontroli i oceny obywateli powstał przy wsparciu i udziale prywatnych firm (jest to zresztą bardzo intratny biznes, bowiem w jego skład wchodzą olbrzymie centra analizy i magazynowania danych, sztucznej inteligencji, ale też i masa drogiego sprzętu elektronicznego), to firmy te docelowo też staną się obiektem kontroli i analizy. By otrzymywać rządowe kontrakty i w ogóle być dopuszczanymi do obrotu publicznego, będą musiały one w znacznie większym niż dziś stopniu dopasować się do wymogów władz lokalnych lub centralnych. Nie będą obserwowane za pomocą kamer, ale ich księgowość czy skargi klientów prześledzą odpowiednie programy komputerowe i wyciągną z tego wnioski.

Technologia w służbie inwigilacji

Chiński przykład pokazuje, jak nowoczesna technologia wykorzystana instrumentalnie może zniewalać jednostki. Tam w imię porządku i ładu społecznego, u nas – choć nie na taką skalę – w imię komercji. Cały system jest skonstruowany tak, by jego poszczególne elementy nie budziły kontrowersji. Któż bowiem nie chce eliminacji piractwa drogowego czy burd na ulicach? Problem jednak polega na tym, że korzyści jest zdecydowanie mniej niż negatywów, do których zaliczyć należy totalną inwigilację połączoną z zaprzęgnięciem do pracy sztucznej inteligencji, która potrafi nie tylko badać, co robimy "tu i teraz", ale nawet przewidzieć, co zrobimy w przyszłości.

Z jednej strony działa to w błahych przypadkach, np. jedna z sieci chińskich fast foodów ze skanu twarzy rozpoznaje nastrój i na tej podstawie dobiera najodpowiedniejsze menu, z drugiej – przesadnie ciekawska władza jest w stanie wyłapywać jednostki najbardziej opierające się odgórnym przykazom i regulacjom na przykład w postaci nazbyt swobodnej ekspresji własnych przekonań i myśli.

Technologia to wielka szansa na rozwój i wsparcie dla wygodnego życia, ale też potężne narzędzie, w złych rękach stanowiące zagrożenie dla naszej prywatności. Ja bym jednak nie chciał, abyśmy w Europie podążali drogą Chin.

Tomasz Sławiński