Rozmowy

Cyfrowa inwigilacja jest wszędzie tam, gdzie internet

Sama idea scoringu kredytowego czy obywatelskiego nie jest zagrożeniem. Niebezpieczeństwo powoduje raczej charakter ustroju politycznego, w którym takie systemy są rozwijane – mówi Alicja Bachulska, ekspert ds. polityki chińskiej.

TYGODNIK.TVP.PL: Jakiś czas temu prasę obiegły informacje o wprowadzeniu w Chinach tzw. Social Credit System, czyli elektronicznego programu oceny obywateli odzwierciedlającego ich status społeczny i finansowy. Do tej pory takie rozwiązania wydawały się pomysłem rodem z mrocznego science-fiction. Na ile jest on realny?

ALICJA BACHULSKA:
Ten pomysł jest realny i realizowany, ale trochę w inny sposób niż to wynika z narracji większości zachodnich mediów. Brak zrozumienia tego programu wpływa na rozprzestrzenianie się nieprawdziwych informacji na temat chińskiego systemu oceny obywateli. Chodzi o kontekst finansowy, czyli kwestię tego, że obecnie system ten – będący w początkowej fazie rozwoju – opiera się głównie na idei tzw. scoringu kredytowego.
W Szanghaju istnieje aplikacja stworzona przez władze lokalne, którą użytkownicy mogą dobrowolnie ściągnąć na swoje urządzenia, aby uzyskać ocenę swoich zachowań. Czy, jeśli ocena będzie za niska, użytkownik aplikacji nie zostanie wpuszczony na pokład samolotu? Na zdjęciu lotnisko Pudong w Szanghaju. Fot. REUTERS/Nir Elias
Warto doprecyzować, że w Chinach scoring kredytowy to nie to samo co scoring obywatelski. Zachodnie media często używają tych dwóch terminów naprzemiennie, kiedy w rzeczywistości powinno mówić się o dwóch różnych systemach, które w przyszłości być może zostaną zintegrowane.

Zacznijmy od scoringu obywatelskiego. Co to takiego?

Kiedy zachodnie media piszą o „orwellowskiej rzeczywistości” w Chinach, w większości przypadków odnoszą się tak naprawdę do próby budowy systemu oceny obywateli. Jeśli scoring kredytowy odnosi się w głównej mierze do indywidualnej aktywności finansowej i zachowań konsumenckich, to scoring obywatelski ma być narzędziem administracji publicznej pomagającym w ocenie zachowania jednostek w przestrzeni publicznej. Teoretycznie ma on za zadanie nagradzać zachowania pożądane i karać nieodpowiednie.

Media wiele piszą o tzw. czarnych listach dla osób, które nie mogą m.in. kupić biletów na szybką kolej czy wsiąść na pokład samolotu. W doniesieniach tych zwykle pojawia się obraz wielkiego skoordynowanego systemu, któremu podlega każdy obywatel Chin i który w całościowy sposób oraz przy użyciu jednakowych kryteriów ocenia absolutnie każdego. Rzeczywistość jest jednak trochę bardziej skomplikowana – owszem, „czarne listy” istnieją, ale są one ustalanie w różny sposób w poszczególnych regionach czy miastach.

Ustalane przez władze?

W Chinach pod rządami Komunistycznej Partii Chin (KPCh) tergo rodzaju „czarne listy” istniały od dawna, a teraz po prostu ulegają cyfryzacji. Istnieją również pozytywne „czerwone listy” modelowych obywateli, ale bycie na nich nie wiąże się raczej ze znacznymi nagrodami czy ulgami, jest to bardziej honorowy tytuł zakorzeniony w tradycji „przodowników pracy” i „modelowych towarzyszy” z czasów maoizmu.

Chociaż rząd w Pekinie rzeczywiście zakłada stworzenie skoordynowanego systemu oceny obywateli, który teoretycznie obejmie cały kraj do 2020 roku, obecnie można mówić jedynie o wielu lokalnych próbach wprowadzania tych odgórnych dyrektyw. Na przykład w Szanghaju istnieje aplikacja stworzona przez władze lokalne, którą użytkownicy mogą dobrowolnie ściągnąć na swoje urządzenia, aby uzyskać ocenę swoich jednostkowych zachowań. Przypomina ona raczej narzędzie promujące „moralne” zachowania w przestrzeni publicznej, niż urządzenie do przymusowej kontroli obywatela.

Do czego służą te „czarne listy”?

„Czarne listy” są publikowane w internecie. Rzeczywiście uniemożliwiają one niektórym ludziom podejmowania pewnych czynności (np. kupna biletu na szybką kolej), jeśli wcześniej wielokrotnie dopuścili się oni pewnych przewinień (np. bójki w środkach lokomocji) i mimo ostrzeżeń nie zmienili swojego zachowania. Z takiej „czarnej listy” po pewnym czasie można być usuniętym.

Facebook: moloch manipulacji

Urodzony i wykształcony w Polsce informatyk i psycholog Michał Kosiński, obecnie w Stanford University, opowiedział Rosjanom, jak wykorzystać informacje z Facebooka. Na wykład pod Moskwą przybył premier Dmitrij Miedwiediew, szef MSZ Siergiej Ławrow oraz zapewne funkcjonariusze rosyjskich służb.

zobacz więcej
Należy tutaj jednak po raz kolejny podkreślić, że obecnie działające systemy scoringu obywatelskiego to zdecentralizowane inicjatywy lokalne, które metodą prób i błędów starają się wdrożyć odgórne pomysły rządu w Pekinie. Dziś ciężko jest oceniać ich skuteczność.

A scoring kredytowy?

W dobie szybko rozwijającej się bankowości internetowej w Chinach bank centralny zezwolił w 2015 roku na rozwijanie systemów scoringowych przez prywatne podmioty. Dotychczas osiem podmiotów uzyskało pozwolenie na prace nad takimi pilotażowymi systemami. Do największych z nich należy tzw. Sesame Credit, czyli system scoringu kredytowego opracowywany przez Ant Financial, podmiot powiązany z gigantem e-commerce – grupą Alibaba.

Chińskie społeczeństwo historycznie było nakierowane na oszczędzanie. Obecnie, wraz ze wzrostem gospodarczym kraju i zmianą modelu rozwojowego, sytuacja ta ulega drastycznym zmianom. Rosnąca konsumpcja wewnętrzna zaczyna być coraz częściej napędzana pożyczkami. Warto zauważyć, że w 2014 roku zaledwie 350 mln Chińczyków posiadało własny scoring kredytowy. Dla porównania, w Stanach Zjednoczonych około 89% dorosłych obywateli ma udokumentowaną wiarygodność kredytową.

Co liczy się przy opracowywaniu tego kryterium?

W dużej mierze jest on wzorowany na amerykańskim systemie FICO (Fair Isaac Company), a jego składowe opierają się na ocenie m.in. indywidualnej historii kredytowej, zachowań w mediach społecznościowych i nawyków konsumenckich. Sam wynik oceny wiarygodności kredytowej ma postać numeryczną między 350 a 950 punktów – im wyższy, tym lepszy.

Co ważne, dane na temat składowych są zbierane głównie na podstawie transakcji dokonywanych przez aplikację Zhifubao (Alipay), czyli jednego z najpopularniejszych elektronicznych portfeli na chińskim rynku, również należącego do grupy Alibaba.

Do ustalania scoringu brane są również pod uwagę zachowania i transakcje dokonane przy użyciu aplikacji czy portali współpracujących czy będących w posiadaniu grupy Alibaba, jak np. podczas zakupów w największym na świecie sklepie internetowym Taobao.

Scoring ustalony w ramach Sesame Credit jest upubliczniony, a zarejestrowani użytkownicy mogą sprawdzić zarówno swoje punkty, jak i scoring swoich znajomych. Dokładne algorytmy ustalające indywidualny wynik nie zostały jednak ujawnione.

W jaki sposób scoring może zmienić społeczeństwo chińskie, a z biegiem czasu może i społeczeństwa Zachodu?

Centralizacja i cyfryzacja danych na wielką skalę na pewno wpłyną na kształt i funkcjonowanie chińskiego społeczeństwa. Chociaż na razie daleko jest do stworzenia jednego zintegrowanego systemu oceny obywateli, KPCh jest zdeterminowana zarówno politycznie, jak i gospodarczo, aby idee te wprowadzić w życie.
Chiński bank centralny zezwolił w 2015 roku na rozwijanie systemów scoringowych przez prywatne podmioty. Do największych z nich należy tzw. Sesame Credit, czyli system scoringu kredytowego opracowywany przez Ant Financial, podmiot powiązany z gigantem e-commerce – grupą Alibaba. Fot. REUTERS/Shu Zhang
Nie będzie to jednak proste. Dziś żadna z ośmiu firm, które uzyskały pozwolenie od chińskiego banku centralnego na prace nad systemami scoringu kredytowego, nie dostała licencji na stworzenie „oficjalnego” systemu indywidualnej zdolności kredytowej jednostek. Koordynacja prac i lokalnych prób stworzenia systemu scoringu obywatelskiego wydaje się jeszcze trudniejsza.

Z jednej strony korzystanie z internetu, zakupów online czy rozrywki w sieci jest czymś całkowicie naturalnym dla bardzo wielu Chińczyków, co znacząco ułatwia rządowi w Pekinie zdobywanie informacji o indywidualnych zachowaniach i stylu życia obywateli. W porównaniu z wieloma państwami Zachodu, w tym z Polską, branża e-commerce w Chinach jest zdecydowanie lepiej rozwinięta i innowacyjna. Z drugiej strony wielu Chińczyków jest jednak w dalszym ciągu wykluczonych z życia w sieci.

Wszystko rozbija się o cybernetyczną logistykę?

Duża część społeczeństwa chińskiego to wciąż osoby bardzo ubogie i słabo wykształcone, mieszkające na obszarach wiejskich z ograniczonym dostępem do nowych technologii. Jak będzie oceniania ich zdolność kredytowa czy scoring obywatelski, kiedy obie koncepcje bazują na tzw. big data? Czy cyfryzacja zachowań konsumenckich najbiedniejszych obywateli Chin będzie kiedyś przymusem? Jak do tego dojdzie, jeśli nie będą oni częścią gospodarką bezgotówkowej? Ciężko mi odpowiedzieć na te pytania, ale na pewno na dzień dzisiejszy bieda i daleko posunięte wykluczenie społeczne w dalszym ciągu są (stety lub niestety) czynnikami uniemożliwiającymi stworzenie uniwersalnego systemu oceny obywateli w Chinach.

Co do społeczeństw Zachodu, to kredytowe systemy scoringowe nie są tam nowością, w szczególności w Stanach Zjednoczonych. Ustrój polityczny i ramy prawne w państwach, w których systemy takie są rozwijane mają decydujący wpływ na całokształt takich przedsięwzięć. W związku z tym, systemy tego rodzaju istniejące w państwach autorytarnych są postrzegane jako dużo bardziej niebezpieczne dla przeciętnego obywatela.

Nie zmienia to jednak faktu, że tzw. cyfrowa inwigilacja ma miejsce do pewnego stopnia wszędzie, gdzie istnieje dostęp do internetu. Trudno powiedzieć, czy chiński system scoringowy będzie tylko i wyłącznie narzędziem kontroli społecznej na korzyść rządu, czy stanie się również narzędziem harmonizującym interakcje finansowe, konsumenckie i społeczne.

Czy powinniśmy traktować scoring jako poważne zagrożenie?

Myślę, że sama idea scoringu kredytowego czy obywatelskiego nie jest zagrożeniem. Niebezpieczeństwo powoduje raczej charakter ustroju politycznego, w którym takie systemy są rozwijane. Współczesne Chiny to państwo autorytarne i w dużej mierze policyjne. System polityczny kraju pozwala rządowi na niemal nieograniczony dostęp do danych osobowych obywateli, w związku z czym scoring obywatelski teoretycznie będzie mógł być używany jako narzędzie usprawniające inwigilację jednostek i ograniczanie swobód.

Algorytmy zaczynają rządzić ludźmi

Tomasz Rożek: „Einstein nie był najlepszy z matematyki, w jego rachunkowości był błąd na błędzie. Popełniał błędy przy ziemi, ale jego myślenie było kosmiczne”

zobacz więcej
Chińskie społeczeństwo charakteryzuje nieufność zarówno w stosunku do innych ludzi, jak i instytucji państwowych czy biznesu. Opinią publiczną często wstrząsają skandale, np. związane z tragiczną jakością żywności czy opieki zdrowotnej. Piramidy finansowe to również nierzadki problem. W tym kontekście należy wziąć pod uwagę, że scoring, w szczególności ten kredytowy, może pełnić pewne pozytywne funkcje społeczne. zauważyć tym bardziej, że ma być rozszerzony nie tylko na osoby prywatne, ale również na przedsiębiorstwa i osoby nimi zarządzające.

Wydaje się, że ludzie korzystający z internetu i nowych technologii przestają się powoli interesować ochroną swoich danych osobowych …

I tak, i nie. W chińskim Internecie dużo mówi się o problematyce ochrony danych osobowych. Można znaleźć sporo dyskusji na temat obaw użytkowników, którzy nie wiedzą z kim twórcy systemów scoringu będą dzielić się danymi.

Teoretycznie komercyjne podmioty, które pracują obecnie nad stworzeniem systemów scoringu kredytowego nie mogą dzielić się danymi z zewnętrznymi podmiotami. W praktyce jednak doszło już do pewnych skandali, jak np. kiedy aplikacja Sesame Credit używała nie do końca legalnych metod, aby zdobywać pewne informacje od użytkowników, po czym dzieliła się nimi z osobami trzecimi.

Można mieć wrażenie, że scoring uprzedmiotawia człowieka, czyniąc z niego ciąg liczb i ocen wartości pożytku społecznego. Przypomina się odcinek serialu „Black Mirror” w którym od lajków zależało uzyskanie wyższego statusu społecznego.

Zgadza się. Przestrzegałabym jednak przed wybiórczym postrzeganiem tego problemu jako typowo chińskiego. Tworzenie scoringu kredytowego i obywatelskiego w Chinach wpisuje się w globalną tendencję ku cyfryzacji i coraz dalej posuniętemu urynkowieniu wszystkich naszych zachowań. Dane na temat naszych indywidualnych preferencji są zbierane przez internetowych gigantów na całym świecie.
Współczesne Chiny to państwo autorytarne i w dużej mierze policyjne. Scoring obywatelski teoretycznie będzie tam mógł być używany jako narzędzie usprawniające inwigilację jednostek i ograniczanie swobód. Fot. REUTERS/Tyrone Siu
Oczywiście chiński system scoringu jest budowany w bardzo specyficznym kontekście społecznym i politycznym, który może sprawić, że scoring ten będzie wykorzystywany wobec jednostek w zdecydowanie bardziej represyjny sposób. Jednakże sam w sobie nie jest niczym typowo chińskim – a tylko lokalną wersją globalnego procesu urynkowienia i cyfryzacji zachowań społecznych.

– rozmawiał Michał Chudoliński

TYGODNIK TVP, ul. Woronicza 17, 00-999 Warszawa. Redakcja i autorzy


Alicja Bachulska jest analitykiem ds. polityki Chin w Ośrodku Badań Azji w Warszawie, doktorantką w Szkole Nauk Społecznych Instytutu Filozofii i Socjologii PAN, współpracuje również z Centrum Studiów Polska Azja (wkrótce Instytutem Boyma). Absolwentka londyńskiej School of Oriental and African Studies (SOAS) oraz Uniwersytetu Fudan w Szanghaju.
Zdjęcie główne: Pracownicy służby ochrony podczas XIX Zjazdu Komunistycznej Partii Chin w październiku 2017. Fot. REUTERS/Jason Lee
Zobacz więcej
Rozmowy Najnowsze wydanie
Stalinowskie zbrodnie nie powinny ulegać przedawnieniu
Adam Cwejman o sprawie Stefana Michnika: To, z kim jest on spokrewniony, nie ma dla mnie znaczenia. Chodzi o to, żeby wynagrodzić ofiarom za cały okres, kiedy sprawców zbrodni nie udało się postawić przed sądem.
Rozmowy Najnowsze wydanie
Boże nie zabieraj mi pamięci. Ja chcę wiedzieć, że żyję
Gabriela Muskała: – Tkwi we mnie dzika dusza, siedzi gdzieś stłumiona asertywność, na której brak cierpiałam przez wiele lat.
Rozmowy Poprzednie wydanie
Dyskryminacja polskich przedsiębiorców jest jak rasizm
Andrzej Sadowski, prezydent Centrum im. Adama Smitha: Emerytura powinna być wypłacana wszystkim obywatelom, bez jakichkolwiek składek, finansowana wprost z budżetu, tak jak dziś finansuje się emerytury sędziów. To co jest dobre dla polskiego sędziego, powinno być też dobre dla każdego polskiego obywatela.
Rozmowy Poprzednie wydanie
Boski Lenny – gwiazdor z szerokim gestem
Żywiołowy pan orkiestry, po tej stronie Atlantyku niekiedy może się wydawać zbyt amerykański.
Rozmowy Poprzednie wydanie
„Kije” powstrzymywały nauczycieli od robienia rzeczy haniebnych
Piotr Semka: Kiedy ogłaszaliśmy przerwę milczenia, uczestniczyło w niej około osiemdziesięciu procent wszystkich uczniów.