niedziela, 29 kwietnia 2018

Big Brother spotyka Big Data. Oto najbardziej totalna technologia władzy w historii ludzkości Krzysztof Pacewicz


9 milionów Chińczyków z niskim rankingiem SCS traci właśnie prawo do latania samolotem. Tzw. System Zaufania Społecznego karze i nagradza na podstawie danych o płatnościach, upodobaniach, znajomościach i wykroczeniach obywateli. Komunistycznej Partii Chin udało się zrobić z totalitaryzmem to samo, co Tinder zrobił z randkowaniem: zamienić w intuicyjną apkę.
Mogłoby się wydawać, że w wyścigu o nagrodę im. Georga Orwella za rok 2018 w kategorii „Implementacja dystopijnego SF w warunkach późnego kapitalizmu” nikt nie ma szans z Markiem Zuckerbergiem i Cambridge Analitycą.
Niespodziewanie jednak na prowadzenie wysunęła się Chińska Republika Ludowa, która postanowiła od 1 maja tego roku wprowadzić zakaz podróżowania samolotem dla dziewięciu milionów obywateli o niskim rankingu Social Credit System, Systemu Zaufania Społecznego, zwanego też Systemem Wiarygodności Społecznej. Ban na latanie to jednak dopiero prenatalne kopnięcia SCS – najbardziej totalnej technologii władzy w historii ludzkości.

Konfucjusz z neoliberalnym twistem

Social Credit System to innowacyjny chiński pomysł na połączenie totalnej inwigilacji i kontroli przez państwo z możliwościami komercyjnych baz danych i funkcjonalnością portalu społecznościowego. Big Brother spotyka Big Data.
Pod angielskim słowem credit kryje się chińskie xinyong – 信用, jedna z fundamentalnych koncepcji konfucjanizmu (sam Konfucjusz używał pojęcia xin – 信). Oznaczało ono pierwotnie bycie uczciwym, honorowym, godnym zaufania. W ostatnich dekadach jego znaczenie rozszerzyło się jednak na kwestie finansowe, a dziś xinyong oznacza również „zasługujący na kredyt”. Karta kredytowa to po chińsku xinyongzheng 信用证, czyli „karta zaufania”.
Oficjalnym powodem utworzenia systemu SCS jest deficyt zaufania w chińskiej gospodarce. Rynek jest bowiem pełen nieuczciwych firm i podrabianych produktów, a ponieważ do niedawna Chiny były biedne i zacofane, to aż trzy czwarte Chińczyków nie ma historii kredytowej. Banki nie wiedzą, komu mogą pożyczać.
Social Credit System stanie się obowiązkowy dla wszystkich obywateli w 2020 roku. Na razie trwają pilotażowe programy prowadzone we współpracy z korporacjami, np. z największą aplikacją do czatowania, największą aplikacją do płatności, największym serwisem randkowym, z chińskim odpowiednikiem Ubera itp.
Integracja baz danych zachodzi powoli, lecz nieubłaganie.

„Za złamanie zaufania w jednym miejscu restrykcje pojawiają się wszędzie”

SCS przelicza na punkty różne zachowania i na ich podstawie wylicza każdemu „ranking zaufania”, który jest powszechnie widoczny. Punkty można zyskać za np.: terminowe płacenie rachunków, działalność charytatywną, segregowanie śmieci, kupowanie produktów świadczących o byciu „odpowiedzialną” osobą (np. pieluch), oddawanie krwi, a także… posiadanie znajomych z wysokim rankingiem. To nie jest spojler Black Mirror:
Stracić punkty można zaś za: przestępstwa, wykroczenia i mandaty, spóźnianie się z płatnościami, marnowanie czasu (np. grę na komputerze przez cały dzień), wystawianie nieprawdziwych recenzji online, ale także – za posiadanie znajomych z niskim rankingiem oraz za publikowanie „fake newsów” i „pomówień”. Oczywiście o tym, co jest „fake newsem” decyduje władza, a przypominam, że mówimy o państwie autorytarnym, którego prezydent Xi Jinping, równocześnie sekretarz generalny Komunistycznej Partii Chin, wykreślił właśnie z konstytucji zapis o ograniczeniu liczby prezydenckich kadencji.
Ranking SCS wpływa na twoje otoczenie. Gdy zachowujesz się karygodnie (np. zbyt dużo grasz na komputerze, awanturujesz się w pociągu lub krytykujesz władze w sieci), to spada nie tylko twoja ocena, ale pośrednio również ranking twoich znajomych. Mogą oni w związku z tym przekonywać cię do zmiany zachowania, lub też – po prostu usunąć ze znajomych. Nie opłaca się przecież kolegować z osobami o niskim rankingu.
SCS wymiernie przekłada się na życie: osoby z wysokim rankingiem mają dostęp do tanich pożyczek, mogą bez kaucji wynajmować mieszkania, wypożyczać samochody i spać w dobrych hotelach, a także wysyłać dzieci do prestiżowych szkół. Profile osób o wysokim rankingu są też bardziej eksponowane w serwisach randkowych.
Osobom z niskim rankingiem grożą zaś zakazy korzystania z komunikacji zbiorowej, nie mogą też wysłać swoich dzieci do dobrych szkół, nie mogą kupić mieszkania czy dostać kredytu… Ich zdjęcia mogą też być publikowane na „ekranach wstydu” na ulicach oraz na rządowych stronach (np. tutaj można obejrzeć zdjęcia osób, który przeszły na pasach na czerwonym świetle).
Ekran wstydu w mieście Changsha, na którym wyświetlane są zdjęcia i dane chińskich dłużników. Fot. screenshot CNN
Ekran wstydu w mieście Changsha, na którym wyświetlane są zdjęcia i dane chińskich dłużników. Fot. screenshot CNN
Niektóre z tych „kar” funkcjonują już od paru lat, np. krytycznemu wobec reżimu blogerowi Liu Hu na początku 2017 roku odebrano możliwość latania samolotem, a także kupowania nieruchomości i zaciągania kredytu. Zarzut: „rozsiewanie plotek i pomówień”. Od teraz jednak restrykcje będą nadawane automatycznie przez algorytmy systemu SCS.
Zgodnie z oficjalnymi założeniami Social Credit System oparty jest na zasadzie: „za złamanie zaufania w jednym miejscu restrykcje pojawiają się wszędzie”.

Nadzorować i nagradzać: zgamifikowane posłuszeństwo

SCS przypomina grę RPG w bycie Chińczykiem, w której działania naszego bohatera przeliczają się na wzrost i spadek ogólnej punktacji. Takie wprowadzanie mechaniki gier do sfer wprost z nimi niepowiązanych nazywa się gamifikacją. Jest to od dekady jeden z najgłośniejszych trendów w projektowaniu usług internetowych w Dolinie Krzemowej.
Wedle zwolenników gamifikacji, dodawanie do usług elementów zaczerpniętych z gier, takich jak: zbieranie punktów i odznak, dodatkowe wyzwania, rywalizacja z innymi graczami itp., ma dodać element „zabawy” do normalnie niezbyt „zabawnych” czynności. Może to być: obsługa systemu bankowości internetowej (zbieraj odznaki za płatność kartą maestro!), ekologiczna jazda samochodem (hoduj zielone drzewka na desce rozdzielczej!), trening (podziel się swoim czasem ze znajomymi!) czy rzucanie palenia (uzdrów swoje wirtualne płuca!).
Sesame Credit, program punktowy prowadzony przez Alibaba Group, właściciela m.in. AliExpress.com.
Gamifikacja narodziła się więc w słonecznej Kalifornii jako modne hasło w środowisku sieciowych marketeróww. Wygląda jednak na to, że – podobnie jak wiele innych kapitalistycznych innowacji – najlepiej sprawdza się w warunkach państwa autorytarnego. Nie trzeba wtedy martwić się prawem do prywatności, ochroną danych osobowych ani konstytucyjną równością obywateli wobec prawa, a przecież wszystkie te zachodnie wynalazki okropnie spowalniają wdrażanie innowacji. Można też pozwolić sobie na większy rozmach i zamiast gamifikować różne elementy życia z osobna, zgamifikować całe życie naraz.
Totalna gamifikacja życia oznacza przymus totalnego posłuszeństwa, jest to jednak zupełnie inne posłuszeństwo niż w klasycznym totalitaryzmie. Cały mechanizm opiera się bowiem na zasadzie „marchewka lepsza od kija”. Utrzymywanie wysokiego rankingu to w końcu ekscytująca zabawa z nagrodami. Chiny mogą oszczędzić miliardy na tajnych służbach: obywatele będą gorliwie nadzorować się sami za pomocą własnych smartfonów.
Gdyby Foucault żył, napisałby pewnie książkę Nadzorować i nagradzać.

Bunt ludzkich maszyn (którego nie będzie)

Mój brat miał kiedyś czołowe zderzenie jako pasażer w Uberze; nikomu nic się nie stało, ale samochód był zupełnie zniszczony. Załamany kierowca tępo gapił się na wrak. Zaraz po kraksie brat dostał informację „kurs zakończony”; niewiele myśląc, ocenił jakoś kursu na pięć gwiazdek, by nie czynić kierowcy dodatkowej przykrości. Ta historia pokazuje, że w systemach opartym na punktach i rankingach ocena jakości usługi może mieć niewiele wspólnego z jakością samej usługi. Inaczej mówiąc: system oceniający życie nie jest tożsamy z samym życiem. I właśnie w szczelinie między jednym a drugim rodzi się przestrzeń oporu.

czytaj także

Mamy cię, Uber!

Piotr Szostak
Oczywiście, na pewno pojawią się Chińczycy wyklęci, którzy świadomie odrzucą system SCS godząc się na niski ranking i związane z nim restrykcje w zamian za wolność od całej gry. Ten rodzaj oporu wobec despotycznego systemu będzie jednak rzadki. Kto może sobie pozwolić na życie na marginesie, bez mieszkania czy transportu publicznego?
Większość społeczeństwa zdecyduje się więc, zamiast odrzucenia całego systemu, na grę w szczelinie między życiem i oceną życia, czyli na mamienie, naginanie i oszukiwanie systemu. Grę komputerową kupią na konto swojego dziecka, a nie na swoje, będą w ramach barteru wystawiać sobie nawzajem recenzje, by zyskać łatwe punkty, będą kupować fejkowe usługi na czarnym rynku punktów zaufania, na oficjalnym koncie społecznościowym będą szerować linki zgodne z linią władzy, a na anonimowym – pisać krytyczne opinie itp.
Rozpocznie się wyścig zbrojeń. Z jednej strony – algorytmy systemu SCS będą coraz inteligentniejsze, coraz bardziej wszechwiedzące i coraz trudniejsze do oszukania. Z drugiej – chińskie społeczeństwo będzie kreatywnie wymyślać nowe sposoby, by zyskać punkty niskim kosztem, by ukryć przed systemem swoje przewiny i słabostki, by wreszcie zachować minimum wolności, nie tracąc przy tym zdolności kredytowej.
Nie łudźmy się jednak: mimo tego oporu, system będzie działał skutecznie. Przeliczając różne zachowania na jedną abstrakcyjną miarę zmusi wszystkich do gry w zdobywanie punktów, zamieniając każdą chwilę życia w walkę o ranking SCS. Poprzez miękką presję, system pomoże zdusić w zarodku ogniska buntu społecznego i skłonić przeważającą większość Chińczyków do przyjęcia postawy łączącej konformizm z koniunkturalizmem. Co więcej, system usankcjonuje klasowe nierówności: bogatym będzie łatwiej o wysoką punktację, biedni zaś stracą dostęp do części usług.
„Uff, całe szczęście, że nie mieszkam w Chinach i nie muszę poświęcać każdej chwili na zabieganie o jakieś bezsensowne punkty” – myśli zapewne czytelnik, który dobrnął do końca tekstu. Przypominam jednak, że my na Zachodzie też mamy system, który różne zachowania przelicza na abstrakcyjne punkty, bez których nie da się kupić biletu na samolot, wynająć mieszkania czy posłać dziecka do prestiżowej szkoły. Nazywają się „pieniądze”.
***
Dziękuję Tomaszowi Janystowi za konsultacje w sprawie chińskiego systemu bankowego, a także konfucjanizmu.
Krzysztof Pacewicz – filozof, kulturoznawca, publicysta, doktorant na Wydziale Artes Liberales UW. Współredaktor książek Gamification: Critical Approaches (Warszawa 2015) i Foucault: źródła//ujścia (Warszawa 2015). Autor książki Fluks. Wspólnota Płynów ustrojowych (Warszawa 2017). Zajmuje się biopolityką. Dziennikarz OKO.press

1 komentarz:

  1. Dziwna sprawa z tymi Chińczykami, chociaż rynek chiński jest największy na świecie. Kupowałem od nich używając PayPal https://www.cashbill.pl/platnosci/paypal i do tej pory wszystko działało znakomicie.

    OdpowiedzUsuń