Treść eseju
W ostatnich latach Chińska Republika Ludowa stała się ośrodkiem innowacji i technologicznego postępu, szczególnie w dziedzinie sztucznej inteligencji. Jednym z najbardziej fascynujących zastosowań tej technologii w Chinach jest jej wykorzystanie w Systemie Zaufania Społecznego, który budzi zarówno kontrowersje, jak i zainteresowanie na całym świecie. W ramach tego systemu, sztuczna inteligencja odgrywa ważną rolę w ocenie i monitorowaniu zachowań obywateli oraz regulowaniu ich dostępu do usług i przywilejów społecznych. Jednak to wykorzystanie sztucznej inteligencji rodzi wiele pytań dotyczących prywatności, wolności jednostki i potencjalnego nadużycia władzy. Zdania na ten temat są podzielone – według niektórych źródeł System Zaufania Społecznego nie jest na tyle zdigitalizowany, aby stanowić poważne zagrożenie, a z kolei inne publikacje wskazują na szerokie zastosowanie SI mogące budzić niepokój w społeczeństwie. Celem eseju jest dokonanie analizy wpływu zaawansowanych technologii na System Zaufania Społecznego w Chinach. W związku z tym, w pierwszej kolejności zostanie przedstawiona definicja oraz charakterystyka tego systemu, a następnie rola sztucznej inteligencji w funkcjonowaniu programów oceny wiarygodności obywateli i instytucji.
System Zaufania Społecznego (ang. Social Credit System) to „system monitorowania i oceniania zachowań obywateli pod kątem zgodności z prawem i zasadami współżycia społecznego”[1]. Inicjatywa dotycząca społecznego systemu kredytowego zakłada ustanowienie systemu rejestrowego, dzięki któremu można kontrolować i oceniać przedsiębiorstwa, jednostki oraz instytucje rządowe pod kątem wiarygodności w celu zwiększenia poziomu zaufania w chińskim społeczeństwie oraz regulacji przedsiębiorstw w obszarach takich jak bezpieczeństwo żywności, kradzieże własności intelektualnej i oszustwa finansowe[2]. System ten opiera się na bazach danych, do których trafiają informacje m.in. z państwowych rejestrów, organów administracji publicznej, sądów, a także z monitoringów miejskich czy aplikacji mobilnych[3]. Istnieje wiele różnych form społecznego systemu kredytowego, które są testowane, jednak większość polega na nagradzaniu za dobre zachowanie i karaniu za złą postawę obywatelską[4]. Przykładowo w poszczególnych systemach można dostać dodatnie punkty za działania na rzecz partii rządzącej, wysokie miejsca w zawodach sportowych czy pracę społeczną[5], za co przysługują różnego rodzaju korzyści. Wśród nich można wymienić zniżki na rachunkach za media, wypożyczanie sprzętów bez depozytu, otrzymanie kredytu na lepszych warunkach oraz szybszy proces załatwiania spraw urzędowych[6]. Przedsiębiorstwa również mogą zwiększyć swoją ocenę, jeśli istnieją dowody na to, że wspierają prawa pracownicze oraz przestrzegają zasad ochrony środowiska[7]. Z kolei złe postawy, takie jak niszczenie mienia publicznego, opóźnienie w zapłacie podatków i składek na ubezpieczenie społeczne, wykroczenia drogowe, uczestnictwo w protestach czy szerzenie nieprawdziwych informacji w chińskim komunikatorze WeChat stanowią podstawę do odjęcia punktów[8]. Zbyt duża ilość ujemnych punktów może skutkować problemami z otrzymaniem kredytu, ograniczoną dostępnością do różnego rodzaju usług lub nawet utratą pracy. Według informacji podanych przez Narodowe Centrum Informacji o Kredycie Publicznym, jak donosił The Guardian, do końca 2018 r. władze zakazały dokonywania zakupu biletów lotniczych 17,5 miliona razy[9]. Co więcej, w niektórych systemach za szczególnie złe zachowanie lub poważne wykroczenie można zostać wpisanym na tzw. „czarną listę”, która wiąże się z większą ilością sankcji, a nawet upublicznieniem wizerunku osób znajdujących się na tej liście[10]. Obecnie programy dotyczące społecznej oceny obywateli są realizowane wyłącznie na poziomie lokalnym. W 2022 r. lokalne rządy wprowadziły ponad 62 różne programy pilotażowe Systemu Zaufania Społecznego[11], które rozpoczęły się po wydaniu w 2014 r. przez chińskie władze „Zarysu Planowania Budowy Systemu Zaufania Społecznego”. W ich tworzeniu udział bierze kilka chińskich przedsiębiorstw wyznaczonych przez Bank Ludowy Chin. Są to m.in. Sesame Credit i Tencent[12].
Aby zapewnić sprawne funkcjonowanie Systemu Zaufania Społecznego w Chinach wykorzystywane są w niektórych obszarach wysoko rozwinięte technologie. Profilowanie jednostek i firm jest wspierane przez rosnącą skuteczność systemów opartych na sztucznej inteligencji i uczeniu maszynowym, które umożliwiają identyfikację biometryczną i behawioralną[1]. Obecnie wykorzystuje się zaawansowane oprogramowanie rozpoznawania twarzy oparte na sztucznej inteligencji, które aktywnie współpracuje z ponad 200 milionami kamer monitorujących rozmieszczonych w całym kraju. Działania te mają na celu umożliwienie chińskim władzom śledzenia obywateli w każdym aspekcie ich codziennego życia, dostarczając jednocześnie ogromne ilości danych, które mają posłużyć do identyfikacji potencjalnych czynów podlegających wpisaniu na czarną listę oraz dodawaniu lub odejmowaniu punktów w systemie. Ponadto, rząd chiński aktywnie monitoruje zachowania obywateli w przestrzeni internetowej. Przez śledzenie ich aktywności w internecie, poszukuje naruszeń, takich jak publikowanie i udostępnianie treści antyrządowych. Zastosowane oprogramowanie oparte na sztucznej inteligencji jest w stanie alarmować urzędników w przypadku wykrycia naruszeń. Technologiczne osiągnięcia w dziedzinie sztucznej inteligencji umożliwiają nawet identyfikację i blokowanie treści wideo związanych z protestami antyrządowymi, uniemożliwiając tym samym ich oglądanie przez użytkowników[2]. Z perspektywy jednostki przeciętnego obywatela, takie działania wywołują istotne obawy dotyczące prywatności i wolności.
Nie mniej jednak niektóre źródła podają, że w związku z brakiem centralizacji tego systemu, nie ma potrzeby wykorzystywania zaawansowanych algorytmów. Eksperci zajmujący się chińskim Systemem Zaufania Społecznego wskazują, że cała infrastruktura jest zaskakująco oparta na niskim poziomie technologicznym. Według analizy przeprowadzonej przez MIT Tech Review, metody oceny wiarygodności obywateli są stosunkowo niskiego poziomu technologicznego, a ich wykonanie często polega na tzw. “zbieraczach informacji”, którzy ręcznie gromadzą dane dotyczące zachowań mieszkańców we wioskach[1]. Choć chińscy urzędnicy czasem wspominają o technologiach takich jak blockchain czy sztuczna inteligencja w kontekście systemu, nie podają szczegółów na temat sposobu ich konkretnego wykorzystania. Jednak w miarę rozwoju programów oceny wiarygodności obywateli na poziomie krajowym, wydaje się, że zastosowanie wysoko rozwiniętych technologii będzie konieczne, przede wszystkim w celu gromadzenia danych między agencjami rządowymi[2].
Podsumowując, zastosowanie sztucznej inteligencji w Systemie Zaufania Społecznego w Chinach budzi zarówno zainteresowanie, jak i kontrowersje. Ponadto, zdania na temat poziomu wykorzystania zaawansowanych technologii w tym systemie są podzielone. Według niektórych źródeł sztuczna inteligencja odgrywa ważną rolę w ocenie i monitorowaniu zachowań obywateli oraz regulowaniu dostępu do usług i przywilejów społecznych. Dzięki nowoczesnym technologiom, takim jak rozpoznawanie twarzy czy analiza danych, system ten jest w stanie śledzić i kontrolować obywateli w niemal każdym aspekcie ich życia. Jednakże, to wykorzystanie sztucznej inteligencji wiąże się z obawami dotyczącymi prywatności, wolności jednostki i potencjalnego nadużycia władzy. Z drugiej strony istnieją również opinie, według których sztuczna inteligencja i inne zaawansowane technologie nie odgrywają tak istotnej roli w programach oceny obywateli. Według mnie, konieczne jest opracowanie odpowiednich ram prawnych, zapewnienie przejrzystości i odpowiedzialności w działaniach systemu oraz zapewnienie ochrony danych osobowych. Istotne jest także zaangażowanie społeczeństwa w proces kształtowania Systemu Zaufania Społecznego, aby zapewnić równowagę między wykorzystaniem technologii a poszanowaniem praw jednostki.
Bibliografia:
Źródła podstawowe:
- Botsman R., Who Can You Trust? How Technology Brought Us Together – and Why It Could Drive Us Apart, Portfolio Penguin, Londyn 2017.
- Liu C., Multiple social credit systems in China, “Economic Sociology: The European Electronic Newsletter 21”, Vol. 21 nr 1 (2019), s. 22-32.
- Pieke F.N., Hofman B., CPC Futures. The New Era of Socialism with Chinese Characteristics, National University of Singapore Press, Singapur 2022.
Źródła internetowe:
- Artificial Intelligence +, China’s ‘Social Credit’ System, https://www.aiplusinfo.com/blog/chinas-social-credit-system/ (20.06.2023).
- Biznes Newseria, Oparte na sztucznej inteligencji systemy oceny obywateli mogą prowadzić do wielu nadużyć. Unijne prawo ma ich zakazać, https://biznes.newseria.pl/news/oparte-na-sztucznej,p597624482 (dostęp: 19.06.2023).
- Business Insider, China’s ‘social credit’ system ranks citizens and punishes them with throttled internet speeds and flight bans if the Communist Party deems them untrustworthy, https://www.businessinsider.com/china-social-credit-system-punishments-and-rewards-explained-2018-4?IR=T (dostęp: 20.06.2023).
- Horizons, China Social Credit System Explained – What is it & How Does it Work?, https://nhglobalpartners.com/china-social-credit-system-explained/ (dostęp: 20.06.2023).
- INFOR, Wyższy stopień kontroli obywatela. Czy sztuczna inteligencja doprowadzi do nadużyć?, https://www.infor.pl/prawo/nowosci-prawne/5682198,ocena-obywateli-sztuczna-inteligencja.html (dostęp: 19.06.2023).
- MIT Technology Review, China just announced a new social credit law. Here’s what it means, https://www.technologyreview.com/2022/11/22/1063605/china-announced-a-new-social-credit-law-what-does-it-mean/ (dostęp: 19.06.2023).
Źródła cytowane w tekście
[1] Business Insider, China’s… op. cit., https://www.businessinsider.com/china-social-credit-system-punishments-and-rewards-explained-2018-4?IR=T (dostęp: 20.06.2023).
[2] MIT Technology Review, China… op. cit., https://www.technologyreview.com/2022/11/22/1063605/china-announced-a-new-social-credit-law-what-does-it-mean/ (dostęp: 19.06.2023).
[1] Biznes Newseria, Oparte… op. cit., https://biznes.newseria.pl/news/oparte-na-sztucznej,p597624482 (dostęp: 19.06.2023).
[2] Horizons, China Social Credit System Explained – What is it & How Does it Work?, https://nhglobalpartners.com/china-social-credit-system-explained/ (dostęp: 20.06.2023).
[1] INFOR, Wyższy stopień kontroli obywatela. Czy sztuczna inteligencja doprowadzi do nadużyć?, https://www.infor.pl/prawo/nowosci-prawne/5682198,ocena-obywateli-sztuczna-inteligencja.html (dostęp: 19.06.2023).
[2] MIT Technology Review, China just announced a new social credit law. Here’s what it means, https://www.technologyreview.com/2022/11/22/1063605/china-announced-a-new-social-credit-law-what-does-it-mean/ (dostęp: 19.06.2023).
[3] Biznes Newseria, Oparte na sztucznej inteligencji systemy oceny obywateli mogą prowadzić do wielu nadużyć. Unijne prawo ma ich zakazać, https://biznes.newseria.pl/news/oparte-na-sztucznej,p597624482 (dostęp: 19.06.2023).
[4] C. Liu, Multiple social credit systems in China, “Economic Sociology: The European Electronic Newsletter 21”, Vol. 21 nr 1 (2019), s. 22.
[5] INFOR, Wyższy… op. cit.,https://www.infor.pl/prawo/nowosci-prawne/5682198,ocena-obywateli-sztuczna-inteligencja.html (dostęp: 19.06.2023).
[6] Artificial Intelligence +, China’s ‘Social Credit’ System, https://www.aiplusinfo.com/blog/chinas-social-credit-system/ (20.06.2023).
[7] Business Insider, China’s ‘social credit’ system ranks citizens and punishes them with throttled internet speeds and flight bans if the Communist Party deems them untrustworthy, https://www.businessinsider.com/china-social-credit-system-punishments-and-rewards-explained-2018-4?IR=T (dostęp: 20.06.2023).
[8] INFOR, Wyższy… op. cit.,https://www.infor.pl/prawo/nowosci-prawne/5682198,ocena-obywateli-sztuczna-inteligencja.html (dostęp: 19.06.2023).
[9] Business Insider, China’s… op. cit., https://www.businessinsider.com/china-social-credit-system-punishments-and-rewards-explained-2018-4?IR=T (dostęp: 20.06.2023).
[10] Artificial Intelligence +, China’s… op. cit., https://www.aiplusinfo.com/blog/chinas-social-credit-system/ (20.06.2023).
[11] F.N. Pieke, B. Hofman, CPC Futures. The New Era of Socialism with Chinese Characteristics, National University of Singapore Press, Singapur 2022, s. 79.
[12] R. Botsman, Who Can You Trust? How Technology Brought Us Together – and Why It Could Drive Us Apart, Portfolio Penguin, Londyn 2017.
