Цифровая дистопия как модель паноптикума в обществе
Уже много было написана о механизмах социального контроля, которые появляются в Китае с 2010 года. И особенно много публикаций посвящается зарождающейся системе социального кредита, которая позволит следить и регулировать поведение граждан, которая позже трансформируется в систему социального рейтинга. Несмотря на свое название, это пока еще не одна и не единая система, как утверждают во многих публикациях. И не каждый житель страны из 1,4 млрд человек был оценен по трехзначной шкале. В действительности, это сложная структура, которая содержит множество подсистем. Однако с 2020 года государство ставит себе цель — начать полное оценивание и рейтингование всех своих жителей. Так написано в обосновании государственной программы ‘’Социальный кредит 2014–2020’’ Госсовета Китая.
Глобальная цель инструмента — «кибернетический» контроль поведения, с помощью алгоритмов искусственного интеллекта, который позволяет отслеживать действия частных лиц и заставлять их незамедлительно отвечать за них. Фактически — это система обработки больших данных, которая помимо прочего собирает информацию о покупках, штрафах, лайках в социальных сетях, и даже передвижении по городу и стране, включая сотни иных программируемых параметров анализа, по итогам обработки информации делит граждан на касты: благонадежные и нарушители. Тот, кто каждый день по несколько часов сидит в кафе — будет считаться бездельником, а тот — кто допустим покупает детское питание, так как является родителем, будет считаться более ответственной личностью. Также всех граждан предположительно будут делить на 5 категорий: ААА — более 1000 балов (это элита, их охотно берут на работу, дают дешевые кредиты, предоставляют скидки, а в больнице — с порога окружают заботой и так далее), АА — менее 1000 балов, B — не менее 900 балов, С — не менее 850 балов, D (полная противоположность возможностям категории ААА) — менее 600 балов, это — фактически изгои.
Таким образом, власти усиливают систему надзора в стране. Пока что на сегодня, основу системы социального доверия составляют черные и «красные» списки, а не столь обсуждаемый «рейтинг социального доверия». Черные списки наказывают нежелательное поведение, а «красные» поощряют желательное. Согласно основному плану, озвученному Госсоветом в середине 2014 года, национальная цель системы — поощрять частных лиц к порядочному поведению с точки зрения закона и предупреждать их от нарушения своих обязательств, чтобы развивать «культуру искренности». И пусть даже сложная сеть систем социального доверия в Китае уже формируется, но только не так и не с такой скоростью, как это часто представляется. Осуществлению полномасштабной национальной системы препятствуют множество факторов, включая несовершенство технологий, и растущее понимание важности частной жизни среди образованных жителей китайских городов. Но это Китай и Госсовет не будет отступать от задуманного. Идея предельна проста. Сопоставляя информацию из различных реестров и государственных органов, китайские чиновники смогут получить представление о том, как люди себя ведут, и найти способы контролировать их поведение.
Социальный рейтинг — возможный пример того, как современная технология может служить построению и укреплению тоталитарного общества. В Китае это уже сегодня реализуется через проекты социального рейтинга и умных городов. Практика Китая может быть использована и в других странах. Программа ‘’Умные Города’’ в Китае является государственной программой и поддерживается правительством миллиардными инвестициями. Однако и она при этом облегчая жизнь жителям городов — по факту имеет все шансы им эту жизнь существенно поломать. Данная государственная программа в Китае уже затронула более 500 городов, покрыв все региональные центры. Китай уже построил закрытое контролируемое общество в сфере ИТ, коммуникаций и масс медиа. В данном случае я имею в виду — Проект «Золотой щит» (англ. The Golden Shield Project) или неофициальное название — «Великий китайский файрвол» (англ. Great Firewall of China). Это система фильтрации содержимого интернета в КНР. Разработка проекта была начата еще в 1998 году, а в 2003 году он был введён в эксплуатацию по всей стране. Эта система включает такие подсистемы, как систему управления безопасностью, систему информирования о правонарушениях, систему контроля выхода и ввода, информационную систему мониторинга, систему управления трафиком. «Золотой Щит» является одним из 12 ключевых проектов КНР в сфере e-governement, именуемых «золотыми». Функции:
• Доступ к ряду иностранных сайтов с территории КНР ограничивается в рамках проекта «Золотой щит»;
• Веб-сайты, базирующиеся на территории Китая, не могут ссылаться и публиковать новости, взятые из зарубежных новостных сайтов или СМИ, без специального одобрения;
• Веб-страницы фильтруются по ключевым словам, связанным с государственной безопасностью, а также по чёрному списку адресов сайтов.
Примеры применения:
• Ряд западных компаний выполняет требования китайских властей об ограничении доступа к информации
• По данным организации «Репортёры без границ», китайская версия поисковой системы Yahoo! в результатах поиска не показывает определённую информацию
• Сайт Википедии также неоднократно блокировался на территории КНР. Причина блокировки обусловлена, в частности, описанием событий в Китае мая — июня 1989 года.
• Также системой блокируются сайты ряда религиозных и философских течений, в частности, трансгуманистических
Итогом таких проектов стало то, что сегодня китайское общество по сути — некая страна эксперимент. Нельзя сказать, что здесь победил коммунизм — как бы недокоммунизм и нельзя утверждать, что здесь господствует капитализм, нет, как бы недокапитализм. Китай — это экономика, полностью контролируемая государством, с пятилетними стратегическими планами, но при этом это планирование не наносит каких либо негативных качеств состоянию китайской экономики, благосостоянию народа и его социально — экономическому положению, при этом уровень инновационности в экономике, в социальных аспектах жизни в Китае — просто феноменальный и этот феномен — программируем государством, где аспекты приватного капитала также контролируются и программируются государством, чего до сих пор не реально было добиться в либеральных экономиках. Последний пример таких экспериментов государства с капиталистическим свободным рынком — допустим концерн Али Баба, который является частным гигантом, объединяющий свои усилия только с государством, ради достижения поставленных целей в программах пятилетнего планирования. Именно с этим концерном Правительство Китая строит систему Умных Городов и взялось уже за внедрение программы Социального Рейтинга. Как пример, город Иньчуань — административный центр Нинся-Хуэйского автономного района. Посетителей мэрии или городского совета там встречают голограммы, а в общественном транспорте используется технология распознавания лиц для оплаты проезда, и идентификация месторасположения гражданина. А урны для мусора на улице снабжены солнечными батареями и искусственным интеллектом, который подает сигналы коммунальным службам по необходимости очистить данные мусорные урны. Этого мало, теперь планируются в качестве эксперимента в этом городе внедрять авиа мобильный городской транспорт (пассажирские само пилотируемые квадрокоптеры).
Другим примером уровня цифрового управления городами может служить город Ханчжоу на востоке Китая. В этом городе весь городской трафик контролируется искусственным Интеллектом, а магазины уже начинают принимать оплату уже даже без смартфона, а только через технологию распознавания лиц. Данный вид сервиса настолько перспективен и кажется на Западе фантастическим из — за некоторых регуляторных моментов, что в принципе пока не реализуем, хотя многие признают удобство таких платежей через распознавание лица. Пока на Западе мечтают, в Китае это уже есть в рамках проекта Умных Городов. Резюмируя, стоит знать, что проект Умных Городов — это совместный результат консенсуса частного бизнеса и государства. В разрезе частного капитала — ведущие игроки Али Баба, JD.com и Tencent. О последнем информации не много, хотя и он — инвестиционно — холдинговый гигант, инвестирующий только в высокотехнологичные бизнесы. Дочерние компании Tencent, как в самом Китае, так и в других странах мира, специализируются на различных областях высокотехнологичного бизнеса, в том числе различных интернет-сервисах, разработках в области искусственного интеллекта и электронных развлечений. Многочисленные сервисы Tencent включают в себя социальные сети, музыкальные и веб-порталы, средства электронной коммерции, платежные системы, мобильные и онлайн-игры. Так, Tencent принадлежат наиболее распространённый в Китае сервис мгновенного обмена сообщениями Tencent QQ и мобильное приложение для передачи текстовых и голосовых сообщений WeChat. Tencent владеет крупнейшей в Китае и третьей в мире по количеству зарегистрированных пользователей, после Facebook и YouTube, социальной сетью Qzone. Фактически, для жителей таких городов создаются идеальные условия для жизни, где не только умный дом, но и система умного города предоставляет все необходимое для жизни. Фактически рай! Но есть всегда одно, Но. Продвижение и внедрение этих программ дает тотальный контроль государству за людьми.
Прямо сейчас в городе Ханчжоу живет до 7 миллионов человек и там работает как я уже сказал система контроля трафика, основанная на алгоритмах Искусственного Интеллекта и обработки массива больших данных (контролирует тысячи светофоров, распознает пробки, аварии, извещает о них полицию, умеет даже прогнозировать плотность трафика с высокой точностью и исходя из прогноза менять режим работы светофоров). И все это реально работает: на 10% сокращается время нахождения в пробках, на 20% увеличивается пассажиропоток, повышаются доходы городского транспорта, экономится время жителей. Местная полиция может быстрее реагировать на аварии, сокращается время прибытия скорой помощи в пути к месту назначения — и все это только из контроля корректировки времени работы светофоров, вычисляемых искусственным интеллектом. А в части платежей у Али Бабы уже есть система Али Пей — позволяет платить с помощью распознавания своего лица. Понятно, с одной стороны, когда все это используют частные компании, то цель очевидна — увеличение прибыли и доходов, через усовершенствование сервисов и времени потребителей, потраченных на эти сервисы, все это привлекает внимание и повышает спрос на услуги, так как потребитель реально может ощутить преимущества инновационных продуктов и услуг. Это все здорово. Но Китай, прямо сейчас — по многим показателям свободы — это тоталитарная страна. Просто как пример из истории.
В Китае в свое время убили миллионов воробьев, просто по приказу, поступившему сверху (от Мао Цзи Дуна). Цель — воробьи якобы наносили вред урожаям и сельскому хозяйству, однако их исчезновение решив одну проблему, породило иную — появились в огромном количестве гусеницы, которые в итоге все равно съели вообще весь урожай, и тогда Китаю пришлось много импортировать продукции сельского хозяйства. Это просто один из мемов — плановых решений, всегда характерных для Китая (от императорского до коммунистического). Фактически, в любой момент времени, плановое решение — как в данном случае с внедрением цифровых элементов управления городами и страной, возможно в будущем принесет негативные или иные неожиданные результаты, которые сейчас спрогнозировать нереально или исходя из имеющихся параметров, искусственный интеллект пока дает радужные перспективы. Китай при такой методе управления — все-таки успешно работает с контрагентами, как местными, так и зарубежными. Но при этом всегда отмечается повышенный риск слежки, контроля, шпионажа деятельности контрагентов. Фактически все зарубежные компании в Китае признают, что несмотря на прибыли и выгоду от присутствия в стране, Китай они признают — гигантской адской машиной по слежке и контролю всего и всех вокруг. И вот на сцену выходит проект социального рейтинга (социального кредита). В Китае сегодня согласно официальной статистике около 176 млн камер наблюдения. Это больше в несколько раз, чем в США. К 2022 году согласно государственной программе число камер наблюдения должно превысить 500 млн штук. Уже сегодня в Китае — вы всегда на виду. А что будет к 2022 году — за вами будут наблюдать даже в вашем доме. Не важно будет — где вы идете, где вы сидите, что вы делаете — Вас всегда будет можно легко найти, идентифицировать и спрогнозировать ваш дальнейший маршрут следования. Это просто ужасно по сути. Цель данной государственной программы, и ее никто не скрывает, она официально опубликована — тотальное постоянное наблюдение за гражданами, но в целях безопасности. Тотальное слежение обеспечивается доступом государства к камерам частного сектора включительно. Я думаю, что безопасность здесь скорее всего самого государства и государственной машины от ее граждан и пресечение любых возможных факторов возмущения, а еще если пойти глубже согласно концепции программы — прогнозирование возможных будущих возмущений или правонарушений. Вы знаете, в данном контексте я вспоминаю сюжет фильма с Томом Крузом ‘’Minority report’’ и мне становится не по себе. На данный момент времени частные структуры и бизнес могут добровольно присоединится к данной программе, как например Али Баба, но к 2020 году — участие частного бизнеса будет обязательным. Уклонение будет наказуемо и к вам будут применяться санкции. В Китае меньше ограничений, касающихся приватности (персональных данных), чем в тех же США.
Долгое время в Китае к персональным данным было негативное отношение. Закон, который запрещал прямо злоупотреблять персональными данными в Китае был принят только в 2009 году. Такая ситуация — упростила положение вещей для властей. Частный бизнес использует данную ситуацию — чтобы массово внедрять новые продукты и услуги, государство же использует это — чтобы вводить тотальный контроль, следить за людьми и пользоваться репрессивными методами. Как пример, даже если сегодня, вы в Китае попробуете перейти дорогу на красный свет, то моментально ваше лицо будет идентифицировано и к вам вечером придёт штраф. Либо, технологии цифрового слежения используются для других целей. Например, для обнаружения посетителей христианских культов в Китае, которые прямо не запрещены, но не предпочтительны. И конечно же, такие возможности государственная машина использует вовсю для слежения за оппозиционерами. Если же понять, что такое социальный рейтинг в цифровой диктатуре — вам также стоит вспомнить сериал Черное Зеркало и серию, посвященную конкретно данной теме. Теперь это не сюжет сериала, а настоящее в современном Китае.
Новые модели оценки поведения частных лиц стали появляться по всему Китаю. Сейчас они четко используются в более чем 30 городах, хотя в планах 2014 года ни о каких количественных рейтингах речь не шла. Это говорит о том, что подробности внедрения системы оставлены на усмотрение местных правительств, что приводит в установлению их без какой-либо единой схемы. Так, например, просто как начало новой политики внедрения, в городе Жунчэн провинции Шаньдун каждый из 740 000 совершеннолетних жителей сначала получил по 1000 баллов, как сообщается в докладе Foreign Policy. В зависимости от балла жители получают рейтинг от AАА до D: обладатели высокого рейтинга могут пользоваться услугами шеринга велосипедов без залога и получать субсидии на отопление зимой и многое другое. Шанхай также экспериментирует с социальным доверием. С помощью приложения Honest Shanghai жители города могут узнать свой рейтинг, введя номер ID и пройдя процедуру распознавания лица. Рейтинги основаны на данных из 100 публичных источников. В Сямэне провинции Фуцзянь также запустили похожую систему. Жители города старше 18 лет могут использовать официальный аккаунт Credit Xiamen в WeChat, чтобы узнать свой рейтинг. Обладатели высокого рейтинга могут пользоваться городскими паромами без очереди и не должны платить залог для пользования велосипедами или библиотекой.
В 2017 году, суд провинции Цзянсу ввел дополнительные меры на несостоятельных должников. Если вы позвоните по телефону должнику в Китае, то вместо гудков Вам мобильный оператор сообщит, что данный абонент, к которому вы звоните, уклоняется от оплата долга (штрафа, ипотека, кредита, алиментов и так далее) и вам рекомендуют повлиять на него, предупреждая вас также об его безответственности. Также списки должников публикуются в прессе и реестр должников — доступен всем. Поэтому, не дай бог Вам не отдать долги в Китае — вас подвергнут самого жесткому остракизму и ненависти по всем фронтам. Уже сегодня в Китае миллионы людей ограничены в передвижении, им отказано во многих элементарных социальных услугах, без которых невозможно выжить. Будучи должником — вы не сможете купить билет на скоростной поезд, на самолет, не посчитают скидки, ограничат доступ к действующим банковским счетам и закроют доступ к новым кредитам, не дадут возможность выехать заграницу и так далее. Однако, помимо финансовых долгов, в списки должников в Китае можно попасть и по другой причине. Если допустим вы имели смелость публично где — то высказаться, критикуя власть, или журналист опубликовал свое расследование или статью с критикой власти в Китае, то попав в поле обозрения системы, вам и такому журналисту, власти выставят штраф и автоматически вы будете в этом списке. Даже если вы погасите административный штраф, то власти могут посчитать нужным, не выключать вас из списка, так как по их мнению, вы не до конца искупили свою вину или вы — неблагонадежны. Уже существующую систему в Китае можно назвать цифровым авторитаризмом. Однако цель такой цифровой системы — стимулировать людей следить и выправлять друг друга, усовершенствуя гармонию в государстве. Сами же власти также комментируя данный подход для иностранной прессы объясняют это тем, что такая цифровая мониторинговая функция, будет им помогать эффективно следить и хранить гражданскую безопасность для миллиардного населения. Если при Мао Цзэдуне люди доносили друг на друга из — за страха, что если не донесут и не сдадут кого — то, то их самих накажет система из — за бездействия или на них донесет кто — то другой. То сегодня, в эру формирующегося цифрового авторитаризма, за доносы предусматриваются вознаграждения и бонусы. Уже есть в Китае мобильное приложение, с помощью которого можно доносить, жаловаться на соседей, друзей, родственников, сотрудников и кого — угодно. Но масштабное проявление цифровой диктатуры и тоталитаризма сегодня можно увидеть в Синцзян-Уйгурском автономном районе Китая. Государственная система, в которой каждый шаг и даже каждая мысль любого человека находятся под постоянным контролем спецслужб, хорошо описана в романе Джорджа Оруэлла “1984”. Это произведение считается классикой жанра, но раньше подпадало под определение “фантастика”. Просто технически реализовать ту вселенную было очень сложно, а установить камеры наблюдения везде казалось невозможным.
В Синцзян-Уйгурском автономном районе Китая сначала тайно, а теперь уже и открыто работает система тотального контроля над местным населением. Этнически эти люди — не китайцы, они — уйгуры. Это очень многочисленный тюркский народ, который издавна живет в области Восточный Туркестан. Внешне они на китайцев не похожи, язык у них другой, да и религия своя. Они — мусульмане. Из-за всех этих отличий там время от времени появляются движения, выступающие за самостоятельность региона. Некоторые из них даже говорят о независимости. Именно на непокорных уйгурах Китай и решил испытать свою систему цифрового контроля. Цель проста — извести их как народ, превратить в обычных китайцев, ничем не отличающихся от всех других. Разного рода датчики, камеры, системы распознавания лиц и тому подобные штуки установлены там буквально повсюду. Государство мониторит то, что уйгуры покупают, что едят, пьют, с кем встречаются, о чем говорят, что ищут в интернете, какое кино смотрят и какими болезнями болеют. У каждого человека есть своя отдельная электронная папка, в которую вносятся все данные о нем или о ней. Каждое движение, каждое действие или бездействие несет последствия. Если человек делает что-то полезное с точки зрения Пекина, ему начисляются социальные баллы. Ну, например, он активно изучает китайский язык, покупает книги на китайском, смотрит передачи о Компартии Китая, хвалит ее в личных разговорах. Ему выставляют плюсы. Благодаря этому он может получить бесплатное обслуживание в поликлинике, повышение по службе или место в детском саду для ребенка. Если же уйгур говорит на родном языке, не хвалит Компартию, встречается с подозрительными людьми и главное — ходит в мечеть — ему выставляют негативные оценки. Из-за этих оценок человек сначала теряет свободу перемещения, ему не продают билеты на самолеты и поезда, потом запрещают посещение хороших больниц, потом начинают мешать жить его детям. В финале уйгуры попадают в концлагеря. Это отдельная большая тема. Ранее Китай вообще не признавал их существования, но сейчас уже перестал стесняться. Они не просто есть, там сидят сотни тысяч, если не миллионы людей, заподозренных в нелояльности. В этих концлагерях (формально это лагеря трудового перевоспитания) людей заставляют работать, им промывают мозги пропагандой, пытают их и, видимо, даже ставят на них опыты, включая медицинские. Система искусственного интеллекта, натренированная на поиск врагов государства, исправно поставляет властям человеческий материал для этих лагерей и этих опытов. Фактически, искусственный интеллект используют для охоты на людей.
Но это уйгуры. Самих же китайцев государство также не будет щадить. Уже есть список признаков экстремизма. Туда входят много признаков, вот некоторые из них: длинные волосы, борода, употребление спиртного, хранение дома больших запасов еды, и самый большой грех — отказ приветствовать партийных секретарей. Бонусы также систематизированы, согласно уровню соответствия признакам экстремизма из данного списка. Если вы сообщите, что, кто — то, например, в каком-то уезде носит бороду — то вам на карточку начислять деньги, или сообщите — что какой-то чиновник — коррупционер, то начислять вообще премию до 75 тыс долларов США (500 тыс юаней) и так далее до совершенства доноса. Для сбора информации о гражданах в Китае выпустили специальное приложение, где полученные бонусы и баллы за счет доносов, жалоб, уведомлений о правонарушениях, уведомлений о свидетельствах каких-либо событий, пользователи получают реальные купоны на скидки, на вызов такси, на бесплатные акционные услуги и товары (от супермаркетов до кафе). Выходит, как бы лозунг — Сдай друга, получи купон. Официальная цель приложения — сбор данных о правонарушениях, но цель скрытая гораздо глубже — докладывать о возмутителях общественного спокойствия, социальных конфликтах, даже сторонниках христианства и запрещённого в Китае религиозного движения Фалуньгун.
В чем суть системы социального рейтинга? Если просто — то, если вы образцово — ответственный гражданин, возвращаете кредиты и долги, и даже дорогу переходите на зеленый свет, то у вас — высокий социальный рейтинг. И вы находитесь в почетном красном списке. Если же вы не отдаете кредиты, нарушаете общественный порядок, и еще имеете смелость критиковать власть, то к вам начнут применять санкции. Вас сразу же заносят в черный список. Если у вас низкий социальный рейтинг (что уже есть в некоторых регионах Китае сегодня) — то вы не сможете устроиться на работу, вы не сможете свободно передвигаться по стране (могут запретить вам продавать билеты), или вы не сможете взять кредит. Но самое страшное и странное то, что если вы общаетесь с человеком у которого более низкий социальный рейтинг, чем у вас, то ваш социальный рейтинг — тоже начнет понижаться. Ну а если вам с низким социальным рейтингом получится общаться с людьми с более высоким социальным рейтингом, то и ваш рейтинг — будет повышаться. Что произойдет в Китае в скором будущем? Фактически все оппозиционеры получат низкий социальный рейтинг, и будут подвергаться обструкции со стороны общества, они попадут в информационный и общественно — социальный вакуум. С ними уже в экспериментальных регионах стараются не общаться, их обходят стороной. Фактически социальный рейтинг построит касту изгоев в Китае, которые не могут пользоваться социально — общественными благами. Данный инструмент уже сегодня привел к тому, что сами обычные китайцы уже перестали что — либо постить, писать, публиковать в социальных сетях то, что может быть названо оппозиционным мнением. Следующим шагом станет полное умерщвление свободной журналистики, социологии и политологии. В итоге в Китае произойдёт самое невероятное — сформируется круговая порука из молчания, чтобы просто сохранять свои высокие социальные рейтинги. Власть в Китае бескровным методом с помощью новейших технологий достигает любой мечты диктатуры — тотальное повиновение, согласие и консенсус к власти. Через общественный остракизм возможно полностью поломать власти жизнь неугодным гражданам. Фактически — цифровая диктатура, которая жонглируя социальными бонусами стимулирует общественное повиновение. Возможно, даже я, не будучи гражданином Китая, опубликовав такой материал, попаду в списки неугодных иностранцев и мне запретят туда въезд.
Такие социальные рейтинги внедряются не только по отношению к физическим лицам, но и к юридическим лицам и бизнесу. Наиболее развитая часть системы социального рейтинга связана с бизнесом и пытается гарантировать соблюдение норм на рынке. Ваша компания осуждена или под следствием за участие в мошенничестве? Ее могут внести в черный список. Вместе с вами и другими представителями. Вы платите налоги вовремя? Тогда компанию занесут в «красный» список, что упростит прохождение многих бюрократических процедур. Государственные учреждения делятся списками по отраслям и другой публичной информацией между собой. Это позволяет наказывать или поощрять отдельные предприятия в различных департаментах очень быстро и эффективно уже сегодня. Если в отношении компании один государственный департамент принимает санкции, то они могут распространяться и на другие госслужбы. Важная особенность системы состоит в том, что она привязывает отдельные лица к деловой деятельности. Она осуществляет надзор за коммерческой деятельностью компаний, но заставляет в случае нарушений нести ответственность руководителей и официальных представителей.
Как промежуточный итог, можно констатировать, что комбинация возможностей государственной программы Умных Городов и системы социального рейтинга — это постоянное авторитарное слежение за вами, за вашим поведением или вашими мыслями. Даже пожав сегодня руку кому — то, кто имеет более низкий социальный рейтинг, чем вы, на следующий день вполне реально обнаружить, что Вас — не заселяют в отеле, вам не продают билеты или вам в супермаркете не насчитывают скидки. Это ужасная, жуткая политика, которая имеет признаки деспотии к 2020 году — станет обязательной для всех, включая частные компании. Данное явление, метод управления, философия — обсуждается во всем мире. Некоторые элементы программы Умные Города повторяются и реализовываются, например, в Торонто (Канада). Потенциал и возможности цифрового контроля общества — огромны и коварны. Если себе представить, что к власти где — то приходит лицо, стремящееся к диктатуре и абсолютизму персональной власти, то цифровой контроль может превратить жизнь людей в ад в целых городах и регионах.
Но что думают об этом сами китайцы — в основной своей массе они лояльны и приветствуют этот механизм. Они считают нормальным:
• если персональный рейтинг связан с рейтингом друзей — в таком случае вы идете по правильному пути
• Люди будут вести себя лучше, потому что остальные люди будут следить друг за другом и их поведением
• Это поможет людям доверять друг другу
• Это даст больше возможностей людям с большим рейтингом
• Это хорошая идея, которая поможет контролировать нарушителей закона и общественного порядка
Быть честными китайцев учил еще Конфуций. В его жизнеописаниях есть такая притча: когда он был чиновником, некто предложил ему взятку и заверил, что никто не узнает. Мудрец отвечал: «Я знаю, ты знаешь, Небо знает. Кто не знает?» Коммунистическое руководство Китая, заменившее собой конфуцианское Небо, никогда не могло смириться с тем, что оно чего-то не знает о своих гражданах. Поэтому еще при Мао Цзэдуне наладило систему «дан-ань» — личных дел граждан. В каждой папке «дан-ань» есть физические данные, фото, послужной список, характеристики от начальников и товарищей, отчеты об успеваемости и правонарушениях, членство в клубах и общественных организациях и т.п. Все это хранится в бумажном виде в государственных архивах — областных и центральном. Это инструмент не только громоздкий, но и труднодоступный. Теперь эта папка будет оцифрована и доступ к ней моментальный.
Актуальность выбранной темы обусловлена необходимостью понимания социальных связей и взаимодействий в информационном пространстве. Развитие информационных технологий оказывают влияние на систему этических ценностей и характер коммуникации. Особенно остро это проявляется при обсуждении последствий реализации таких инструментов как социальный рейтинг или иные цифровые методы контроля общественности. Этическое осмысление в сфере общественной морали позволяет выделить ряд проблем: глобальность, анонимность, бесконтрольность. В начале развития технологии интернет коммуникаций, такие этические аспекты были бесконтрольны, чем пользовались как для благих, таки для негативных намерений. Была иллюзия свободы выбора, что часто возмущало государственную машину (как демократическую, так и тоталитарную) в своей беспомощности в контроле источников цифровой информации. Однако, пояс затягивается, уже сегодня Китай показывает остальным государственным системам (как демократическим, так и тоталитарным), что данная проблема решаема и контролируема. И создается инструмент, который сами пользователи будут ради награды применять при оценивании, а точнее при обструкции других. Все эти процессы требуют разработки механизмов контроля: юридических, экономических, технических и этических. Социальный рейтинг — в идеале, это система оценки отдельных граждан, на основании разных параметров для построения честного и справедливого общества. Главная ценность общества — честность, которая должна проявляться во всем, от поведения в информационной сфере до почитания родителей. Можно сделать вывод, что в идеальной утопической информационной среде социальный рейтинг способствует определению уровня благонадежности, социального статуса как личности, так и корпорации, что дает возможность оценить степень доверия, понять насколько ответственно они относятся к взятым на себя обязательствам. Полученные сведения находят применения не только в виртуальном пространстве, но и в реальном мире тоже. На основании социального рейтинга формируется онлайн база данных, где можно определить социальный статус оппонента, уровень его благонадежности и соответственно понять, насколько ответственно данный субъект относится к взятым на себя обязательствам. Однако используя, недостатки систем, на основе которых формируется социальный рейтинг злоумышленники могут узнать личную информацию о человеке и использовать ее в своих целях. Но кто точно будет все и всегда знать? В данном контексте — государственное управление, ведь и оно состоит из людей — операторов социального рейтинга. Анонимность будет нарушена и высок риск того, что злой умысел отдельного оператора государственной машины с доступом к базе данных социального рейтинга или сама радикально — тоталитарная машина государства, будет иметь всегда возможность вмешаться в алгоритм оценивания, вмешаться для изменения информации и ее искажения, вмешаться ради манипулирования в корыстных или авторитарных целях. Здесь, опять-таки на ум приходит некоторые мотивы из сюжета Матрицы или даже фильма Сеть (с Сандрой Балок).
Формирование социального статуса путем присвоения баллов на основе информационной оценки личности может привести к развитию социального неравенства. Внедрение системы социального рейтинга ставит перед современной этикой задачу рефлексии происходящих социальных трансформаций, актуализирует предметное поле социальной и информационной этики. То, что происходит сейчас в Китае — возможно, самый амбициозный проект социальной инженерии в истории человечества. Если он будет реализован, мы столкнемся с первой в мире цифровой диктатурой. И скорее всего, в течении ближайшего десятилетия, данная система быстро распространиться по миру, особенно среди стран с хромающей демократией и с больным воображением клептократов у власти.
Однако, в реальности, несмотря на гарантии безопасности и лояльности, которое якобы дает система социального рейтинга, ограничивая деструктивные элементы в правах, но при этом вознаграждая и стимулируя благонадёжные, есть подводные камни безграничного контроля. Ведь развитие личности с философской и культурологической стороны — это всегда путь совершения ошибок и их осознанного исправления в течении всей жизни, до последнего вздоха. Человеческая природа — это всегда поиск нового, расширение ограниченных рамок и эксперимент, которые не возможен без ошибок, возмущений, нарушений и постоянного поиска. Однако навязываемая система принуждает не совершать ошибок, и следовать “правильным”, обозначенным путем. Лет за 20 свободными останутся только наиболее послушные, но и наименее творческие личности. Логическим результатом будет деградация, а может быть это и есть цель? Пока что система социального рейтинга, которая работает в Китае, фрагментарная. В каждой провинции она индивидуальна, отдельные фрагменты проходят тестирование и затем, если все хорошо, вливаются в единое целое. Но 2020 год — уже стучится в дверь.
Я не могу дать однозначную оценку социальному рейтингу, как явлению управления массами. С одной стороны — очень хочется видеть дисциплинированное и спокойное общество, чувствовать безопасность и уверенность. Но с другой стороны — дисциплина и спокойствие несомненно притупляют развитие и не дают толчок к экспоненциальному росту личности, цивилизации и науки. А что если что-то пойдет с твоими данными не так, даже не по твоей вине, а по умыслу твоих врагов или из — за банального сбоя в системе? Становится жутко и страшно от того, что инструменты реабилитации и оправдания вообще не предусматриваются! Об этом — пока и нет и речи. В таком случае, мы на шаг ближе к цифровой дистопии, сами этого не осознавая.
P.S. Что общего между флешмобом 10 year challenge и программой Умный Город? Вы думаете ничего? Я так не считаю. В данном флешмобе пользователи делятся своими фотографиями десятилетней давности и актуальными снимками. Не кажется ли вам, что такой алгоритм идеально подходит для обучения нейронных сетей — и это еще один повод задуматься о приватности для всех и о технологиях слежения и анализа больших данных. Старое и новое фото с разницей примерно в 10 лет идеально подходит, чтобы обучить алгоритм искусственного интеллекта принципам возрастных изменений. Искусственный Интеллект может лучше предсказывать, как будет выглядеть человек по мере старения, тогда вы уже не скроетесь от всевидящего глаза государства — никогда, ни в плоскости, ни во времени. Посты, опубликованные в рамках 10 year challenge — готовая и разнообразная база данных. Люди сами обозначили временные рамки снимков и настолько же надежный источник найти сложно. В рамках флешмоба, люди нередко добавляли к фотографиям полезную информацию о себе. Например, указывали локацию съемки, автора фотографии, рассказывали о прошедших событиях. Иными словами, благодаря этому мему, появился очень большой и тщательно составленный набор фотографий, демонстрирующих людей примерно 10 лет назад и сегодня. Но общий вывод таков, что мы должны разумно подходить к использованию технологий. Следует помнить, какие данные мы создаем и как их можно использовать в больших масштабах. Когда и как это может нам помочь, и понимать, как это может нам же навредить! Вне зависимости от мема или социальной площадки, суть в том, что люди — самый богатый источник информации для большинства технологий, которые сегодня возникают. Мы должны это знать и принимать с должной ответственностью, а не слепо и тупо поддаваться массовой истерии копирования действий в социальных сетях, выставляя себя на публичную порку и анализ коварного Искусственного Интеллекта. Хотя, это ваш выбор, пока еще.
Sergiy Golubyev (Сергей Голубев)
EU structural funds, ICO projects, NGO & investment projects, project management, comprehensive support of business
