Социальный рейтинг в Китае — отделяем мифы от реальности

“Идея о том, что Китай дает каждому гражданину «социальный рейтинг», продолжает захватывать воображение многих. Но это скорее миф, чем реальность. Вместо этого нам следует беспокоиться о других, более инвазивных методах наблюдения — и не только в Китае,” — утверждает аналитик MERICS Винсент Брюсси.

«Что, если каждое действие, которое вы совершили в своей жизни, записывалось бы в партитуру, как в видеоигре?» … «Если ваш балл упадет до 950, вы будете подвергнуты перевоспитанию». … «Это начало рабства, тотального контроля и исчезновения всех свобод… В Китае это называют социальным рейтингом». Это лишь некоторые из заявлений, сделанных в ходе парламентских дебатов в Европе и онлайн-комментариев о китайской системе социального рейтинга. Учитывая страстность этих взглядов и то внимание, которое они привлекают, для многих, должно быть, стало настоящей неожиданностью, когда Китай недавно пообещал запретить использование Искусственного интеллекта для социального скоринга.

Каковы факты, касающиеся китайской системы социального рейтинга (SoCS)? Система социального рейтинга в Китае на самом деле существует, но она сильно отличается от того, что представляют себе многие ее критики за пределами Китая. Самый большой разрыв связан с понятием баллов. Некоторые комментаторы считают, что волшебный китайский алгоритм использует камеры, искусственный интеллект и интернет-наблюдение по всей стране, чтобы вычислить балл, который определяет место каждого в обществе. На самом деле SoCS — это не техно-антиутопический инструмент, которого мы боимся: он слабо оцифрован, сильно фрагментирован и в основном ориентирован на бизнес. Самое главное, что такой балльной оценки просто не существует.

Пять наиболее распространенных мифов о социальном рейтинге в Китае, связанных с физическими лицами

“Drinhausen and Brussee” в своем обзоре “Китайская система социального рейтинга в 2021 году: от фрагментации к интеграции” приводит пять опровержений основных мифов, касающихся китайской системы социального рейтинга.

1. Нет никакой оценки, которая диктует место граждан в обществе. 

• Некоторые города и компании экспериментировали с рейтинговыми системами, но это всего лишь «программы поощрения лояльности». 
• Граждане не могут быть наказаны за низкие баллы.
• Национальный, всеобъемлющий социальный рейтинг граждан вряд ли когда-либо будет внедрен.

2. Система социального рейтинга не является инструментом массового наблюдения за физическими лицами.

• Система социального рейтинга в первую очередь фокусируется на бизнесе и его поведении на рынке.
• Физические лица учитываются в системе социального рейтинга, если выступают в роли органа управления бизнесом.
• Для физических лиц действует кредитный рейтинг, основанный на их кредитной истории.
• Не более 0,2 процента физических лиц ежегодно получают штрафы, связанные с социальным рейтингом.

3. Система социального рейтинга не осуществляет постоянного мониторинга и оценки поведения индивида.

• Только нарушения законов и нормативных актов могут служить основанием для наказаний. 
• Граждане не могут попасть в черный список за то, что слишком много играют в игры, часто гуляют бездельно, имеют «ненадежных» друзей и т. д.
• Недавно принятые в Китае правила еще больше ограничили возможности для оценки индивидуального поведения.

4. Система социального рейтинга является низкотехнологичной и фрагментированной.

• Все решения относительно социального рейтинга принимаются людьми, а не искусственным интеллектом. 
• Оцифровка системы остается ограниченной, и проблемы обмена данными препятствуют ее внедрению.
• Это существенно не изменится в течение предстоящего десятилетия, даже несмотря на попытки интегрировать и оцифровать систему.

5. Система социального рейтинга не будет полностью завершена в ближайшее время, 

• Система социального рейтинга была запущена в 2001 году и она еще далека от завершения.
• 2020 год стал концом ключевого этапа ее строительства, но система будет оставаться в стадии разработки, по крайней мере, в ближайшее десятилетие.
• В администрации Китая до сих пор ведутся активные дебаты о том, какой должна стать система социального рейтинга.
• В ближайшие годы основное внимание будет уделено интеграции систем обмена информацией, установлению единых стандартов и совершенствованию правовой базы.

Тем не менее, мифы все еще существуют — даже правительства, которые признают сложность SoCS, все еще выражают озабоченность по поводу подсчета баллов и того, как эту систему можно будет развивать в будущем. 

Что же стоит за идеей социального рейтинга?

Происхождение системы социального рейтинга и ранние попытки ее внедрения

Система SoCS, впервые появившаяся в Китае в начале 2000-х годов, была вдохновлена ​​практикой кредитного скоринга в других странах мира, такой как FICO в США и Schufa в Германии. В основных планах системы не было упоминаний о масштабном наблюдении за гражданами. Тем не менее, эта система породила косвенно связанные с ней инициативы, такие как Sesame Credit от Alibaba, но это было лишь косвенно связано с SoCS, и, в любом случае, Народный банк Китая в конечном итоге отказал компании в кредитной лицензии. Только в конце 2016 года Государственный совет — высший правительственный орган Китая — официально высказался о том, что он «рассмотрит вопрос о создании системы управления личным рейтингом».

С начала 2010-х некоторые города действительно начали внедрять систему социального рейтинга в пилотном режиме. Однако постепенно эта система стала вызывать споры даже в самом Китае. Сообщается, что город Суйнин вычитал баллы за правительственные петиции и онлайн-комментарии, Сучжоу планировал взимать штрафы за неявку при бронировании отелей или за мошенничество в онлайн-играх, а Жунчэн — за разбрасывание мусора или переход улицы в неположенном месте. Многие из этих проектов позже подверглись критике со стороны официальных СМИ или вовсе не были реализованы. Наиболее распространенной критикой было то, что внедрение социальных баллов незаконно ограничивало законные права граждан или отслеживало поведение, совершенно не связанное с понятием «социальный рейтинг».

Попробовали, протестировали, отключили

К 2019 году центральные власти Китая прямо заявляли, что они недовольны этой идеей. Они дали официальные разъяснения о том, что социальные баллы не могут использоваться для наказания граждан и что основанием для наказания могут служить только официальные юридические документы. Пилотные города быстро последовали этому примеру: Вэньчжоу, построивший амбициозные планы в 2014 году, развернулся на 180 градусов и в 2019 году вместо этого запустил схему только для поощрения граждан. В 2021 году Rongcheng выпустила редакцию, которая требовала добровольного применения и могла выдавать только вознаграждения. Многие другие планы по начислению социальных баллов так и не были реализованы.

Инициативы личного скоринга, имеющиеся сегодня, служат в основном положительным стимулом. Не имея возможности применять наказания, они по сути являются программами поощрения лояльности, такими как те, которые проводятся авиакомпаниями, хотя мало кто ими пользуется. Дополнительные ограничения были официально введены в декабре 2021 года, ограничивая типы поведения, которые могут быть включены в систему. Вот почему маловероятно, что массовое наблюдение за гражданами в рамках SoCS еще впереди: власти пробовали что-то подобное и обнаружили, что это не то, что они искали.

В конце концов, зачем Пекину разрабатывать такую ​​всеобъемлющую систему, охватывающую все население, подавляющее большинство которого «прилично себя ведет», когда у него уже есть широкий набор тайных инструментов, с помощью которых он может подавлять целевые группы инакомыслящих, что гораздо эффективнее.

Рейтинги по-прежнему представляют интерес для китайских властей в том, что касается компаний. В ближайшие три года Государственная администрация по регулированию рынка начнет классифицировать компании по шкале от A до D по всей стране. Компании в провинции Чжэцзян уже могут посмотреть свой «общий кредитный рейтинг». Однако эти оценки не используются для внесения компаний в черный список. Скорее, они служат индикатором риска и используются для определения интенсивности надзора.

В любом случае чрезмерно продуманная оценка, охватывающая все субъективные действия человека, была бы настолько непрозрачной, что на практике оказалась бы совершенно бесполезной. Это видно уже сегодня. У Alibaba самый высокий кредитный рейтинг в Чжэцзяне, несмотря на ее монопольное поведение и пристальное внимание властей во время ужесточения требований в отношении технологических компаний.

Реальные риски технологий 21 века

Все это не означает, что SoCS безобидна. Это также не означает, что более широкий аппарат наблюдения Китая является мифом — как раз наоборот. Однако публичные дебаты обычно не фокусируются на этих аспектах. Скорее, интерес к системе часто проистекает из более широких опасений по поводу цифровых технологий. Часто SoCS используется просто как метафора: либо для изображения некоторой технологической угрозы для граждан, либо для изображения техно-антиутопического Китая.

Это соответствует тенденции рассматривать Китай не как реальное место с реальными людьми, а как абстрактную противоположность западному миру. Когда политики во всем мире используют SoCS для создания образа технологической угрозы, они смещают фокус с действительно потенциально опасных технологических угроз, гораздо более близких к реальности.