Політика цифрового простору чи глолокальний стандарт домінування?

Замітки на полях правил КНР щодо регулювання технологічних алгоритмів

Безперешкодне зростання та розвиток китайських технологічних гігантів добігає кінця. Ознакою цього є оприлюднення офіційним Пекіном жорстких вимог щодо регулювання всіх аспектів цифрового життя своїх громадян (ще одне підтвердження тотальної влади правлячої Комуністичної партії Китаю).

«Історія китайських технологічних компаній за останні 15 років така: вони швидко росли і ставали інноваційними, тому що існували у просторі, який держава не регулювала і принципово не розуміла», – стверджує Адам Сігал (Adam Segal), директор програми політики цифрового та кіберпростору Ради з міжнародних відносин. «Тепер вона чітко визначила і заявила: ця епоха закінчилася».

Дослідження ГО «Центр ККБ» свідчать, що менеджмент КПК КНР намагається продемонструвати, що такі обмеження (абсолютний контроль) є доцільною необхідністю і нібито підтримуються на міжнародному рівні. Тому традиційно питання цифрового життя в площині розвитку сфери на засадах розширення можливостей людини і її середовищ та просторів навіть не ставиться. Тим паче в парадигмі комунікаційно-контентної безпеки, де ключовим моментом є мотивація й стимуляція творчих, дизайнерських, енергетично-одухотворених дій щодо розвитку особистості.

КПК КНР традиційно опікується абсолютним контролем. Алгоритми цього контролю влада Піднебесної намагається застосовувати новаційно, в дусі часу. Однак такий підхід не змінює суті дійства – система височіє над людиною, а за фактом – реально шкодить і примушує її втрачати ознаки, риси, складові людяності, притаманні мирності цивілізаційного життя.

Серед нових правил ключовими є закон, що обмежує кількість часу, який дітям та підліткам дозволено проводити за відеоіграми, до трьох годин на тиждень, та директива, яка забороняє онлайн фан-клуби знаменитостей.

Державні китайські регулятори також прибирають наріжний камінь сьогоднішніх бізнес-моделей інтернет-гігантів, включаючи Alibaba, Tencent та ByteDance,  – використання алгоритмів для визначення того, що користувачі читають, дивляться та купують в Інтернеті.

На думку експертів, у перспективі можуть застосовуватися приховані формати контролю за споживачем. Ймовірно, такі дії матимуть на меті відлучення решти світу від рекламного ринку Піднебесної. Стануть реальністю ці прогнози чи ні, дізнаємося з часом.

Після випуску проєкту правил у серпні 2021 року Управління кіберпростору Китаю 4 січня 2022 року разом із трьома іншими державними відомствами, включаючи Міністерство промисловості та інформаційних технологій, Міністерство громадської безпеки та Державну адміністрацію з регулювання ринку, опублікувало остаточну їхню версію.

«Регулювання рекомендаційної діяльності на основі алгоритмів в Інтернеті», включаючи агрегацію контенту, персоналізовані рекомендації та ранжування в пошуку,  кардинально посилюють позицію офіційного Пекіна щодо фокусу та фіксації уваги людей на онлайн-контенті, який держава вважає придатним для широкого громадського споживання. Очевидно, це ніщо інше як народження цифрової мапи нейроцензури, яка передбачувано буде ховатися за алгоритмами рішень засобами ШІ і блокчейн-технологій для архітектурно-дизайнерського програмування.

Відповідно до нових вимог, що набирають чинності 1 березня 2022 року, споживачі матимуть умовне право відключати алгоритмічні рекомендації у застосунках, а також переглядати або видаляти теги, які використовуються для таргетингу на них. Наприклад, Google надає персоналізовані результати пошуку за замовчуванням, але дозволяє видалити персоналізацію.

«Переважна більшість користувачів не знатиме про таку функцію відмови, і лише деякі зуміють відмовитися, оскільки ця опція часто глибоко вбудована в налаштування конфіденційності застосунку»,  –  вважає Анджела Чжан (Angela Zhang), доцент права в Університеті Гонконгу та експерт з технологічних регламентів Китаю.

Для таких затосунків, як Douyin, китайської версії TikTok, цей пункт потенційно може вплинути на існуючу бізнес-модель, хоча фактичний ефект незрозумілий, враховуючи розпливчасте формулювання правил. Компаніям також необхідно розкрити принципи, наміри та основні механізми роботи служби рекомендацій щодо алгоритмів. Це ще раз підтверджує гіпотезу ГО «Центр ККБ» про новий якісний рівень цензури на рівні нейрорішень засобами існуючих та майбутніх новацій цифрового світу.

Загальновідомо, що рекомендаційні алгоритми викликали зростаючі суперечки про те, як Big Tech управляють інформацією, доступною окремим споживачам, і використовують доступ до особистих даних для отримання прибутку. Особливе занепокоєння викликає «алгоритмічна цінова дискримінація», коли дані онлайн-покупця враховують для розрахунку цін залежно від того, за що він готовий платити. У Китаї це звичайна практика  –  призначати ціни відповідно до аналітики платоспроможності конкретного користувача.

Правила (швидше демонстративно, ніж реально) передбачають деякі заходи для підтримки конкуренції цифровій індустрії, яка швидко монополізується. Хоча нібито забороняється «несумлінна конкуренція» з використанням алгоритмів. Нещодавно дрібні торговці в Індії скаржилися, що ресурси електронної комерції, такі як Amazon та Flipkart, віддають перевагу деяким продавцям, маніпулюючи результатами пошуку. Наприклад, трансконтинентальна інфраструктурно-сервісна платформа може відображати свої продукти під власними брендами у верхній частині результатів пошуку, монопольно ставлячи у невигідне становище інших продавців.

Правила вимагають від інтернет-компаній покращити управління реєстрацією користувачів та захистом конфіденційності відповідно до нещодавно прийнятого закону про недоторканність приватного життя.

За словами Кедри Шефер (Kendra Schaefer) з консалтингової компанії Trivium China, одним із найяскравіших доповнень у порівнянні з проєктом постанови є положення, яке забороняє постачальникам інтернет-інформації застосовувати алгоритми для створення «синтетичного контенту» або його розповсюдження.

Фраза, що використовується китайською мовою, «合成虚假新闻信息»  –  це універсальний термін, який відноситься до неправдивої інформації, фальшивих новин та діпфейків, які, як відомо, важко виявити та усунути тими самими платформами.

Таким застосункам, як Toutiao, заборонено передавати своїм користувачам змінені медіафайли за допомогою рекомендацій «Read next» або «Watch next» на таймлайнах та в стрічках новин. Попередні вимоги обмежували постачальникам онлайн-новин використання таких інструментів як машинне навчання та віртуальна реальність для створення або розповсюдження фейкової інформації й вимагали маркування у випадку виявлення. У нових правилах зазначено, що платформи, які використовують великі обсяги даних для персоналізації контенту, не можуть застосовувати свої потужні алгоритми для створення фальшивих новин.

«Таємничий соус» Bytedance  – персоналізовані рекомендації на основі системи штучного інтелекту, що відстежує та аналізує такі дії: на що ви натискаєте, глибину прокручування, час, витрачений на історію, тип історії, яку ви читаєте у певну годину дня та фізичне місцезнаходження,  –  пояснює експерт із маркетингу із Шанхаю Ларрі Фенг (Larry Feng).

Згідно з блогом агентства Mathematics, система використовує NLU (обробку природної мови) для вимірювання того, чи знаходиться контент у тренді, довгий він чи короткий, і його важливість. Згодом алгоритми штучного інтелекту Toutiao пропонують більш актуальні рекомендації. Не використовуються рекомендації друзів, як у Facebook, а натомість фокус на індивідуальних уподобаннях (втім, за домінування державної комунікативно-контентної політики, а не можливостей суспільно-соціумного розвитку).

Тому обмеження для новинних агентств у Китаї дуже жорсткі, і онлайн-агрегаторам новин, таким як Toutiao, дозволено поширювати інформацію тільки із затвердженого списку джерел. Але багато популярних розважальних платформ, таких як Kuaishou і Bilibili, також використовують алгоритми для доставки цільового контенту користувачам.

І хоча діпфейки завдають значної шкоди, ЗМІ, наприклад, вважають що подібні контентно-дизайнерські формати можуть бути потужним інструментом для вираження гумору, інакодумства та соціальної критики, зазначає Сем Грегорі (Sam Gregory), програмний директор американської некомерційної організації Witness. У нещодавньому звіті Witness проілюстровано, як гумористи, такі як Бруно Сарторі (Bruno Sartori), використали діпфейк-відео, щоб пародувати бразильського президента Жаїра Болсонару, озвучуючи його постійне звинувачення колишнього президента Луїза Інасіо Лула да Сілва в пісні Мерайї Кері «Obsessed». Грегорі побоюється, що такий формат контенту може стане мішенню для нового закону Китаю.

Уряди інших країн прагнули виступити із законодавчими пропозиціями, щоб спробувати стримати владу (прогресуючі можливості) технологічних гігантів, чиї алгоритми були звинувачені у рекомендації постів, які підсилюють ненависницькі висловлювання та політичну поляризацію

Дослідження «Центру ККБ» свідчать, що яскрава стилістика та дієві енергетики в традиційній парадигмі нецивілізаційного андеграунду забезпечують втримання уваги до платформ, які досить жорстко воюють за користувача. Очевидно, побороти таку агресивність, адаптовану під інтереси, буде нелегким завданням для урядів та суспільств.

Для США процес регулювання інтернет-платформ набагато складніший, ніж для Китаю, оскільки Перша поправка до Конституції США, яка проголошує загальні свободи громадян Сполучених Штатів Америки, зрештою обмежує здатність уряду впливати на діяльність приватних компаній та вимогу видаляти певні типи контенту. За ідеологічно-ментального диктату однопартійного КНР авторитарне правління уможливлює жорсткий (аж до тотального) контроль Big Tech, змушуючи їх виправляти приватно- підприємницьку монополістичну практику і залучати більше державних інвестицій.

У 2020 році, коли адміністрація Трампа намагалася організувати придбання TikTok у США для вирішення проблем національної безпеки, Китай різко оновив свої правила експортного контролю, додавши «технологію обслуговування персоналізованої інформації, засновану на аналізі даних», як галузь обмежену для експорту. Маємо ще один доказ технологічної немілітарної, але глобальної зброї, яка є викликом світовій цивілізації, демократії, правам людини, громад, суспільств та держав.

У США та інших юрисдикціях існує обмаль засобів захисту від шкоди, заподіяної технологічною індустрією діпфейків, існуючі закони переважно покладають відповідальність на творців за завантаження фейкового контенту, що захищає такі глолокальні інфраструктурно-сервісні компанії, як Facebook та Twitter. Нові правила Китаю зміщують відповідальність на платформи і очевидно, що це ще один потужний інструмент під виглядом захисту споживачів витіснити глобальні платформи за межі КНР. Тобто це ще один крок до контролю потужних споживацьких, а заодно і суспільно-громадських та політичних, середовищ і просторів через енергетику й стилістику КПК КНР.

Рік тому Європейський Союз представив власні пропозиції щодо «Закону про цифрові послуги» та «Закону про цифрові ринки», що адресовані технологічним гігантам, таким як Google і Meta, яким у майбутньому доведеться дозволити застосунки конкурентів на своїх платформах і, таким чином, втратити функцію «брамників» (монополістів) щодо середовищ і просторів, в яких вони монопольно присутні. Трансконтинентальні компанії також повинні зробити рекомендаційні механізми, що використовуються, прозорими і дозволити законодавцям вимагати їхньої корекції та змін. Крім того, нові закони ЄС передбачають ширші права на оскарження та заходи проти фейкових новин. Обидві пропозиції наразі обговорюються між державами-членами ЄС та парламентом.

Як правила Китаю, так і проєкти пропозицій ЄС спрямовані на те, щоби влада технологічних компаній не перетворювалася на необмежену і підпадала під регулювання урядових інституцій. Але вимоги нормотворчих проєктів ЄС спрямовані на захист прав особи, натомість китайські  –  на стримуване поширення, а реально ще й жорстке витіснення того, що КПК вважає згубними «західними цінностями».

КНР стикається з тими самими проблемами цифровізації, що інші країни, однак дії та рішення КПК КНР зовсім не співмірні із діями демократичних країн. Великі трансконтинентальні технологічно-інфраструктурні компанії активно накопичують ресурси, знання, можливості. Відтак вони монополізують ринки та трансформують суспільство, причому часто цього не бажаючи, а лише тому, що глолокальне управління не наважується сприйняти їх як сучасну новаційну інфраструктурно-комунікативну даність в царині комунікаційно-контентно безпекових процесів. Їхнє надпотужне зростання змінює демократичні процеси у всьому світі, іноді створюючи можливості для демократичної взаємодії. Однак частіше вони апріорі підтримують реакційні сили – тільки тому, що ці сили випереджально використовують технологічно-креативні надбання людства. Більшість урядів визнали нагальну необхідність впровадження правил щодо різних проблем і особливо у сфері конфіденційності, підзвітності та конкуренції у цифровому світі глолокальних можливостей. Але їм так і не вдалося сформувати цілісне уявлення про особливості національних медійних статик, динамік діджітальних середовищ та наддинамік криптокультурних феноменів в масштабах глобального комунікаційно-контентного простору, не кажучи вже про рішучі дії у цій сфері.

Якщо не брати до уваги сферу захисту даних, глобальне регулювання все ще відстає від стрімкого зростання сервісів рекомендацій за алгоритмами і новаційні вимоги є однією з найперших таких спроб та практик.

Втручання Китаю як другої за величиною економіки у світі може встановити новий зразок (випереджальний, тому дієвий) того, як авторитарні режими окремих держав розправляються з технологічними гігантами цивілізаційного світу.

Ліна Вежель, ГО «Центр ККБ»