Цифрова модерація контента: корпоративні інтереси та громадянські цінності

Свобода вираження позицій та поглядів (а нині і доступу до такої можливості) є одним з наріжних каменів, на яких заснована класична гуманістично-ліберальна демократія. Це невичерпне в часі та за масштабами охоплення соціумних унікальностей людства твердження все більше суперечить тривожній еволюції домінуючого технократизму алгоритмічного суспільства. В ньому технології (наразі різної якості) штучного інтелекту вже керують динаміками темпів потокової інформації в Інтернеті відповідно до традицій удаваної приватної таємниці технологічних новацій. Це відбувається через застосування непрозорих технічних стандартів, що встановлені глобальними платформами соціальних мереж. Ці транзитні (роботоалгоритмічні) суб’єкти зазвичай не несуть відповідальності за контент, завантажений або створений користувачами на цій інфраструктурно-контентній платформі масового доступу та глобальних комунікаційних залучень. Проте технологічно-цифрова модерація (насправді цензура) онлайн-контентних масивів дуже часто обмежує основні права користувачів і демократичні цінності, бо платформи автономно (і таємно) встановлюють стандарти видалення контенту в глобальному масштабі.

Компанія Facebook 18 червня видалила рекламу передвиборчого штабу президента Дональда Трампа, адже та містила символ, який використовували в нацистській Німеччині.

На банерах офіційних сторінок президента, а також віце-президента Майка Пенса було сказано: “Небезпечні шайки ліворадикальних груп шастають нашими вулицями, спричиняючи повний хаос”. Нижче під цим текстом був зображений червоний трикутник –  у нацистських концтаборах такий знак нашивали на уніформу політичних в’язнів, зокрема комуністів.

Обліковий запис руху Bend the Arc

Представник кампанії Трампа прокоментував ситуацію. За його словами, червоний трикутник є емодзі, а також “символом, який широко і постійно використовує рух “Антифа”. У Трампа стверджують, що символ не входить в базу даних Антидифамаційної ліги.

Це приклад комунікаційно-контентної технології використання символу, який має подвійне контентно-змістовне навантаження. В такому разі будь-яка критика брутальних (підривних щодо державності) дій сучасних реальних чи імітаційних носіїв цього символу обертається проти тих, хто застосовує його для ілюстрації суті вчинку. Така технологічно-алгоритмічна пастка виникає між алгоритмічними стандартами та реальним використанням історичних символів позацивілізаційними силами сучасності, які тероризують глобальну комунікаційно-контентну дійсність привидами минулого.

Цей крок став останнім у війні проти Twitter і Facebook за модерацію (обмеження, цензуру) контенту. Президент США підписав указ, спрямований на регулювання діяльності соціальних мереж. Незадовго до цього ще два повідомлення Трампа у Twitter були позначені як «такі, що вводять в оману».

Минулого тижня Міністерство юстиції випустило документ на 25 сторінок, в якому пропонувалися способи, за допомогою яких законодавці могли б переглянути 230-й розділ американського акта про етику у сфері телекомунікацій від 1996 року, що передбачає широкі повноваження для сайтів з блокування і модерації контенту користувачів. Пропозиції, не задумуючись над наслідками складних контентно-комунікаційних процесів, миттєво розкритикували демократи.

Очевидно в процесі передвиборної боротьби усвідомлення глобальної проблеми міжконтинентальних інфраструктурно-технологічних платформ, що ігнорують цінності державності і дух права, не знайшло свого відображення у публічних виступах політиків.

Генеральний директор Facebook Марк Цукерберг зіткнувся з публічною фрондою негативних реакцій після того, як його корпоративно-управлінська дискусія із співробітниками просочилася у ЗМІ – він пояснює, чому не вживатиме заходів щодо останніх постів президента. Кілька сотень співробітників влаштували віртуальний страйк через бездіяльність керівництва. Більше 140 вчених, які фінансуються Цукербергом, також виступили із закликом приборкати активність президента.

А бренди Ben & Jerry (частина Unilever), Patagonia, The North Face, REI, Upwork, Eddie Bauer мають намір призупинити рекламу у Facebook та Instagram в межах глобальної кампанії #StopHateForProfit.

Глобальна суперечка, а точніше реальне протистояння щодо прийнятного і неприйнятного в інтернет-середовищі світу стає звичною темою і очевидно залишатиметься такою в найближчі тижні і місяці. Глобальні соціальні платформи впроваджують нові технології для виявлення небажаного контенту, такого як розпалювання ненависті, фейкові новини і публічний шемінг. Найчастіше сьогодні впроваджуються практики поєднання діяльності фахових модераторів та алгоритмів, також використовуються інші види обмежень –  відключення звуку або блокування користувачів. Та це не завжди працює: тільки минулого тижня Центр бізнесу та прав людини при Нью-Йоркському університеті опублікував дослідження стратегій модерування контенту Facebook, піддавши критиці рішення компанії передати таку модерацію на аутсорсинг. Адже алгоритмічні інструменти візуального розпізнавання, засновані на системі штучного інтелекту, є винятковими для виявлення суперечливих або шокуючих зображень.

Наприклад, вони можуть визначати не тільки наявність зброї в кадрі зображення або відео, а навіть рідину, структурні пошкодження, щоб оцінити інтенсивність насильства в зображенні. Але більшість алгоритмів, що використовуються глобальними платформами для виробничого сканування, налаштовані на швидкість і мінімальну кількість категорій класифікації для зменшення обчислювального навантаження. Замість того, щоб генерувати мільйони категорій і характеристик та їхніх ймовірностей для кожного зображення і кожного кадру відео (це дозволяє коригувати в режимі реального часу і деталізувати відправку рецензентам для підтвердження), значна кількість виробничих (алгоритмічних) фільтрів, зазвичай, нагадують бінарні. Тобто вони або позначають зображення для видалення/перегляду, або ні. А це ускладнює, а швидше унеможливлює, об’єднання потужностей машини і здібностей фахової людини-рецензента. Крім того, вони не налаштовані розрізняти контекстні особливості геопозиційних явищ, наприклад мовно-лінгвістичних інтерпретацій чи історичного дискурсу лише тому, що машин цьому поки що не вчать.

Важливим залишається і якість та значення людського фактору в цьому світі алгоритмічно-інфраструктурних монополій. У вересні 2018 році позов проти Facebook подала колишня співробітниця — модераторка. Вона заявила, що після роботи з шокуючим контентом у неї виник посттравматичний стресовий розлад. До позову приєдналися й інші співробітники, які звинуватили компанію в тому, що вона не змогла забезпечити їм безпеку на робочому місці.

Цифрова модерація вимагає від компаній великого вибору таксономій, систем комп’ютерного зору, креативно-технологічних імплементацій алгоритмів NLP та інших технологій, які масово використовуються для нав’язування, а часто і тероризування публікаціями та поширенням підривного потокового контенту. Платформи повинні ретельно продумати напрями і стратегії технократичної оптимізаціїі та чиї потреби вони враховують – людини-споживача чи цинічних власників реальних контентно-комунікаційних монополій, які витісняють людей із процесу експлуатації та цивілізаційного споживання адекватного контенту.

Instagram, наприклад, неодноразово стикався зі скаргами на те, що він автоматично видаляє фотографії жінок, які годують грудьми своїх дітей, тоді як сексуальні зображення жіночого тіла залишаються поза увагою модераторів та алгоритмів.

Twitter припинив діяльність користувача Carpe Donktum, який створював про-трампівські інтернет-меми. Логан Кук із Канзаса (нік Carpe Donktum) завоював популярність серед консерваторів після того, як президент Трамп перепостив у себе в мікроблозі кілька його відеороликів, а зовсім недавно  –  сатиричне відео, в якому автор знущався над CNN (пізніше було видалено через скарги на порушення авторських прав).

Соціальна мережа зовсім недавно запустила ще функцію голосових твітів, яка доступна лише деяким користувачам з iOS. Репортер Ганна Козловська звернула увагу на те, що на платформі відсутня будь-яка модерація такого контенту.

Під твітом офіційного аккаунта з анонсом голосових записів користувач @Danny_Walterr залишив аудіопост порнографічного змісту, однак Twitter не поставив на ньому позначку «медіафайл делікатного характеру», яким зазвичай відзначається контент з порно і сценами насильства. Як вважають експерти, соціальна мережа просто не підготувалася до наслідків введення нової функції розширення контентно-комунікаційних форматів.

Соцмережа Reddit минулого року ввела обмеження на доступ до групи The_Donald, куди входять понад 750 тис. користувачів.  Причина такого рішення  –  неодноразові заклики до насильства та розпалювання ненависті по відношенню до поліцейських і чиновників.

Облікові записи Лори Лумер, кандидатки від Республіканської партії в Палату представників Конгресу (21 округ, Флорида), були заблоковані на всіх відомих платформах та їхніх сервісах : Фейсбук, Твіттер, Гугл, Пейпал, Інстаграм Убер, онлайн банкінг і доставка Убер фудс. Незважаючи на цей явний акт виборчого втручання і політичної упередженості з боку Big Tech, Лумер за допомогою Parler і Gab перевершила всіх своїх опонентів і отримала більше фінансової підтримки.

Американські консерватори  оголосили про масовий вихід з Твітера. Деякі пішли далі і закривають свої сторінки у Фейсбук. Новим майданчиком стає Parler  –  соціальна мережа, яка заявляє про відсутність будь-якої цензури та заборони на передачу персональних даних і підтримку свободи слова.

Ілюстрація з сайту: https://www.businessinsider.in/

Головна теза прихильників “виходу з соцмереж”  –  позбавити великі технічні компанії-монополії грошей, переманивши аудиторію (разом з відомими політиками і громадськими діячами) з їхніх ресурсів на Parler. Ідея полягає у відмові від платформ, які цензурують будь-які висловлювання, позначають повідомлення президента як “маніпулятивні” і негативно ставляться до користувачів консервативних поглядів.

Нинішня непрозорість та упереджена примітивність алгоритмічної модерації контенту є проблемою для демократичних суспільств. Якщо люди не можуть зрозуміти причини рішень, пов’язаних з їхніми правами, особливо коли мова йде про автоматизовані системи прийняття рішень, геостратегічні стовпи прозорості та підзвітності, на яких заснована класична світова демократія, вони приречені на крах і тріумф позацивілізаційних сил та режимів.

Ліна Вежель, ГО «Центр ККБ»

 

У матеріалі використана ілюстрація Алекса Кастро / The Verge