Виклики постісторії: ризики послідовностей і наступність цивілізації

У нинішньому світі інформація стала різновидом контентних потоків та створених реальностей. Поширюється вона через цифрові інфраструктурні мережі швидше, ніж спрацьовують сервіси фактчекінгу, тому технократично зруйнувати загальноцивілізаційні культурні основи і довіру до самої історії сьогодні не складає великих труднощів. Навіть затяті скептики потрапляють у ситуації, коли оманлива чи брехлива інформація майстерно змінює та цементує їхній світогляд.

Поява кілька років тому алгоритмізованих систем продукування брехні (діпфейків), що використовують різні базові технології штучного інтелекту, зокрема автокодери і генеративні змагальні мережі (GAN), підштовхує нас до важливого і тривожного усвідомлення: історична віра в те, що відео-, аудіо- та текстові документи є надійними фіксаторами історичної реальності більше не витримує жодної критики, більше того – потребує серйозного цивілізаційного захисту.

Ми довіряємо телефонному дзвінку друга або близької людини, виставленій у соцмережі заяві високопосадовця чи відеокліпу відомого політика, бо достеменно (як вважаємо) знаємо його голос та обличчя. Ми відчуваємо енергетику у листах близьких нам людей, оскільки на унікальному досвіді тривалого спілкування (тобто вже інтуїтивно) сприймаємо стиль та особливості авторського вираження.

Раніше (і навіть зараз) в переважній більшості випадків жодна загальнодоступна технологія не могла створити штучним (синтетичним) шляхом такий носій, який би був стовідсотково подібний до реалістичного. Тому історичні, зокрема паперові, документи апріорі вважалися справжніми. З розвитком технологічно-креативних комплексів синтетичних медіа (відео, фотозображення) почалися трансформаційні процеси. А коли з’явилися тексти і голос, повністю або частково створені системами штучного інтелекту (ШІ) і які стовідсотково співпадали з оригіналом, ситуація у світі стала докорінно змінюватися.

У своєму недавньому звіті Інститут Брукінгса (США) виокремив спектр політичних і соціальних загроз, що створюють діпфейки: спотворення демократичного дискурсу; маніпулювання виборами; підрив довіри до державних інституцій; ослаблення журналістики; загострення соціальних суперечностей; загроза суспільній безпеці; нанесення шкоди репутації видатних особистостей, включаючи виборних посадових осіб і кандидатів на посади.

«Раніше, якщо ви хотіли загрожувати Сполученим Штатам, вам потрібно було мати 10 авіаносців, ядерну зброю і ракети великої дальності»,  –  заявив сенатор США Марко Рубіо. «Сьогодні … все, що вам потрібно, це можливість створити дуже реалістичне фальшиве відео, яке могло б підірвати наші вибори, занурити нашу країну в жахливу внутрішню кризу і сильно послабити нас».

За словами професора Дартмутського коледжу Хані Фаріда, одного з провідних світових експертів з діпфейків: «Якщо ми не можемо повірити відео, аудіо, інформації, зображенням, зібраним з усього світу, це серйозний ризик для національної безпеки».

Технологічні комплекси з продукування діпфейків уже успішно використовують для створення істотно нового за якісними характеристиками інформаційного артефакту, включаючи в їхнє тло одіозні, спірні або ненависні висловлювання з наміром збурити, підірвати, залякати або зіграти (причому досить непомітно) на конфесійних, етнічних, культурних чи політичних розбіжностях. Після цього підбурити до непокори і насильства великі маси населення – це питання часу.

Ця технологічна новинка стає модною і, за відсутності усвідомленого спротиву, вже застосовується в деяких країнах для дестабілізації урядів, просування певних політичних процесів чи розігрування відповідних геостратегічних ситуацій. Ось приклади:

• у Габоні військові здійснили невдалий переворот після оприлюднення фейкового відео за участю президента Алі Бонго;
• у Малайзії відео, де нібито міністр економіки займається сексом, викликало серйозні суперечки з приводу того, фальшивка це чи ні, що завдало шкоди репутації чиновника;
• у Бельгії у квітні 2020 року політична група випустила діпфейк-відео, в якому прем’єр-міністерка виголошує промову та пов’язує спалах COVID-19 з екологічними збитками і закликає до рішучих дій у боротьбі зі зміною клімату.

У двох нещодавних інцидентах в Малайзії та Бразилії політики намагалися уникнути наслідків компроментуючих відеозаписів, стверджуючи, що вони є діпфейками. В обох випадках ніхто не зміг остаточно встановити істину і думки громадян істотно розділилися.

Штучне продукування консюмеризованої інформаційної брехні переросло в різкий ріст кількості так званих фейкових новин (нав’язаний термін-маскування), що дало можливість визнати та затвердити у світі термін (а точніше технологічне явище) – «постправда». Саме визнання світом «постправди» створило глобальний виклик мирній цивілізації – діпфейкові технології проникають в минуле, сіють сумніви щодо автентичності історичних подій, а також потенційно підривають довіру до записів, залишених в нашій нинішній цифровій епосі.

Український стартап Respeecher «змусив» американського президента Річарда Ніксона зачитати промову про нібито провалення місії «Аполлон-11» 1969 року у цифровому проєкті Центру вдосконаленої віртуальності Массачусетського технологічного інституту (MIT).

«Висадка на Місяць  – одна з найбільш пам’ятних історичних подій, принаймні, за останні 50-100 років, тому було б цікаво дізнатися про альтернативну історію цієї знаменної події»,  –  вважає одна зі співавторів інсталяції Франческа Панетта.

За словами Панетти, довгий час люди говорили, що історію пишуть переможці або що історія мінлива; але тепер, завдяки технології діпфейків, ми стикаємося з крихкістю ідеологій та історичних тлумачень. Команда продемонструвала, як заднім числом можна переписати минуле.

The New York Times оголосила 1 липня, що «Deepfake Technology входить у світ документального кіно», викликавши хвилю критики та дискусій. У фільмі «Ласкаво просимо в Чечню» замість темних силуетів і зацензурованих облич з неприродно низькими голосами творці використовують технологію deepfake, щоб не наражати на небезпеку чеченців-геїв і лесбіянок, які зазнали жорстоких гонінь та переслідувань.

Професор Білл Ніколс з Державного університету Сан-Франциско стверджує: «Наше обличчя, суть нашої ідентичності, є найвизначнішою особливістю нашого тіла. Відсутність справжнього обличчя в більшості випадків викликає дискомфорт». Однак вважає, що «цей документальний фільм може представляти новий вид м’якого маскування, який як і раніше допускає складні емоційні зв’язки, приховуючи при цьому особистість об’єкта. Це величезна спроба, вона спрацює».

Американський продюсер-документаліст Девід Франс захищає стрічку за використання діпфейку: «У кожної технології є два моральних аспекта. Наш документальний фільм доводить, що це можна зробити правильно».

Документальні фільми  –  один з найбільш етично чутливих жанрів кінематографа. І фейкові синтетичні обличчя тепер представлені як безпечний спосіб розкрити і відобразити суть фактів. Експерти наголошують, що у новому цифровому режимі фальсифікуються навіть ті, хто свідчить про життєві періоди і події, і ми повинні бути стурбовані тим, що історичні факти спотворюються такими нав’язливими ідеями як расизм та ісламофобія з боку тих, хто володіє технологіями і продукує онлайн фальшиву синтетичну цифрову історію. Хто може гарантувати, що ми зможемо передати реальні факти майбутнім поколінням?

Для вивчення історії потрібні першоджерела, які науковці можуть підтвердити як справжні,  або, принаймні, дійсно створені протягом певного періоду часу, досліджуючи їх крізь призму історичного контексту.

Підробити паперові документи та артефакти аналогових носіїв завжди можна було при наявності часу, грошей і навичок. З моменту зародження фотографії історики скептично ставилися до визнання свідоцтв, якщо вони не збігалися з іншими свідченнями і не містили переконливої аргументації. Труднощі, пов’язані зі створенням правдоподібних фальшивок, дозволяли історикам легко виявляти підробки, особливо коли їхній контекст вводив в оману або був спотворений.

Сьогодні більшість нових цифрових медіа-артефактів існує тільки у вигляді бітів, що зберігаються в комп’ютерних системах. Кожен день світ виробляє незліченні петабайти таких артефактів. При використанні належної технології цифрові файли можна підробити, не залишивши слідів. А завдяки новим інструментам на базі штучного інтелекту бар’єри на шляху невиявленого синтезу всіх форм цифрових носіїв потенційно зникнуть.

Через декілька років по всьому світу можуть відбуватися мільйони контекстних атак, згенерованих штучним інтелектом, на історичні записи, що публікуються, і фейкова перенасиченість здатна буде дезорієнтувати будь-який академічний процес для розуміння подій, що відбувалися у суспільному житті.

В майбутньому науковці намагатимуться аутентифікувати цифрові документи так, як вони це роблять зараз: відстежуючи їхнє походження і вибудовуючи історичний та геостратегічно-ситуативний контекст, порівнювати версії на різних платформах і намагатися відстежити місце походження.

Зараз історична цілісність наших культурних онлайн-просторів – в жахливому стані. Вкрай важливі видання та веб-сайти зникають, архіви блогів пошкоджуються, ресурси у соціальних мереж перезавантажуються, онлайн-сервіси закриваються, а розділи коментарів, що містять історично цінні реакції на події, видаляються без попередження.

Якщо ці тенденції збережуться в майбутньому, цілком можливо, що фальсифікатори незабаром спробують створити новий історичний контекст за допомогою інструментів ШІ, виправдовуючи тим самим фейкові цифрові артефакти.

Спотворення автентичних джерел, а значить їхнє історичне винищення, підриває людську довіру та ставить під загрозу спадкоємність самої цивілізації.

Без вивірених цифрових первинних вихідних документів і без надійної хронології, в якій можна було б обмежити як документи, так і їхній цифровий контекст ,  майбутнє вивчення історії цього періоду буде значно ускладнено. А то й повністю знищено, якшо ми не пришвидшимо та не забезпечимо масове використання технології блокчейну через призму комунікаційно-контентної безпеки.

У світі атакуючих алгоритмізованих технологій бачити більше не означає: цілком цьому вірити. Тому на перший план виходять підходи та практики отримання сучасних навиків, вмінь і реальних компетенцій, які підсилюють синергетичну здатність спільноти (середовищ життя) створити умови для формування узгодженої позиції щодо того, що є правдою. Це докорінним чином вплине на ефективність соціумних зусиль у конструктивному діалозі життєвих позицій, кейсів, досвідів, які мають стати елементною базою спільних справ партнерів, а не просто фанатіючих від діпфейкових слів, тез, образів мас.

Ліна Вежель, ГО «Центр ККБ»