Індустрія розпізнавання обличчя: капіталізація почерку поведінки людини чи гонитва за бюджетами тотального контролю світу даних?

Цифровий почерк поведінки людини

та її цифровий слід остаточно переміг

 письмовий почерк людини

 і навіть її культуру бути людиною

(З дискусії експертів щодо

цифровізації життя, серпень 2020)

 

За останні кілька років ми стали свідками впровадження автоматизованих систем розпізнавання обличчя у різних соціальних сферах і в геостратегічних масштабах. Ці технології використовують також транснаціональні інфраструктурні корпорації. За охопленням територій і кількістю споживачів продукції вони часто масштабніші деяких континентів. Хоча ці технології найчастіше асоціюються з обіцянками зміцнити громадську безпеку, з’являється все більше інших програм розширеного функціоналу – від перевірки особистості користувачів банку, фіксації присутності на шкільних заняттях, до «розумних рекламних щитів», на яких відображається певна версія реклами як алгоритмічна реакція на настрій перехожих.

Згідно зі звітом GMD Research, до 2030 року світовий ринок технологій біометричної ідентифікації обличчя досягне $20,63 млрд при річному зростанні 17,2 % з 2020 року.

Технологія розпізнавання облич (ТРО)  –  це узагальнений термін, який використовується для опису набору застосунків, що виконують певне завдання з використанням людського обличчя для перевірки або ідентифікації особи. ТРО може створювати засоби для ідентифікації та класифікації людей у масштабі, заснованому на їхніх фізичних особливостях, включно зі спостереженнями або висновками про характеристики, які належать виключно до сфери захисту  –  наприклад, расова приналежність, етнічні унікальності, гендерні особливості, вікові характеристики, статус особливих вад людини.

Можна перевіряти індивідуальну ідентичність, порівнюючи цільове зображення з даними, що зберігаються в файлі, для підтвердження збігу – це розпізнавання облич «один до одного». Також – із базою даних потрібних об’єктів. Це «один до багатьох». Найамбітніша форма – узгодження «все для всіх», тобто зіставлення кожного зображення з вичерпною базою даних кожної людини у державі.

Всякий подібний технологічний алгоритм виконується або асинхронно, або у режимі реального часу. Його можна застосовувати для окремих (дезагрегованих) потоків даних чи використовувати для об’єднання потужних наборів даних спостереження.

Технологія набула величезного поширення у сфері правоохоронної діяльності та в управлінських стилістиках авторитарних політичних режимів.

Правоохоронці спеціально використовують її для відстеження можливих загроз і прогнозування злочинної поведінки, хоча потенціал використання даних ТРО набагато ширший. Програмне забезпечення може контролювати життєві (біологічні) прояви тіла людини за допомогою комбінації комплексних даних біометрії (вимірювання фізичних та поведінкових характеристик), антропометрії (вимірювання морфології тіла) і фізіометрії (вимірювання функцій організму, таких як частота серцевих скорочень, артеріальний тиск та інші характеристики фізичного стану).

Біометрична ідентифікація обличчя стала однією з основних світових сфер ІТ–інвестицій як з позиції розробки технологій, так і функціонального лобіювання. Це дозволяє правоохоронним органам і приватним компаніям безперешкодно її використовувати. Технологія почала з’являтися в державних контрактах, при цьому деякі компанії, такі як Clearview AI, таємно збирали мільярди фотографій з соціальних мереж, щоб побудувати майже універсальну систему розпізнавання облич.

Критики і скептики цієї технології, зокрема з компаній розробників, наполягають на прозорості та дієвому регулюванні її використання. Деякі з цих зусиль увінчалися успіхом.

Сан-Франциско, Окленд (Каліфорнія) і Сомервілл (Массачусетс), Бостон заборонили використання розпізнавальних систем. Одним з останніх аргументів заборони став експеримент, проведений Американським союзом громадянських свобод (ACLU). В розроблену Amazon програму Rekognition завантажили 25 тис. облич заарештованих, а також фотографії членів каліфорнійських законодавчих зборів. Алгоритм помилково ідентифікував 28 осіб як підозрюваних поліцією.

Скріншот ACLU

Крім муніципальних заборон, системи розпізнавання облич також привернули увагу федеральних законодавців. У кінці червня члени Палати представників і Сенату США внесли на обговорення закон, що забороняє федеральним агентствам використовувати цю технологію, а також позбавляє підтримки правоохоронні органи штату і місцеві правоохоронні органи, які нею користуються. Сенатори Джефф Мерклі і Берні Сандерс представили законодавчу ініціативу із заборони приватним компаніям без згоди громадян сканувати їхні обличчя системами розпізнавання, а також торгувати біометричними даними.

«Ми не можемо дозволити компаніям наживатися на обличчях і відбитках пальців людей без їхньої згоди,  –  заявив сенатор Джефф Мерклі.  –  Ми повинні боротися проти стеження «Великого брата», яке знищує нашу приватність і наш контроль над власною біометрією, будь то загроза з боку уряду або приватних компаній».

Поштовхом до появи законопроєкту стало повідомлення Reuters про використання камер спостереження з розпізнаванням обличчя в аптеках мережі Rite Aid без згоди покупців. Компанія вже відмовилася від цієї практики. Але історія з аптечною мережею  –  не поодинокий випадок, бо насправді десятки американських міст або вже контролюють своїх жителів через камери спостереження і системи зі штучним інтелектом, або збиралися закупити такі системи.

Саме тоді, коли Конгрес США та деякі штати вирішують питання  поглиблення та якісної трансформації людської “конфіденційності та точності використання наданих ситуативних даних», пов’язані з комерційним використанням технологій найбільші світові компанії намагаються випередити законодавство, публікуючи новий набір етичних принципів.

Ще в червні відразу три великі корпорації – IBM, Amazon і Microsoft  –  різко змінили свою позицію щодо розробки розпізнавальних технологій. Дії техногігантів обумовлені ризиками, пов’язаними з використанням штучного інтелекту, особливо коли мова йде про різновиди упередженості і можливе вторгнення в приватне життя. Також не можна не враховувати вплив публічного контексту останніх громадянсько-політичних подій в США, пов’язаних з протестами і заворушеннями, що спалахнули після загибелі Джорджа Флойда. Експерти відзначають, що компанії пішли на такий крок під зростаючим тиском громадської критики, і не виключають змін експертиз застосування у біометричній сфері.

Хоча заяви IBM, Amazon і Microsoft були публічно (комунікаційно-контентно) гучними, вони не є основними постачальниками програмного забезпечення для розпізнавання обличчя. Це означає, що поліцейські департаменти зможуть купувати його у інших виробників. Clearview AI, японська NEC і Ayonix, німецька Cognitec і австралійська iOmniscient підтвердили намір співпраці з поліцією США.

Завуальований зміст публічних обіцянок залишає багато місця для роздумів і ставить під сумнів наміри техногігантів щодо демонтажу репресивних систем, які посилюють людські упередження та обмежують конституційні свободи.

Минулого тижня Асоціація індустрії безпеки (SIA), торгова некомерційна організація, яка представляє понад 1100 підприємств, що забезпечують широкий спектр продуктів та послуг безпеки в Сполучених Штатах і на міжнародному рівні, оприлюднила загальні принципи того, що вона вважає відповідальним використанням технології розпізнавання обличчя. Документ також застерігає від широкого регулювання розпізнавальних систем. На думку SIA, заборона на розробку і застосування систем  –  стратегічно неправильне рішення.

«SIA вважає, що всі технологічні продукти, включаючи розпізнавання облич, повинні використовуватися тільки в законних, етичних і недискримінаційних цілях»,  –  йдеться в документі. «Загальні мораторії і заборони блокують як перевірені поточні застосування, так і потенційні майбутні вигоди для багатьох сфер використання».

На папері принципи SIА звучать досить привабливо: точність, недискримінація, прозорість, підзвітність та опір використанню технології для масового спостереження правоохоронними органами.

Насправді представникам Асоціація індустрії безпеки байдуже, чи дотримуються ці принципи. Найбільш відомі члени організації успішно та регулярно продають LFR (live facial recognition) правоохоронним органам. Поліцейські департаменти від Техасу до Вірджинії придбали програмне забезпечення, що використовує алгоритми NEC або безпосередньо, або через компанії, які постачають технології для правоохоронців, такі як DataWorks Plus у Південній Кароліні. Це підтверджується матеріалами NEC і запитами Джорджтаунського юридичного центру з питань конфіденційності і технологій.

А от у Великобританії встановлена NEC система розпізнавання обличчя виявилася вкрай неефективною під час незалежного тестування і фактично була визнана Апеляційним судом Великобританії порушенням законів про права людини і конфіденційності даних.

Принципи SIA також припускають, що уряди і організації повинні «утримуватися від співпраці з компаніями та/або продуктами, які причетні до порушень прав людини». Однак два члена асоціації, Dahua і Hikvision, були внесені урядом США в чорний список через порушення прав людини у китайському регіоні Сіньцзян під час кампанії, спрямованої проти уйгурів та інших етнічних мусульманських меншин.

Рекомендації Асоціації індустрії безпеки з відповідального використання розпізнавальних систем не дотримуються ні компанії, що продають технологію, ні покупці, які її купують. SIA радить державним органам інформувати громадськість про придбання систем. Але таке трапляється дуже рідко, за винятком випадків, коли про це повідомляють журналісти.

Аргументи SIA, яка витрачає близько $150 тис. доларів на рік на лобіювання Конгресу, виглядають достатньо переконливо і спрямовані на те, щоб запевнити законодавців в тому, що технологія може бути безпечно розгорнута за умови правильних нормативних і добровільних етичних перевірок.

Деякі компанії закликають до регулювання галузі і заявляють про допомогу у розробці відповідного законодавства. Це стурбувало критиків технологічної індустрії. Вони вважають, що Big Tech робить спробу домогтися моральної переваги, одночасно використовуючи свої значні лобістські можливості, щоб просувати власну політику та продовжувати брати участь у тендерах на отримання контрактів на державний нагляд. «Я думаю, що вони, безсумнівно, можуть заробити більше грошей на оновленому розпізнаванні облич, ніж на забороненому розпізнаванні облич»,  – сказав Метью Гуарілья (Matthew Guariglia) політичний аналітик Electronic Frontier Foundation, групи з цифрових прав.

Перед нами постає світова проблема концентрації та агрегації даних для подальшої капіталізації цифрового сліду людини в її житті. Часто це виходить за межі правоохоронних функцій, бо технології під умовною назвою «розпізнавання обличчя» охопили майже всі психофізичні виміри поведінкової діяльності людей. Таким чином формується нова сфера страху та домінуючої моди на правильну чи неправильну поведінку. Це змушує людину виробляти свій стиль поведінки не через усвідомлено-культурні феномени, а через алгоритмічні побажання та обмеження. Очевидним стає і те, що подібні технології в таких масштабах дуже мало торкаються питань безпеки і захисту громадян, а більше – охорони та захисту політичних режимів різного стану демократичності чи цивілізаційності.

Ліна Вежель, ГО «Центр ККБ»

 

В матеріалі використані ілюстрації з мережі Інтернет.