Автор: Джо Вестбі, дослідник Amnesty Tech
24 червня 2019
Саме скандал нарешті розкрив темну сторону системи великих даних, що лежать в основі Інтернету. У новому документальному фільмі «Великий злам» від Netflix розповідається історія про те, як компанія Cambridge Analytica зловживала особистими даними користувачів Facebook для мікронацілювання та маніпулювання виборцями під час виборчої кампанії у США.
Одне з найбільш важливих та незручних питань, які порушує фільм: наскільки ми вразливі до маніпуляцій нашою поведінкою?
Джо Вестбі
Але, як розповідає режисерам колишній генеральний директор уже неіснуючої Cambridge Analytica, фільм стосується «не тільки однієї компанії». Мета кінострічки – відкрити наші очі на те, як за нашим життям постійно стежать і контроюють його за допомогою цифрових технологій. В основі фільму лежить і те, як схеми бізнесу деяких компаній, що оперують великими даними, можуть порушувати права людини.
В Інтернеті та в цифровому світі все, що ви робите, залишає сліди «викиду даних» – це записи про все, починаючи з того, коли ви долили бензин у свій автомобіль, і закінчуючи тим, які веб-сайти відвідали. Навіть тоді, коли здається, що поодинокі, залишені десь дані не мають значення, у своїй сукупності вони можуть БАГАТО розповісти про людину.
Cambridge Analytica похвалилася, що має до 5000 точок даних щодо кожного виборця в США. Застосовуючи «психографічну» аналітику до своєї бази даних, компанія стверджує, що може визначати типи особистості людей, а також формувати зміст мікро-цільових повідомлень, щоб впливати на їхню поведінку. Найважливішим джерелом особистих даних був Facebook. За допомогою стороннього додатку Cambridge Analytica випадково отримала дані 87 мільйонів профілів користувачів у Facebook, включно з годинами оновлення статусів, кількістю лайків та навіть змістом приватних повідомлень.
Але отримання доступу до цих даних не було випадковістю: це був неминучий наслідок існування системи, заснованої на збиранні та монетизації інформації про користувачів. Таку бізнес-модель вчена Шошана Зубоф називає «капіталізмом стеження». Основні характеристики моделі: збирання величезної кількості даних про людей, використовуючи їх для отримання дуже детальних описів про їхні життя та поведінку. А також, відповідно, монетизація цих даних шляхом продажу їх, наприклад, рекламодавцям. Cambridge Analytica просто використала таку базову модель для орієнтації не на споживачів, а на виборців.
Ця модель стала основою економіки бази даних та лежить в основі складної системи технологічних компаній, брокерів даних, рекламодавців та інших. Піонерами її використання стали Google та Facebook, що мають безпрецедентний доступ до відстеження та монетизації нашого життя, контролюючи основні шлюзи – за межами Китаю – до світового Інтернету (пошукова система Google, Chrome, Android, YouTube, Instagram та WhatsApp).
Facebook та Google зібрали бази даних з небаченим обсягом інформації про людей. Це набагато більше виходить за межі особистих даних, якими ви хочете поділитися на своїх сторінках. Така база даних збирає величезних обсяг інформації про користувачів, яка отримується під час будь-якої взаємодії з цифровим світом.
Джо Вестбі
Звісно, Facebook і Google уже давно підтвердили свою готовність поважати права людини. Однак вони все частіше змушують нас сумніватися, чи сама модель стеження завдяки інтернету не заперечує концепцію прав людини.
Facebook та Google зібрали бази даних з небаченим обсягом інформації про людей. Вони виходять далеко за межі особистої інформації, якою ви хочете ділитися на своїх сторінках. Такі бази даних збирають величезний обсяг відомостей про користувачів, що отримуються під час будь-якої взаємодії з цифровим світом. Масовий корпоративний нагляд у таких масштабах загрожує самій природі права на приватне життя. Так, ще 2010 року генеральний директор Facebook Марк Цукерберг, як відомо, визнав, що соціальна мережа вже змінила конфіденційність як «соціальну норму».
Але збирання даних – це лише частина плану. Наступний крок –застосування вдосконаленої аналітики, що базується на машинному навчанні, для складання характерики людей, – а отже і для впливу на нашу поведінку. Під час фурору навколо Cambridge Analytica, Facebook-івські методи профілювання проминули увагою. Соцмережа досліджувала способи визначення типу особистості, маніпулювання людськими емоціями, а також таргетувала людей, використовуючи а їхні психологічно вразливі місця, наприклад, коли вони почувалися «нікчемими» або «невпевненими в собі». Google навчився таргетувати рекламу настільки точно, що вона здатна була впливати на вподобання споживачів і змінювати їхню поведінку за допомогою «соціальної інженерії». До речі, остання спочатку розроблялась для протидії ісламському екстремізму, а наразі загальнодоступна для (неправильного) використання.
Одне з найактуальніших і найнезручніших питань, яке порушує «Великий злам»: наскільки ми вразливі до подібних маніпуляцій нашою поведінкою? Зрештою, якщо можливості компаній є настільки сильними, як вони самі заявляють, то наша здатність приймати самостійні рішення чи навіть наше право на власну думку– під серйозною загрозою. Це підриває фундаментальну цінність гідності людини, яка лежить в основі всіх наших прав. Реклама та пропаганда не є новими механізмами для суспільства, але досі не було прецеденту для використання настільки особистих даних та ще і в масштабах усієї планети.
Прагнення привернути увагу користувачів та утримати їх на сторінках у соціальних мережах також може посилити поточну негативну тенденцію до політики демонізації.
Джо Вестбі
Модель «капіталізму стеження» також може сприяти дискримінації. Компанії та уряди держав можуть легко зловживати даними для таргетування людей на основі їхньої расової, етнічної приналежності, віросповідання, статі чи інших характеристик. Прагнення привернути увагу користувачів та утримати їх на сторінках у соціальних мережах також може посилити поточну негативну тенденцію до політики демонізації. Люди частіше звертають увагу на сенсаційний чи популярний матеріал, тобто платформи систематично заохочують теорії змови, мізогінію та расизм.
Що можна зробити? Бізнес-модель, що базується на даних, – це системна та структурна проблема, вирішити яку буде непросто. Вона вимагає поєднання політичних та нормативних заходів. Сильніша охорона даних, безумовно, є частиною відповіді: належне виконання європейського Загального регламенту щодо захисту даних може зменшити масштаби збору даних та профілювання.
Більш радикальні заклики щодо розз’єднання компаній, які оперують великими даними, стали більш частими, цю індустрію вже перевіряють компетентні органи. Нещодавнє рішення німецького національного регулятора конкуренції обмежити обмін даними та агрегацію між Facebook і WhatsApp – приклад протидії концентрації влади в руках «великих гравців».
Які б регуляторні інструменти не використовувались, важливо, щоб вони були обґрунтовані аналізом ризиків, пов’язаних із реалізацією прав людини, які обмежує така бізнес-модель. Права людини є єдиним міжнародним, юридично обов’язковим орієнтиром, що може відображати вплив бізнес-моделі на наше життя, а також вимагати відповідальності від компаній.
Певна річ, нинішні зусилля – це не подолання першопричин проблеми. Два тижні тому американські правоохоронці затвердили рекордну суму штрафу у розмірі п’ять мільярдів доларів для Facebook через Cambridge Analytica. Але після звістки про штраф, ціна акцій Facebook лише зросла.
Урок: компанія та її інвестори будуть зацікавлені, аби це був поодинокий випадок. Вони заплатять деякі відносно номінальні штрафи (п’ять мільярдів доларів – це крапля в океані для компанії, яка отримує 22 млрд доларів чистого прибутку на рік) і внесуть кілька поліпшень у захист конфіденційності, але потім повернуться до попередньої політики, як і завжди.
Ми не можемо цього дозволити. Настав час протистояти порушенням прав людини «капіталізмом стеження».
ЧИТАЙТЕ ТАКОЖ: Digital&Права людини