Гіганти стеження: Як бізнес-модель Google та Facebook несе загрозу правам людини

Зображення: Sebastien Thibault

Інтернет разюче змінив наш світ — змін такого масштабу не відбувалося з часів винайдення електрики. Понад половина населення світу користується інтернетом, щоб читати новини,спілкуватися з рідними, шукати роботу чи відповіді на термінові запитання. Він створив соціальні й економічні можливості такого масштабу і з такою швидкістю, які більшість людей п’ятдесят років тому не могли й уявити собі.

Враховуючи цю зміну, доступ до інтернету зараз вже вважається необхідним для забезпечення прав людини. Для понад чотирьох мільярдів людей інтернет став ключовим елементом спілкування, навчання, участі в економічній діяльності та соціальної й політичної самоорганізації.

Разом із цим, онлайн-життя цих мільярдів людей переважно залежить від сервісів, якими володіють лише дві корпорації. Дві компанії контролюють основні канали, якими послуговуються люди при користуванні інтернетом. Саме вони є власницями настільки важливих сервісів, що без них годі й уявити собі інтернет.

Facebook – найбільший оператор соцмереж у світі. Якщо порахувати загальну кількість користувачів і користувачок його соціальної платформи, сервісів для обміну повідомленнями WhastApp і Messenger, а також таких додатків, як Instagram, виявиться, що третина людей на планеті щодня користуються якимсь сервісом, що належить Facebook.Саме ця компанія визначає умови значної частини спілкування між людьми в цифрову епоху.

Інша компанія, Google, — власниця ще більшої частки онлайн-світу. Пошукові служби — критично важливе джерело інформації, і саме через Google відбувається близько 90%всього пошуку в інтернеті. Веб-переглядач Google Chrome — найбільш популярний серед аналогів у світі. Відеоплатформа YouTube, що належить цій компанії, — друга за розміром пошукова служба у світі та найбільша платформа відеоконтенту. На мобільній операційній системі Android, що належить Google, працює абсолютна більшість смартфонів світу.

Домінування Android особливо критичне, оскільки смартфони вже замінили комп’ютери як основний засіб доступу до інтернету та його використання. Смартфони знають про нас далеко не лише ту інформацію, що ми переглядаємо онлайн — вони також знають, куди ми їздимо і де перебуваємо. Вони часто містять тисячі приватних мейлів та повідомлень,фотографії, контакти та записи в календарі.

Google і Facebook допомогли нам встановити зв’язок зі світом і дали можливість мільярдам людей використовувати свої сервіси. Щоб бути залученими в сучасну економіку та суспільне життя, а також щоб користуватися правами людини, люди використовують доступ до інтернету — й інструменти, які пропонують Google і Facebook.

Однак попри те, що їхні сервіси дійсно важливі, люди систематично платять чималу ціну за використання платформ Google і Facebook. Бізнес-модель цих компаній, що ґрунтується на стеженні за людьми, змушує користувачів і користувачок іти на фаустівську угоду, в якій вони мусять коритися системі, що працює завдяки порушенням прав людини, щоб користуватися своїми правами людини онлайн. Починається все з порушення права на приватність у досі небачених масштабах, а далі спрацьовує ефект доміно, бо наслідки цього порушення серйозно загрожують деяким іншим правам, від свободи висловлювань та переконань до свободи думки та права не бути дискримінованими.

Це не той інтернет, на який колись погодилися люди. Коли Google і Facebook були започатковані зо двадцять років тому, в обох компаній були кардинально інакші бізнес-моделі, які не залежали від повсякчасного стеження. Те, що Google і Facebook поступово руйнували приватність — безпосередній наслідок того, як ці компанії займали лідерську позицію на ринку та починали контролювати глобальний онлайн-простір.

У розділі 1, «Бізнес на основі стеження», у звіті пояснюється, як працює бізнес-модель, що ґрунтується на стеженні: Google і Facebook пропонують безкоштовні послуги мільярдам людей — натомість громадяни платять за ці послуги своєю особистою інформацією.Зібравши ці дані, Google і Facebook використовують їх, щоб аналізувати людей, ділити їх на групи та передбачати їхні інтереси, характеристики і, зрештою, поведінку — насамперед для того, щоб використовувати цю інформацію для збільшення доходів від реклами.

Ця система стеження простягається далеко за межі пошукового рядка Google чи самої соцмережі Facebook. За людьми стежать по всьому інтернету, через додатки на телефонах, а також у реальному світі, поки вони займаються повсякденними справами.

Ці дві компанії збирають детальну інформацію про те, що ми шукаємо, куди ходимо, з ким розмовляємо, що кажемо, що читаємо, а за допомогою аналізу, що став можливим завдяки технологічному прогресу, можуть вгадувати наш можливий настрій, етнічне походження,сексуальну орієнтацію, політичні погляди та вразливі місця. Деякі з цих категорій інформації– включаючи характеристики, що захищаються відповідно до законів про права людини —вони надають третім сторонам, щоб вони могли обирати цільову аудиторію для реклами чи іншої інформації.

У розділі 2, «Напад на приватність», ми пояснюємо, як це повсякчасне стеження зруйнувало саму сутність нашого права на приватність. Йдеться не лише про втручання в особисте життя мільярдів людей, яке зовсім не можна вважати необхідним чи бодай пропорційним, а й про те, що як умову використання своїх сервісів ці компанії поставили «згоду» на обробку та поширення особистої інформації для маркетингу та реклами, що прямо суперечить праву вирішувати, коли і як наші особисті дані можна поширювати третім особам. Нарешті,використання алгоритмів, щоб створювати і вгадувати детальні характеристики людей,позбавляє нас можливості формувати власну ідентичність приватно.

Спершу цією інформацією користувалися рекламодавці, але як тільки ці банки даних було створено, вони стали ласим шматочком для урядових структур. Все просто: збір даних мільярдів користувачів і користувачок, який проводили Google і Facebook, сягнув такого рівня, що якби уряди намагалися збирати їх безпосередньо, з цим би ніхто не мирився.Обидві компанії відмовлялися надавати інформацію про своїх користувачів і користувачок урядовим структурам, однак можливість доступу до таких даних значно знизила мотивацію урядів регулювати те, як корпорації збирають дані про користувачів і користувачок.

Порушення приватності — наріжний елемент бізнес-моделі Google і Facebook, що ґрунтується на стеженні — яскраво проявляється у численних скандалах на цю тему в обох компаній. Попри запевнення цих компаній, що вони дотримуються політики приватності,такі порушення вбачаються швидше як елемент нормального функціонування їхнього бізнесу, а не як виняткові випадки.

У розділі 3, «Масштабна аналітика даних: додаткові ризики для прав людини», ми розглядаємо, як платформи Google і Facebook залежать не лише від збору величезної кількості даних користувачів і користувачок, а й від отримання додаткових висновків й інформації на основі цих даних за допомогою складних алгоритмічних систем. Ці системи створено для того, щоб знайти якнайкращий спосіб досягти тих результатів, які потрібні компанії, включно з якнайточнішою демонстрацією реклами та «гачками», які змушують людей повертатися на платформу. В результаті, коли дані користувачів і користувачок вже було зібрано, ця інформація повертається до них самих.

Уже виявлено, що такі системи алгоритмів мають ефект доміно, що серйозно загрожує правам людини, включно зі свободою висловлювань та переконань, свободою думки та правом на рівність і недискримінацію. Ці ризики тільки підсилює те, наскільки великі та потужні платформи Google і Facebook, оскільки їхній масштаб уможливлює загрозу для прав людини на рівні цілого народу. До того ж, системи, що займаються аналізом складних даних,не завжди зрозумілі навіть для спеціалістів із комп’ютерних наук, не кажучи вже про мільярди людей, дані яких при цьому обробляються.

Скандал із Cambridge Analytica, у якому було зібрано дані з профілів 87 мільйонів користувачів і користувачок Facebook bз метою мікротаргетингу та маніпуляції в рамках передвиборчих політичних кампаній показав усьому світові, наскільки велика здатність цих платформ маніпулювати людьми у великих масштабах — і наскільки велика загроза того, що цими даними недоброчесно скористається хтось інший. Однак яким би шокуючим не був цей випадок, це була лише верхівка того айсберга стеження, без якого неможлива бізнес-модель Google і Facebook.

Нарешті, у розділі 4, «Концентрація влади — перешкода для підзвітності», ми показуємо, як завдяки величезним обсягам накопичених даних та обчислювальним потужностям Google іFacebook стали одними з найдорожчих і найсильніших компаній у наш час. Ринкова вартістьGoogle майже вдвічі перевищує ВВП Ірландії (де розташовані центральні європейські офіси обох компаній), а вартість Facebook на третину вища. Бізнес-модель обох компаній допомогла їм фактично монополізувати владу, включно з фінансовим потенціалом,політичним впливом та здатністю творити онлайн-досвід мільярдів людей. Наслідком цього стала безпрецедентна асиметрія знання між компанією та інтернет-користувачами та користувачками — як зазначає науковиця Шошана Зубофф: «Вони знають про нас все, ми про них — майже нічого».

Ця влада, сконцентрована у двох компаній, тісно пов’язана з наслідками такої бізнес-моделі для прав людини і створила прогалину в підзвітності, за якої державній владі складно притягнути ці компанії до відповідальності, а окремим користувачам і користувачкам —домогтися справедливості.

Держави зобов’язані захищати людей від порушень прав людини з боку корпорацій. Але протягом останніх двох десятиліть ІТ-компанії переважно мали можливість самостійно регулювати свою діяльність — у 2013 році колишній генеральний директор Google Ерік Шмідт описав онлайн-світ як «найбільший некерований простір у світі». Разом з тим,регуляторні установи та державні органи влади у різних юрисдикціях почали більше схилятися до того, що треба боротися з владою, зосередженою в руках Google і Facebook.Вони розслідують діяльність цих компаній у зв’язку з антимонопольними порушеннями,штрафують їх за порушення європейського Регламенту захисту персональних даних або встановлюють окремі правила оподаткування для великих ІТ-компаній.

Компанії відповідальні за дотримання прав людини в контексті своєї діяльності, що зобов’язує їх проводити так звану «правозахисну перевірку», щоб визначити можливі наслідки їхньої роботи для прав людини та вжити заходів для недопущення порушень. Google і Facebook прийняли політики та процедури, щоб забезпечити дотримання приватності та свободи висловлювання, — однак, враховуючи, що їхня бізнес-модель на основі стеження підриває саму сутність права на приватність та серйозно загрожує деяким іншим правам, вони не переймаються ані комплексним підходом до цих політик, ані тим, чи їхня нинішня бізнес-модель узагалі поєднується з відповідальністю за дотримання прав людини.

Amnesty International дала і Google, і Facebook можливість відреагувати на результати цього звіту до його публікації. Лист Facebook, надісланий у відповідь, подано в додатку до звіту. Amnesty International також поспілкувалась із менеджерами Google високого рівня, які надали інформацію про відповідні політики та практики. Зміст обох відповідей використовується у тексті звіту.

Зрештою, уже стає очевидно, що доба саморегулювання у сфері технологій добігає кінця: потрібне буде потужніше державне регулювання, але критично важливо, щоб підхід до цього регулювання, в якій би формі воно не здійснювалось, ґрунтувався на дотриманні прав людини. Урядам слід вжити заходів для зменшення шкоди від бізнес-моделей на основі стеження — запровадити політику цифрового регулювання, що мала б на меті забезпечити універсальний доступ до прав людини та їх дотримання, зменшити чи ліквідувати нав’язливе стеження та втілити реформи, зокрема структурні, які б відновили довіру до інтернету.

Topics