Время решать. Весь мир оказался под тотальным контролем соцсетей. Как спасти человечество от их диктатуры?

При Бараке Обаме крупнейшие соцсети расцвели и захватили глобальный рынок, при Дональде Трампе в них рассмотрели монополистов, уничтожающих все вокруг. Facebook, WhatsApp и YouTube влияют на умы людей по всему миру, но призвать их к ответу получается далеко не у всех стран. Как соцсети оказались способны заставить замолчать даже президента США и что нужно сделать, чтобы защитить от их влияния миллиарды людей? Об этом — в материале «Ленты.ру» в рамках масштабного проекта «Алгоритм. Кто тобой управляет?»

В феврале 2008 года участник группы The Black Eyed Peas will.i.am вместе с актрисой Скарлетт Йоханссон, участницей группы Pussycat Dolls Николь Шерзингер и еще десятком знаменитостей выпустили на YouTube клип Yes We Can. Песня полностью состояла из фраз кандидата в президенты США Барака Обамы. Известные актеры, музыканты и спортсмены с улыбкой повторяли за политиком вдохновенные фразы о будущем Америки.

Клип произвел эффект разорвавшейся бомбы: за полгода он собрал 20 миллионов просмотров — просто космические цифры для того времени.

Так началась эпоха политики в интернете. Обама и его сторонники поняли, что молодое поколение все меньше смотрит телевизор, зато постоянно сидит в сети. Уже тогда в Facebook можно было обсудить интересующую тему и найти друзей по всему миру, а на YouTube — посмотреть тысячи видео.

Если бы не интернет, Барак Обама не стал бы президентом. Он бы даже не стал кандидатом от демократов

писали американские СМИ

Обама дотянулся до каждого своего избирателя, и к тому же очень сэкономил на предвыборной кампании. По подсчетам специалистов, общее время просмотра предвыборных роликов в поддержку Обамы на YouTube составило 14,5 миллиона часов. Аналогичный эффект от телерекламы обошелся бы в 47 миллионов долларов.

К 2012 году Обама завел аккаунты в Facebook, Twitter и MySpace, чтобы привлечь молодую аудиторию, которая традиционно считалась незаинтересованной в политике. Он общался с пользователями Reddit, давал интервью YouTube-блогерам и фотографировался на телефон с селфи-палки — одним словом, делал все, чтобы предстать перед новым поколением живым человеком, а не кабинетным политиком.

Выступления Обамы и его оппонентов порождали в соцсетях бурные дискуссии. Предвыборный штаб демократа собирал и анализировал эти данные, чтобы потом настроить таргетированную рекламу в Facebook. Еще задолго до того, как словари начали повально признавать fake news фразой года, у предвыборного штаба Обамы существовал специальный сайт для борьбы с фейками — Fight the Smears («Борьба с клеветой»). На нем опровергали мифы о том, что кандидат в президенты поддерживает террористов или на самом деле родился не в США, а в Африке.

В 2012 году главным соперником Обамы на выборах был республиканец Митт Ромни. Но его отношения с интернетом складывались совсем по-другому. Неудачные высказывания быстро превращались в мемы, плодились фейки, но его штаб не знал, как с этим бороться. В отличие от Обамы, который понял: с соцсетями не надо сражаться, их надо правильно использовать.

***

Соцсети помогли Обаме стать президентом. Он в ответ помог им вырасти, окрепнуть и захватить контроль над миллиардами людей.

В 2007 году Facebook стоил 15 миллиардов долларов, а в 2015 году — 225 миллиардов. Капитализация Google к 2015 году выросла до 478 миллиардов долларов. В этом же году результаты 25 процентов выборов в мире были определены Google: избиратели верили тому, что находили и читали о кандидатах в поиске. В 2017 году власти 30 из 65 стран использовали соцсети для манипуляций общественным мнением. В 18 из них залогом победы стала дезинформация: на место прямого общения с избирателями пришли купленные комментарии, боты, фейковые новости и откровенная пропаганда.

В списке стран, чьи выборы правозащитники посчитали нечестными, значились и США. Все из-за президентских выборов 2016 года, когда к власти пришел республиканец Дональд Трамп. И если Обама и его кампания Yes We Can символизировали все лучшее в интернете, то при Трампе в полной мере раскрылась темная сторона сети.

Главным соперником Трампа стала Хиллари Клинтон — кандидатка от Демократической партии, которую горячо поддерживали многие молодые прогрессивные американцы. И в штабе Трампа нашли слабое место соперницы: Facebook заполонили самые дикие выдумки о здоровье Клинтон. Посты сопровождались фотошопами с ее синюшным лицом и черными мешками под глазами. Заголовки для убедительности писались заглавными буквами и максимально кликбейтно: «Вот что происходит НА САМОМ ДЕЛЕ» или «ПРАВДА РАСКРЫТА. СМИ не хотят признавать, что…».

Одни пользователи лайкали такие посты и не читали дальше заголовка, другие пытались спорить в комментариях. Верили пользователи в фейки или нет — неважно.

Для Facebook любое взаимодействие с постом означало одно: публикация популярна, а значит, ее надо нести дальше в ленты пользователей. Остановить повальное распространение фейков оказалось не под силу даже самим соцсетям.

В то же время стало ясно, что людей вообще не волнуют доказательства той или иной теории заговора, а фейк не может остановить даже его опровержение. Так произошло с фотографией нескольких автобусов, на которых якобы проплаченных людей привезли митинговать против Трампа. За ночь фото собрало 16 тысяч репостов в Twitter и более 350 тысяч — в Facebook. Вот только на автобусах приехали не подставные протестующие, а участники конференции для программистов.

Автор фото удалил твит и назвал его фейком. Но это не помогло: в его правдивость поверил даже сам Трамп.

Сторонники Трампа использовали еще одну простую уловку: запустили таргетированную рекламу, в которой значилась неправильная дата выборов. Или вообще убеждали избирателей, что ходить на выборы не нужно. Вместо этого можно отправить сообщение на короткий номер с фамилией кандидата, и голос засчитается автоматически. Все эти публикации показывались сторонникам Хиллари Клинтон.

На один из таких номеров пришли сообщения от пяти тысяч человек — все они поверили, что СМС будет достаточно. Автора шутки Дугласа Макки в начале 2021 года арестовали и обвинили в заговоре против Клинтон.

Последующий анализ показал, что среди всех публикаций кандидатов в президенты был всего один процент фейков.

Но у алгоритмов соцсетей такие новости были крайне популярны. Дезинформация увлекала читателей куда сильнее: 20 самых популярных настоящих новостей накануне выборов собрали в Facebook 7,4 миллиона лайков, репостов и комментариев. 20 самых популярных фейков — 8,7 миллиона.

В 2018 году весь мир узнал о существовании британской компании Cambridge Analytica. Она собирала данные миллионов пользователей Facebook с помощью нехитрого психологического теста под названием «Это ваша цифровая жизнь» (This is your Digital Life). Тест выглядел как обычная викторина. Ответы пользователей позволяли составить их точный цифровой портрет, а затем точечно таргетировать на разных людей именно ту рекламу, которая произведет на них максимально сильное впечатление. Услугами компании пользовались в основном в политических целях.

Несмотря на то что Cambridge Analytica существовала с 2013 года, вопросы к ней появились только после победы Трампа на выборах. Не сильно разобравшись в технологиях манипуляций, в триумфе республиканца обвинили лично главу Facebook Марка Цукерберга.

***

Лично Трамп считает, что победил не благодаря Facebook, а скорее вопреки. Он был уверен, что соцсеть Цукерберга намеренно скрывала из лент пользователей публикации его сторонников. А демократов, наоборот, всячески продвигала.

В итоге соцсеть столкнулась сразу с несколькими глобальными проблемами. Кейс Cambridge Analytica показал, что соцсеть слабо модерирует рекламные объявления, и продвигать в ней можно что угодно. Посты пользователей вообще не проходили премодерацию и проверялись людьми только тогда, когда на запись массово жаловались. И в том, и в другом случае было понятно: Facebook халатно относится к контенту на площадке, а автоматическими алгоритмами никто не управляет.

Цукербергу пришлось лично извиняться за скандал с Cambridge Analytica, но прямую вину Facebook он так и не признал. А топ-менеджеры Facebook уточняли, что пользователи сами соглашались на сбор данных при запуске викторины.

И это было действительно так, но с оговоркой: соцсеть не препятствовала тому, чтобы эта викторина работала на площадке и собирала любую информацию о реальных людях.

Facebook нужно было срочно реагировать на скандал, пришлось запустить автоматическую проверку фейковых новостей. Но алгоритмы работали плохо: они назвали поддельной фотографию советского солдата со знаменем Победы над Рейхстагом, а снимок канадского репчатого лука забанили за излишнюю сексуальность.

В 2020 году Трамп снова выдвинул свою кандидатуру на пост президента США, и в этот раз площадки подготовились куда лучше: вся политическая реклама уже была запрещена, а посты Трампа автоматически помечались как фейковые. В январе 2021 года Трамп уступил в президентской гонке Джо Байдену, но так просто сдаваться не хотел. Во всех соцсетях он трубил о том, что выборы прошли с нарушениями, а голоса надо пересчитать. Его высказывания посчитали призывом к беспорядкам и заморозили его профили в YouTube, Instagram и Facebook. Twitter удалил его аккаунт навсегда.

В итоге 2021 год начался с того, что крупнейшие IT-корпорации мира заставили замолчать действующего президента США. Более того — пообещали никогда не возвращать Трампу право голоса, даже если он снова возглавит страну. Никакого наказания за это соцсети не понесли.

***

Синхронная атака всех соцсетей на Трампа легко объяснима. Четыре года его президентства были тяжелыми для IT-гигантов. При республиканце было начато масштабное расследование против Facebook и Google, он подписал указ о государственном регулировании соцсетей и обязал площадки нести ответственность за публикуемый контент.

Расследование началось в 2019 году. Антимонопольный подкомитет конгресса США 16 месяцев изучал деятельность Amazon, Apple, Facebook и Google и пришел к выводу, что компании действительно обладают монопольной властью в ключевых сегментах бизнеса.

Летом 2020 года главы четырех IT-гигантов выступили на слушаниях. Цукерберг выразил готовность сотрудничать, но дал понять, что не считает себя монополистом.

Компания не становится плохой только потому, что она большая

Марк Цукерберг

В итоге IT-гигантов обвинили в нарушении закона о конкуренции. Amazon, Apple, Facebook и Google при Трампе неожиданно стали врагами инноваций, пользователей и демократии. Впервые в своей истории они оказались под угрозой регулирования. Некоторые компании и вовсе предложили разделить.

В конце 2020 года Федеральная торговая комиссия (FTC) США подала иск против Facebook и потребовала продать часть дочерних предприятий. В иске говорилось, что покупки мессенджера WhatsApp и сервиса Instagram привели к тому, что Facebook избавилась от конкурентов и усложнила жизнь другим компаниям. FTC также предложила обязать Facebook согласовывать все крупные сделки на сумму от 10 миллионов долларов. Разделить решили и Alphabet — огромный холдинг, которому принадлежат Google и YouTube.

Однако обе сделки Facebook — и покупка Instagram в 2012 году, и покупка WhatsApp в 2014 году — были одобрены американским регулятором, когда президентом был Обама. Сейчас во главе США снова демократ — Джо Байден, и разбирательство все еще не закончено. Но специалисты уверены, что расследование не приведет к реальным изменениям. Более того, разделение компаний не поможет разрушить их монополию: Google и Facebook скупают конкурентов почти каждую неделю, могут и продать парочку-другую ради формальности.

***

Крупнейшие в мире IT-корпорации отказались считать себя вредными для демократии монополистами. В своих речах и глава Facebook Марк Цукерберг, и глава Google Сундар Пичаи неоднократно повторяли, что демократия и свобода слова для них священны и незыблемы.

На самом деле эти ценности важны для корпораций, лишь когда им это выгодно. Там, где свобода слова особо не ценится, а рынок большой и привлекательный, компании готовы пренебречь принципами. Так, например, произошло с Китаем.

Власти Поднебесной еще в конце 90-х поняли, что свободный интернет опасен для государственного строя. В 2003 году запустился «Золотой щит», или «Великий китайский файрвол», — система, призванная фильтровать и цензурировать весь неподобающий контент. Официально ее создали для борьбы с экстремизмом, терроризмом и подрывом социальной стабильности, но на самом деле она быстро разрослась в сторону подавления любого инакомыслия.

Со временем в список заблокированных ресурсов попали Facebook, Instagram, Twitter, Google, YouTube, а также многие западные СМИ и агрегаторы: New York Times, Bloomberg, The Wall Street Journal, Google News, The Washington Post, The Guardian и другие. В общей сложности в список входит более 10 тысяч сайтов, и он постоянно пополняется.

Google ушла из Китая в 2010 году, так и не договорившись с местными властями о правилах работы. Facebook годами безуспешно пыталась открыть представительство в Китае. Ни та, ни другая компания не оставила попытки попасть в страну с миллиардом платежеспособных пользователей, но чтобы проникнуть на китайский рынок, нужно строго следовать его правилам. В том числе заниматься жесточайшей цензурой и забыть о свободе слова.

В 2018 году стало известно, что Google работает над проектом Dragonfly («Стрекоза») — специальным поисковиком для Китая. В нем избавились от ссылок на статьи в «Википедии» о правах человека, демократии, религии. Его пользователи никогда не узнали бы, что результаты поиска подвергаются цензуре. Каждый их запрос предполагалось связать с номером телефона пользователя.

Вскоре слухи о разработке Dragonfly утекли в прессу. Google пришлось оправдываться, что это экспериментальный проект, и его еще нескоро запустят. А глава корпорации Сундар Пичаи объяснял, что цензура в нем не так сильна по сравнению с китайскими поисковиками. Но против разработки начали протестовать сами сотрудники Google, которые не очень понимали, как можно одновременно стоять на страже демократии и поддерживать авторитарные режимы. В июле 2019 года Google публично объявила о закрытии Dragonfly.

Facebook же пошла другим путем. Соцсети обеспечить цензуру намного сложнее, чем поисковику. Если условному Google нужно будет лишь чистить поисковую выдачу, то соцсети придется цензурировать публикации пользователей в реальном времени и оперативно передавать данные китайским властям.

В 2015 году Марк Цукерберг выступил перед студентами Университета Цинхуа в Пекине. Он 20 минут рассказывал о создании Facebook и своей миссии. И делал это на китайском языке. За несколько лет до этого он дважды встречался с председателем КНР Си Цзиньпином, когда тот приезжал в США. Китайские СМИ гордо рассказывали, как во время визита министра Центрального отдела пропаганды Китая в кампус Facebook Цукерберг будто бы невзначай оставил на своем столе книгу главы КНР «Си Цзиньпин: Руководство Китаем».

Сам Цукерберг объяснял изучение китайского языка желанием свободно общаться с бабушкой своей жены, но это совсем не объясняет его стремления общаться с китайскими чиновниками и публиковать фотографии своей пробежки по площади Тяньаньмэнь. Той самой площади, на которой в 1989 году были убиты до тысячи участников мирного протеста, о чем в Китае вспоминать запрещено.

***

В Китае за годы фактической изоляции от мирового интернета появились аналоги всех существующих сервисов. Стране удалось взрастить собственные IT-гиганты: Baidu, Tencent и Alibaba. Со временем маятник даже качнулся в другую сторону — китайское приложение TikTok за пару лет покорило западный рынок. Но в мир пошла своя, особенная версия: китайской цензуры в ней нет, зато есть невероятно точные алгоритмы и свойственный китайскому рынку сбор гигантского количества данных.

Когда в 2011 году WhatsApp впервые возглавил топ платных социальных приложений для iOS и достиг 10 миллионов загрузок на Android, в Китае запустился WeChat. Сейчас, в отличие от WhatsApp, это не просто мессенджер, а суперприложение, в котором есть буквально все — от возможности делать покупки и оплачивать счета до встроенных игр. Платить с помощью WeChat можно везде — не только в больших супермаркетах, но и у уличных торговцев. Сегодня в Китае WeChat принадлежит почти 40 процентов рынка платежей, а ее конкуренту Alipay — чуть более 50 процентов.

С другой — на базе WeChat реализована система социального рейтинга. За дела на благо общества каждому китайцу начисляются баллы, а за проступки система эти баллы забирает.

В Китае сразу несколько компаний работают над тайными алгоритмами для подсчета благонадежности граждан. Баллы могут снять и за просроченный платеж по ипотеке, и за брошенный на тротуар окурок.

Вручную следить за каждым китайцем невозможно, поэтому власти поощряют разработки таких алгоритмов. В 2016 году компания Tencent — владелец WeChat — открыла специальную лабораторию, изучающую искусственный интеллект. Ее девиз — Make AI Everywhere («ИИ — везде»). Там трудятся 50 ученых-исследователей и более 200 инженеров из Китая и США. Они разрабатывают технологии в области машинного обучения, распознавания речи и анализа аудио, а также обработки языка и компьютерного зрения. Все ради того, чтобы максимально точно следить за людьми и пресекать инакомыслие в любом уголке интернета.

Исследования показывают, что WeChat проверяет абсолютно все тексты и изображения, которые пересылают друг другу его пользователи. Когда один из них отправляет другому сообщение, оно попадает на удаленный сервер компании Tencent. Перед отправкой с сервера получателю оно проверяется на наличие ключевых слов из черного списка.

Еще несколько лет назад WeChat предупреждал пользователя о том, что его сообщение подверглось цензуре. Затем от этой идеи отказались и перешли на куда более простой способ следить за перепиской: запрещенные сообщения перестали доставлять адресатам.

Из-за такой системы практически невозможно понять, какие именно слова нельзя употреблять. Это в итоге порождает самоцензуру и своеобразный эзопов язык — вместо явно неблагонадежных слов пользователи применяют вполне обычные, вкладывая в них совсем другой смысл. Этим активно пользуются живущие в Индии тибетские беженцы — для них WeChat остается единственным средством быть на связи с членами семьи, которые остались в Тибете. Так, например, вместо вопроса о политической обстановке они спрашивают у близких о погоде, далай-ламу называют дядей, а китайских чиновников — соседями. Но даже это не всех спасает: с 2014 по 2019 год китайские власти, только по официальным данным, арестовали не менее 29 тибетских активистов за посты в WeChat. В реальности их намного больше. В 2020 году китайские власти задержали мужчину только за то, что он пересылал по WeChat книгу далай-ламы.

Там, где не справился алгоритм, помогает «интернет-милиция». Она существует с 2014 года. Тысячи волонтеров ищут в сети нарушения и сообщают о пользователях, которые пытаются подорвать социальную стабильность. И корпорации, и инициативные граждане работают ради одной цели: угодить китайским властям и тем самым оправдать свое существование.

***

В более свободных странах американские IT-гиганты ведут себя куда вольнее. Любая соцсеть из США в первую очередь ориентируется на родной рынок и собственные правила модерации контента. И это несмотря на то, что фактически они давным-давно стали глобальным явлением.

В 2020 году Facebook заработала более 29 миллиардов долларов. 98 процентов прибыли пришлось на рекламу. При этом больше половины этой суммы соцсеть получила не в США, а в других странах. Больше всего пользователей Facebook — 251 миллион человек — живут в Индии. США с 240 миллионами зарегистрированных аккаунтов занимает второе место, а Бразилия с 139 миллионами — третье. Пятерку замыкают Индонезия и Мексика. В десятку стран-лидеров по количеству пользователей Facebook также входят Филиппины, Вьетнам, Таиланд, Великобритания и Турция. Россия с 13,1 миллиона пользователей занимает в этом рейтинге 36-е место.

Facebook неохотно рассказывает о том, сколько зарабатывает за пределами США. Ведь если другие страны узнают точные данные, корпорации придется открывать официальные представительства и платить со своих заработков налоги. Например, в Великобритании в 2014 году Facebook заплатила налогов на сумму 4 327 фунтов стерлингов, а в 2016 году, после открытия представительства, — 5,1 миллиона фунтов. Facebook работает примерно в 200 странах мира, но представительства компании открыты только в 30 из них. У Alphabet, которой принадлежат Google и YouTube, таких офисов 32.

В результате страны, в которых Facebook или YouTube — чуть ли не единственные соцсети, не имеют возможности хоть как-то ограничивать влияние американских гигантов. Правительства многих стран пытаются их штрафовать, но чаще всего денежные потери от этого настолько ничтожны, что IT-гиганту проще заплатить и продолжать нарушать закон.

Например, чистая прибыль материнской компании Google — Alphabet — только за второе полугодие 2020 года составила 6,9 миллиарда долларов. В то же время Роскомнадзор оштрафовал компанию за неудаление запрещенной информации всего лишь на три миллиона рублей. Даже рекордный штраф в 4,34 миллиарда евро, который в 2018 году Еврокомиссия назначила Google за нарушение антимонопольного законодательства, никак не повлиял на капитализацию компании.

Еще один инструмент, к которому часто прибегают разные страны, — разработка законов, которые хоть как-то обозначают правовые рамки для соцсетей. Например, в Германии c 2017 года действует закон, согласно которому соцсеть обязана в течение 24 часов удалять разжигающие ненависть материалы. За нарушение компаниям грозят штрафы до 50 миллионов евро. В 2020 году закон расширили: платформы обязали сообщать о некоторых видах опасного контента в Федеральное ведомство уголовной полиции Германии.

В апреле 2021 года в Великобритании начало работу специальное подразделение по цифровым рынкам — регулятор, призванный наблюдать за крупными технологическими платформами, такими как Google, Apple, Facebook и Amazon.

Некоторым странам все же удается договориться с IT-гигантами. Но это происходит лишь в том случае, когда соцсетям грозит потеря реальных денег.

В октябре 2020 года Турция ужесточила правила работы крупных соцсетей в стране: власти обязали их открыть официальное представительство. За отказ соцсети ждали сразу три вида наказания: штраф, запрет на покупку у них рекламы и замедление трафика на 90 процентов (то есть фактически блокировка). В ноябре 2020 года Facebook, YouTube, Twitter, Instagram и TikTok в качестве предупредительного выстрела оштрафовали на 1,2 миллиона долларов. Получив вполне понятный сигнал, на условия турецких властей сперва согласился YouTube, а чуть позже — Facebook и Instagram.

Турецкие власти можно понять, ведь в пятерке самых популярных сервисов американские IT-гиганты занимают сразу все места. Та же ситуация в Германии и Великобритании. В России все немного иначе: с WhatsApp и Instagram успешно конкурируют «ВКонтакте» и «Одноклассники».

Google, захвативший 92 процента мирового рынка поиска, в России проигрывает «Яндексу», занимая всего 39 процентов рынка.

Россия требует от глобальных соцсетей соблюдать местные законы с 2017 года. Но поскольку в стране нет официальных представительств Google, Facebook или Twitter, нет и реальных рычагов давления на них. Единственным механизмом, который заставил Twitter отреагировать на требование удалить запрещенную информацию, стало замедление. В марте 2021 года в России впервые ограничили работу американской соцсети. В результате спустя месяц соцсеть удалила более половины всех незаконных постов. Замедление было крайней мерой, дальше была только блокировка. Но в России уже пытались ее применять: двухлетняя блокировка Telegram показала, что пользователи довольно легко обходят ограничения.

Во многом поэтому в июле Путин подписал закон, обязывающий иностранные IT-компании открыть представительства в России. В случае несоблюдения требований их ждет не просто блокировка, которую потенциально можно обойти. Их могут лишить возможности продавать рекламу, удалить их из поисковой выдачи и запретить собирать данные на территории страны. Одним словом, ударить по их кошельку так сильно, чтобы они наконец-то обратили внимание на пользователей из России.

***

Правительства многих стран мира переходят в наступление на IT-гигантов. Им наконец стало ясно: у Facebook и Google нет цели и желания заботиться о своих пользователях. Лежащие в основе соцсетей алгоритмы не могут ни обезопасить миллиарды пользователей, ни спасти их от ментальной и психологической деградации. В отличие от соцсетей, государства начинают понимать: человечество нуждается не в контроле, а в защите. Но чтобы ее обеспечить, IT-гигантам надо разобраться, кто управляет их алгоритмами. А еще — перестать видеть в пользователях лишь неиссякаемый источник заработка и начать видеть в них людей.