Как секретность подпитывает паранойю Facebook

В декабре прошлого года Комитет Сената по разведке опубликовал два отчета об итогах расследования вмешательства России в выборы 2016 года. Ключевой вопрос заключался в том может ли Россия действительно повлиять на настроения избирателей путем публикации? Неужели троллинг действительно снизил явку избирателей в ключевых штатах? Выводы комитета мало что изменили.

По тематике Facebook были проанализированы новые внутренние данные о кампаниях Российского агентства интернет-исследований «ферма троллей» и приведены некоторые примеры. Мы знаем, что было более 76 миллионов «ангажементов» с контентом из российской группы — лайки, комментарии, акции и клики — но в настоящее время невозможно узнать, сколько пришло от реальных людей. «Поскольку Facebook не предоставили данные об аккаунтах, участвующих в распределении контента, мы предполагаем, что такое взаимодействие было с реальными людьми, и что этот контент был выдвинут в новостных лентах их друзей».

Это две огромных разницы. В настоящее время мы не знаем наверняка, были ли определенные действия выполнены людьми или ботами, поэтому исследователям оставалось предположить худшее. Стоит изучить комментарии Facebook относительно подобных предположений. Вызвал ли Facebook протесты «желтых жилетов» во Франции? Является ли движение «мероприятием, зародившимся почти полностью в Facebook»? Или протестующие просто используют Facebook, поскольку они поддерживают давнюю традицию гражданских беспорядков во Франции?

Справедливость последней теории осложняется невозможностью точно определить почему человек чувствует себя определенным образом. Facebook в теории должны быть в состоянии пролить свет на этот вопрос. Его пользователи живут в состоянии полного отслеживания. Компания, по крайней мере, способна узнать как функционирует группа «желтые жилеты» на социальной платформе. Гораздо больше информации, чем любые внешние исследователи, Facebook способен генерировать по вопросам выборов 2016 года: Сколько учетных записей, которые взаимодействовали с сообщениями группы, продолжали взаимодействовать с другим политическим контентом? Была ли аудитория для этих сообщений реальной? (В докладах технологические компании критиковались за то, что они прилагают минимум усилий, чтобы помочь комитету.)

Крупнейшими интернет-платформами являются предприятия, построенные на асимметричной информации. Они знают гораздо больше о своих рекламных и торговых площадках, чем любая из сторон, участвующих в них. Мы можем догадаться, но не можем знать, почему нам показали сообщение в Facebook о разводе друга, а не о рождении ребенка. Мы можем теоретизировать, но не будем говорить, почему YouTube думают, что мы хотим увидеть правую полемику об исламе в Европе после просмотра видео о туристических поездках во Франции. Все, что происходит на платформе, обслуживается системами, сущность которых, как нам говорят, должна быть конфиденциальной. Мы живем в мире, управляемом коммерческой тайной. Неудивительно, что это делает нас параноиками.

Первородный грех наших нынешних технологических гегемонов заключается в том, что остальной мир не может знать, как они работают. Как Google выдает результаты поиска? Это секрет, который помог компании стать доминирующей поисковой системой и который поддерживает их бизнес-модель. Как Facebook выбирает, что будет дальше в вашей ленте новостей? Как работают рекомендации YouTube? Слишком большая прозрачность подвергнет платформы злоупотреблениям со стороны злоумышленников.

Технолог Анил Дэш недавно описал некоторые из крупнейших платформ бизнеса в интернете, как «поддельные рынки». Это предприятия, которые претендуют на то, чтобы быть рынками, зарабатывая деньги, соединяя стороны — людей, которые хотят ездить с водителями, рекламодателей со зрителями — но на самом деле они не являются рынками в истинном понимании этого слова. Они централизованно и часто настойчиво управляют и манипулируют. Некоторые совсем не похожи на рынки. Дэш написал об Uber: в этом «рынке» водители не устанавливают цены, у потребителей на самом деле нет большого выбора, а ресурсы распределяются по алгоритмам коммерческой тайны. Наше незнание того, как такие вещи работают, легче игнорировать, когда платформа делится преимуществами своего роста. Эта динамика начинает беспокоить нас только после победы платформы, когда альтернатив меньше или вообще нет.

Когда платформы становятся укоренившимися и пользователям становится сложнее уйти, секреты, которые они хранят, отражаются на них. На Facebook, где опыт каждого пользователя является тайной для всех остальных — и где реальные концепции, такие как конфиденциальность, неясность и интуитивная прозорливость, были воссозданы на условиях рекламной платформы — пользователи по понятным причинам воображают, что все может происходить вокруг них. Пробелы в знаниях увеличиваются, как только платформа начинает участвовать в реальных событиях. Twitter понимается как каталитическая политическая сила, но это понимание, как правило, наполовину предположение — его полезность для Дональда Трампа никогда не будет полностью понята; и Twitter, похоже, не спешит помочь понять это. Отражает ли YouTube рост реакционной политики, потакая ей или создавая ее? На эти вопросы уже невозможно ответить полностью; то, что все разворачивается внутри тщательно охраняемого рынка, затрудняет даже приближенное понимание.

Итак, стал ли Facebook причиной восстания во Франции? Может быть. Между тем, я даже не знаю, почему он рекомендует мне друга, о котором я никогда не слышал. Facebook повлияли на выборы 2016? В любом случае, я даже не могу догадаться, почему Instagram начал показывать мне кучу фотографий определенной породы собак или почему он внезапно подает мне рекламу наборов для еды. Я знаю, как эти вещи заставляют меня чувствовать себя, но Facebook знает, как они заставили меня вести себя — знание, которым компания не скоро поделится.

Похоже, что пресса и наше воображение в целом склонны распространять эти теории в определенном направлении. После многих лет Facebook говорит нам насколько хорошо платформа влияет на их решения, но легко ли использовать эти же инструменты, чтобы убедить людей голосовать за Дональда Трампа? Facebook имеют свое видение. Конечно многие пользователи видели пропаганду, но лишь на мгновение. Кроме того, эти материалы не влияют на их поведение. Определенная сумма денег была потрачена на рекламу, но эти объявления не направлены на что-нибудь эдакое. У Instagram аккаунтов было много последователей, но более половины из них были боты. 76 млн. человек подверглись воздействию этого контента так или иначе, но они в основном рассматривали его как спам.

Они явно продвинулись в этом направлении, но дальше должно последовать нелестное откровение. Это будет равносильно признанию того, что системы, о которых нам не разрешено знать — и показатели, которые нам не разрешено видеть — могут быть не столь ценными или достойными коммерческой тайны. Представления о технологической индустрии изменились, они не обязательно приблизились к реальности. Технологические компании мифологизировали свое собственное всеведение, когда это было благом для их бизнеса. Версии этих мифов сохраняются, но они больше не находятся под контролем их создателя.