Читать книгу "Внутри Facebook. Голая правда - Шира Френкель"

Сотрудники Пелоси были в ярости. Они задались вопросом, почему социальные сети позволили отредактированному видео распространиться. Сама Пелоси тоже была расстроена. Ведь интернет-компании заверяли ее, что наведут порядок на своих сайтах. Не прошло и трех недель с тех пор, как Сэндберг сидела в ее кабинете и говорила то же самое.

«Позвоните в компании и скажите, чтобы они удалили видео», – сказала она своим помощникам.

В течение нескольких часов YouTube удалил ролик, сославшись на то, что он нарушает политику борьбы с дезинформацией189. Тем временем СМИ обратили внимание на фальсифицированное видео. В статьях в газете The Washington Post и других изданиях рассказывалось о технических манипуляциях. Ученые и законодатели объявили ситуацию лакмусовой бумажкой для платформ социальных сетей в преддверии президентских выборов 2020 года.

В ответ на сообщение о том, что YouTube удалил видео, Пелоси спросила своих сотрудников: «А что же Facebook?» Видео все еще висело на нескольких сайтах, включая крайне правые новостные издания и маргинальные форумы, но именно на Facebook оно приобретало все большую популярность.

Facebook, по словам ее помощников, замолчала. Никто не отвечал на их звонки.

Пелоси была ошеломлена. У ее офиса были особенно тесные связи с компанией. Кэтлин О’Нил, бывший руководитель аппарата Пелоси, была одним из самых высокопоставленных демократических лоббистов Facebook. Другие сотрудники были выходцами из администрации Обамы и работали на сенатора Файнстайн и бывшего сенатора Джона Керри. Начинало казаться, что эти связи не имели никакого значения.

Демократы незамедлительно бросились на защиту Пелоси. Представитель Род-Айленда Дэвид Цициллин написал в Twitter вскоре после публикации видео: «Эй, @facebook, вы облажались. Опять. Исправьте это немедленно!»190 Сенатор Брайан Шатц обвинил платформу в лицемерии: «Facebook мгновенно отзывается, когда я хочу поговорить о федеральном законодательстве, и вдруг набирает воды в рот, когда мы спрашиваем их, что они сделали для решения проблемы с фальшивым видео. Дело не в том, что они не могут решить эту проблему; дело в том, что они отказываются делать то, что необходимо»191.

В четверг Цукерберг и Сэндберг в Менло-Парке и Каплан в Вашингтоне встретились по видеосвязи, чтобы продумать ответ. Ни механизм проверки фактов, ни искусственный интеллект, о котором Сэндберг рассказывала Пелоси, не пометили видео на предмет ложного содержания и не предотвратили его распространение. Как оказалось, фильтры и средства обнаружения Facebook было легко обмануть при помощи весьма простых обходных инструментов. Всего за несколько месяцев до этого системы платформы не смогли идентифицировать и удалить ужасающие кадры, снятые преступником с оружием в руках от первого лица в Крайстчерче, Новая Зеландия. 17 марта он открыл огонь по верующим, собравшимся в двух мечетях, убив 51 человека. Это было видео, снятое и рассчитанное на вирусное распространение, и стрелок включил в него несколько ссылок на группы заговорщиков и ненавистников на Facebook, члены которых, как он знал, наверняка будут продвигать кадры убийства, как только он разместит их на сайте.

В течение двадцати четырех часов Facebook пыталась сдержать распространение копий видео, которые были размещены на сайте. Из 1,5 млн копий, которые люди пытались загрузить в соцсеть, Facebook обнаружила и удалила 1,2 млн. Осталось 300 000 копий видео, некоторые из которых оставались на платформе в течение нескольких минут, другие – в течение нескольких часов. Хотя компания хвасталась, что ей удалось удалить более 90 процентов всех загруженных видео, оставшихся копий, восхваляющих жестокую бойню, было слишком много. Это показало, что пользователи могут обойти системы Facebook. Внося небольшие изменения, например замедляя скорость видео на миллисекунду или накладывая водяной знак на его часть, люди смогли обмануть хваленый ИИ Facebook. Некоторые пользователи просто снимали новые видео этой копии, которые появлялись в верхней части Лент новостей и вызывали миллионы комментариев и сообщений в закрытых группах.

Массовое убийство в Крайстчерче продемонстрировало, насколько несостоятельна была ставка Цукерберга на технологические решения. Правительственные чиновники Франции, Великобритании и Австралии осудили платформу за то, что она позволяет использовать свои инструменты в качестве оружия. Несколько стран предложили ввести новые законы о свободе слова после массового убийства. Макрон и Джасинда Ардерн, премьер-министр Новой Зеландии, взяли на себя инициативу и призвали провести глобальный саммит, чтобы положить конец насилию и ненависти в интернете192.

Но сфальсифицированное видео с Пелоси выявило нечто большее, чем недостатки технологии Facebook для предотвращения его распространения. Оно продемонстрировало внутреннее замешательство и разногласия по вопросу спорного политического контента. Руководители, лоббисты и сотрудники отдела коммуникаций провели весь следующий день в неспешных дебатах. Сэндберг сказала, что, по ее мнению, есть веские аргументы в пользу удаления видео в соответствии с правилами борьбы с дезинформацией, но на этом она остановилась. Каплан и республиканские лоббисты поддержали «максимально открытую» позицию Цукерберга в отношении свободы слова и подчеркнули, что важно быть нейтральными в вопросах политики и выполнять обещания компании о защите свободы слова.

Обсуждения превратились в мучительные споры в формате «а что, если». Цукерберг и другие члены команды по политике рассуждали, можно ли считать видео пародией. Если да, то это может стать важным вкладом в политические дебаты: сатира всегда занимала важное место в политическом дискурсе. Некоторые сотрудники отдела коммуникаций отметили, что подобная пародия на Пелоси вполне могла бы появиться в юмористическом телешоу Saturday Night Live. Другие сотрудники службы безопасности возразили, заметив, что зрители знают, что Saturday Night Live – это пародийное шоу, а на Facebook видео с Пелоси не было помечено как пародия. «Всех раздражало, что разговоры занимали так много времени, – объясняет один из сотрудников, участвовавших в обсуждении. – Но когда вы пытаетесь написать правила для миллиардов людей, вы должны подумать обо всех непредвиденных последствиях, сколько бы времени это ни заняло».

Тем временем Моника Биккерт и команда по политике в отношении контента начали технический анализ видео. Они хотели определить, соответствует ли оно пороговому определению компании для «дипфейка» – ролика, в котором используется машинное обучение или искусственный интеллект для синтетического создания контента. Но на скорую руку отредактированное видео не соответствовало пороговому значению.

В пятницу, сорок восемь часов спустя после появления видео, Цукерберг принял решение. Он решил оставить ролик.

Пелоси не была столь критична по отношению к Facebook, как некоторые из ее коллег: она всегда рассматривала технологическую отрасль, расположившуюся на заднем дворе ее калифорнийского округа, как важную часть экономики. Но ущерб был нанесен. «Не отвечайте на звонки, не ходите на встречи, вообще не общайтесь с Facebook», – сказала Пелоси своим сотрудникам. Компания потеряла поддержку самого важного своего сторонника в Демократической партии.