В 2017 году Facebook немного изменил свою миссию. Было обещано обязательство «сделать мир более открытым и взаимосвязанным», а вместо него было намерение «дать людям возможность создавать сообщества и сближать мир».
Вы можете рассматривать это как признание того, что «открыть» не удалось. «Открытый» означает открытый для разжигания ненависти, жестокого обращения с детьми, насилия, секса и других незаконных действий, к которым Facebook не имеет никакого отношения. И все же общество теперь должно каждый час, каждый день устранять этот ущерб.
Или, скорее, он нанимает незнакомцев для выполнения своей грязной работы. В документальном фильме Ханса Блока и Морица Ризевика «Уборщики» филиппинские бизнесмены откровенно обсуждают непрекращающийся поток секса, насилия и ненависти, которые им приходится фильтровать каждый день.
Бывший модератор Facebook Крис Грей и режиссер Мориц Ризевик на Mozfest 2019
(Изображение предоставлено Коннором Баллард-Бейтманом)
Каждое решение должно быть принято за восемь-десять секунд, и «не переусердствуйте» — это прямая цитата из учебного материала. «Не беспокойтесь слишком сильно о том, правильное ваше решение или нет, иначе вы будете слишком много думать об этом и не сможете принять решение», — сказал Ризевик TechRadar на фестивале Mozilla в Mozilla, где он и его коллега Директор пришел из. Быть частью модерируемой дискуссионной группы в Интернете.
Если когда-либо компании и приходилось настаивать на том, что любую проблему можно решить, имея достаточно денег, то это Facebook. И тем не менее, пока проблема только нарастает. В 2009 году в Facebook было всего 12 (да, двенадцать) модераторов контента, которые следили за благополучием 120 миллионов пользователей. Сейчас на платформе более двух миллиардов человек и около 15,000 2019 модераторов. Хотя это означает, что соотношение модераторов и пользователей изменилось с умеренного на низкое, следует отметить, что Facebook в XNUMX году сильно отличается от того, что было десять лет назад, когда использовалась кнопка «J». Вроде «была последняя инновация и Facebook Live, было еще много лет.
«Худший из худших интернет-отходов»
«По оценкам, в этой области работает около 100,000 4 профессионалов», — говорит Клара Цао, коллега Mozilla и эксперт по борьбе с дезинформацией в Интернете. «Они занимаются худшим из худших интернет-отходов», — добавляет он, отмечая, что XNUMX января их буквально называют «дворниками».
Однако, в отличие от настоящих уборщиков, интернет-уборщики не всегда оснащены подходящим оборудованием для выполнения большой задачи. Филиппинский контингент Facebook иногда сталкивался с обменом мнениями на языках, на которых они не говорили, используя Google Translate, чтобы понять смысл. Это неизбежно приобретает весомый нюанс, даже если не учитывать неизбежные культурные различия между странами, разделенными восьмичасовым разрывом в часовых поясах.
Модераторам Facebook необходимо отслеживать огромное количество контента со всего мира и, возможно, оценивать разговоры на языке, на котором они не говорят.
(Изображение предоставлено Shutterstock)
Модераторов Facebook можно найти не только на Филиппинах. Офисы компании расположены по всему миру, и именно в Дублине Крис Грей нашел себя после того, как некоторое время преподавал в Азии. Теперь он главный истец модераторов в разбирательстве Высокого суда против Facebook. За девять месяцев работы в компании (в Ирландии у большинства сотрудников 11-месячный контракт, но большинство увольняется раньше) Грей обрабатывал от 500 до 600 единиц контента за ночь, обычно с 18:2 до XNUMX:XNUMX. . Только через год после отъезда ему официально поставили диагноз посттравматическое стрессовое расстройство.
«Мне потребовался год, чтобы понять, что эта работа выбила меня из колеи», — сказал он в ходе группового обсуждения. Эта отсроченная реакция, как говорит нам Ризевик, не является чем-то необычным. «В некоторых случаях они рассказывали нам, что в основном их друзья говорили им, что они изменились», — говорит он.
Мне потребовался год, чтобы понять, что эта работа надрала мне задницу.
Крис ГрейВ любом случае, многие из бывших коллег Грея рады видеть, что он нарушил NDA и затянул судебный процесс, хотя и не готовы заявить об этом публично из-за него. в настоящее время. «Люди только что вышли из леса и говорят: «О, слава Богу, кто-то заговорил и сказал это», — сказал он позже TechRadar.
Чтобы было ясно, Грей считает, что, несмотря на то, что он был лично затронут работой, было бы заблуждением предполагать, что это бесконечная кровь, сексуальная эксплуатация и сексуальная активность. «Честно говоря, большая часть работы утомительна, — говорит он. «Это просто люди, которые жалуются друг на друга, потому что они спорят и хотят использовать какой-то процесс для общения с другим человеком».
Утомительно, но с высоким давлением. В ирландском офисе у Грея было 30 секунд, чтобы вынести вердикт по содержанию, которое было оскорблением строки или 30-минутного видео. . «Если ваш слушатель нажал (на видео) через две секунды после вас и увидел что-то другое, услышал другое оскорбление или увидел что-то выше в иерархии приоритетов, так что примите это, вы приняли неправильное решение». Плохие решения влияют на показатель качества, а показатель качества влияет на вашу работу. Несмотря на это, целью бюро была почти невозможная точность на уровне 98%.
Супер Герои
Трудно найти людей, которые рассказали бы о своем опыте модерирования, как обнаружили Блок и Ризевик при поиске тем. NDA универсальны, и работа классифицируется под кодовым названием: на момент съемок это был «Проект Honey Badger».
Несмотря на это, Facebook или субподрядчики, которые проявляют сдержанность, открыто нанимают сотрудников, даже если они часто грубо вводят в заблуждение относительно того, что на самом деле влечет за собой работа. «Они используют супергероев для маскировки: «Давай, будь супергероями, очисти интернет», — говорит Габи Ивенс, еще один член Mozilla, участвовавший в обсуждении. В рекламе модераторов контента в Германии были заданы такие вопросы, как «Вам нравятся социальные сети и вы хотите быть в курсе того, что происходит в мире?»
Несмотря на общую скуку будней, документальные фильмы Блока и Рисевика удивляют: многие из героев в своих интервью очень гордятся этой ролью, считая ее не столько обязанностью, сколько работой.
Филиппинские модераторы Facebook сказали директорам Хансу Блоку и Морицу Ризевику, что они считают своим этическим долгом очистить Интернет.
(Изображение предоставлено Shutterstock)
«Они сказали нам, что чувствуют себя интернет-супергероями, как полицейские, охраняющие Интернет», — сказал Блок. Администрация частично связывает это с 90-процентным христианским населением Филиппин. «Они сказали нам, что чувствовали, что Иисус освободил мир», — добавляет Блок. Это, в свою очередь, может привести к тому, что люди не захотят уходить, считая это этическим долгом, а не просто работой.
Но этому есть пределы, тем более, что модераторы сами не делают последних звонков. Здесь священный текст — это запутанный набор правил и инструкций Facebook: тысячи слов, накопленных за многие годы. В некоторых случаях людям необходимо защищать слова, которые, по их мнению, должны быть запрещены, или запрещать слова, которые, по их мнению, должны быть защищены, что, по словам Ивенса, является явной проблемой благосостояния. «Хранение контента в сети, который, по вашему мнению, не должен быть в сети, должно быть чрезвычайно разрушительным, прежде чем вы даже подумаете о том, что люди видят».
Ирония рассмотрения правил как священных заключается в том, что правила Facebook никогда не были непогрешимым застывшим текстом: они являются результатом многолетних итерационных изменений, постепенного реагирования на кризисы по мере их возникновения и попыток сделать субъективное более объективным.
Хранение контента в сети, который, по вашему мнению, не должен быть в сети, чрезвычайно вредно, прежде чем вы даже подумаете о том, что люди видят.
Габи ИвенсПомните кампанию «Бесплатные соски»? Короче говоря, руководство Facebook изначально гласило, что любая фотография с грудью должна быть запрещена как порнография, а это означало, что интернет был лишен гордых кормящих матерей на платформе. Facebook постепенно изменил свои правила и признал, что контекст имеет значение. Точно так же мы должны признать, что даже если нет ничего незаконного в поедании приливных стручков или распространении теорий заговора против вакцинации, если что-то становится эпидемией общественного здравоохранения, поэтому они обязаны действовать.
«Некоторые платформы заявляют, что некоторый контент не является незаконным, но это неприемлемо», — говорит Цао. Но «другие считают, что у Интернета должно быть больше свободы говорить то, что он хочет». Для Facebook эта дихотомия приводит к абсурдным уровням детализации: «Теперь у нас есть некоторые подсказки об угрозе столкнуть кого-то с крыши», — говорит Грей. «Толкание — это не насильственное действие. Быть на крыше важно, но насколько она высока? Жаль, что ты «много не думаешь».
Такая инерция в правилах модерации позволяет интернет-троллям процветать. Вам не нужно далеко ходить, чтобы найти примеры интернет-слухов, которые попадают прямо в цель, не выходя за рамки. Вместо этого они оставляют это своим последователям, и иногда это катастрофически выплескивается в реальный мир.
Мораль не пересекает границ
Глобальный статус Facebook делает проблему еще более сложной, потому что мораль не разделяется через границы. «Это сложно, потому что выходит за рамки местной политики стран и граничит с диким западом», — говорит Цао.
Грей приводит пример человеческой сексуальности: гей-прайд широко распространен в большинстве западных стран, но в меньшей степени где-либо в мире. Вы можете пометить друга как гея в публикации, и он будет чувствовать себя достаточно комфортно в своей сексуальности, чтобы поделиться ею. Так что в этом случае разумно не бросать, даже если на это жалуется гомофобная девушка.
Мораль не является глобальным понятием. что делает модерацию международного контента огромной проблемой
(Изображение предоставлено Shutterstock)
«Но если вы находитесь в Нигерии, вас могут избить или убить, потому что кто-то увидит это сообщение», — говорит он. «Эта ошибка может стоить кому-то жизни. Я имею в виду, это реальность: иногда вы смотрите на ситуации жизни и смерти».
Объективные акты насилия должны быть более конкретными, но это не так. Видео, показывающее расстрелянного ребенка, может показаться очевидным кандидатом на применение суровых мер, но что, если гражданская журналистика обнаружит незарегистрированные военные преступления? Если Facebook избавится от него, не будет ли он просто невольным пропагандистским крылом худших мировых деспотов?
Такова реальность: иногда мы смотрим на ситуации жизни и смерти.
Крис ГрейОн сложен, его легко спутать, и он не помогает работникам судить по их объективным реакциям на субъективные позиции. «Люди протестуют и приходят к моему столу», — сказал Грей на панели. «И я должен позвонить: этот ребенок мертв? Затем я должен нажать правильную кнопку. Если я нажму неправильную кнопку, потому что мой слушатель думает, что ребенок не умер, тогда я ошибаюсь и достигаю уровня качества. и меня уволят».
«Итак, я не сплю ночью в постели, я снова вижу эту картинку и пытаюсь привести аргумент, чтобы сохранить свою работу».
Можно ли его отремонтировать?
На данный момент должно быть совершенно очевидно, что это не полностью вина Facebook, даже несмотря на то, что компания не помогала на протяжении всего процесса. Но что он может сделать? Совершенно очевидно, что проблема не сработает, а модерация ИИ не совсем подходит для шоу. (И в этом есть законные сомнения.) Для начала вам нужны люди для обучения ИИ, который отодвигает травму на один шаг назад. 39, будет очень сложно полностью исключить людей из схемы», — говорит Цао).
«У Facebook нет четкой стратегии на этот счет, — говорит Грей. «Все происходит реактивно. Что-то происходит, поэтому они создают новое правило и нанимают больше людей. Он считает, что корень проблемы — отсутствие лидерства. а они этого не делают. "Из этого все следует".
Родерик Орденс, профессор психологии, считает чрезвычайно важным, чтобы никто не занимался такой работой в одиночку. Ответственность не лежит полностью на одном человеке.
(Изображение предоставлено Shutterstock)
Это, по мнению Цао, отчасти связано с тем, что лицам, принимающим решения, не приходилось делать это самим. «Я брал интервью у людей, отвечающих за доверие и безопасность в компаниях, и один из них всегда говорил: «Если вы хотите играть руководящую роль в этой профессиональной сфере, вы должны понимать, как это работает. вниз, — говорит она, — вы должны понять травму, вы должны понять, какая система поддержки вам нужна».
У Родерика Орденса, профессора психологии Линкольнского университета, есть свои точки зрения, когда мы связываемся с ним. «Существует обязанность соблюдать осторожность. Это никоим образом не гарантирует отсутствие жертв среди людей, которые просматривают этот тип материалов, но следует видеть, что компания сделала все разумное, чтобы снизить риски для персонала.
Никто не должен выполнять такую работу в одиночку. И если это было сделано группой, то что действительно имеет значение, так это сплоченность группы.
Родерик Орденс"Во-первых, такую работу никто не должен делать в одиночку. А если она выполнялась группой, то действительно важна сплоченность группы. Очень важно организовать это так, чтобы ответственность не воспринималась как ответственность группы.
По словам Орденса, любая компания, нанимающая на «такую опасную работу», должна пройти обучение, чтобы сотрудники могли распознавать предупреждающие знаки: «общее чувство беспокойства, невозможность расслабиться после работы, возможно, чрезмерное беспокойство по поводу некоторых изображений и будьте особенно бдительны в отношении того, влияет ли это на сон: при накоплении плохого сна все остальное становится намного хуже».
"Что у тебя на уме?"
То, что Facebook заинтересован в таких знаниях, — еще одна проблема. «Мы не делаем вид, что вся вина лежит на корпоративной стороне, это неправда», — говорит Блок. «Вина, по крайней мере, на наш взгляд, в том, что они не делают это прозрачным, они не открывают дискуссию и не принимают того, что они не могут решить все это в одиночку». Блок и Ризевик знают, что некоторые сотрудники Facebook видели их фильм во время показа в Сан-Франциско, и даже ходили разговоры о показе его в офисах Facebook только потому, что последующие электронные письма загадочным образом остаются без ответа.
По общему признанию, лечение NDA не помогает, и само количество бывших сотрудников и бывших сотрудников, связанных с ними, означает, что эффект неизбежно уменьшится, потому что в числах есть некоторая безопасность. У Грея не было ленты Facebook, которая могла бы сломать его, по крайней мере, напрямую.
«Мне позвонил бывший коллега… несколько недель назад. Он сказал: «Эй, мне сказали, что Facebook подает на вас в суд». Нет. Кто, вы сказали, подал на меня в суд? манипулировать вами, чтобы вы заткнулись».
Я не знаю, было ли что-то уже сделано. Знаешь, он идет только пустой, кажется
Крис ГрейДругими словами, баланс между кнутом и пряником примерно так же комичен, как и сообщение модератора/пользователя Facebook. Поскольку люди хотят улучшить Интернет, может быть, Facebook мог бы воспользоваться этим смыслом?
Даже Грей помнит, что был уверен, поскольку он помнит SMS, которое отправил ранее. «Я сказал: «Я лично сообщил о 13 случаях жестокого обращения с детьми в группу быстрого реагирования, и я чувствую себя очень хорошо». Но это длилось недолго. «Я никогда не слышал об этих людях. Я не знаю, было ли что-то уже сделано. Знаете, такое впечатление, что все происходит на пустом месте.
Может ли признание повлиять на моральный дух? Возможно, но только если они действительно окажут влияние, Грей вмешивается достаточно. «Ребенка в Афганистане голого привязывают к кровати и избивают. Это усугубляет ситуацию, потому что это сексуальное насилие над ребенком, но что можно сделать?
«Я просто следую политике, человек на высшем уровне просто снимает ее».