- Сравнение
- Вычисление
- Как Reddit превратил миллионы своих пользователей в армию модераторов контента
Одной из самых сложных проблем для Reddit, самопровозглашенной главной страницы Интернета, является выяснение того, что должно, а что не должно появляться в его лентах. Когда дело доходит до модерации контента, которая в последние годы становится все более обсуждаемой темой, Reddit использует другой подход по сравнению с другими крупными социальными платформами. В отличие, например, от Facebook, который передает большую часть работы модераторским фермам, Reddit в значительной степени полагается на свои сообщества (или субреддиты) для контроля над собой. Усилия модераторов-добровольцев руководствуются правилами, установленными каждым субреддитом, а также набором ценностей, созданных и поддерживаемых Reddit. Однако компанию критиковали за эту модель, которую некоторые интерпретировали как невмешательство и отсутствие ответственности. Но Крис Слоу, технический директор Reddit, говорит, что это полное искажение фактов. «Сегодня говорить это в Интернете может показаться безумием, но обычные люди довольно хороши. Если вы посмотрите на Reddit в широком масштабе, то увидите, что люди творческие, веселые, готовые к сотрудничеству и веселые — все это то, что заставляет цивилизацию работать», — сказал он LaComparacion Pro. «Наш основной подход заключается в том, что мы хотим, чтобы сообщества создавали свои собственные культуры, философские подходы. политики и системы. Чтобы эта модель работала, мы должны предоставить инструменты и возможности для решения проблем меньшинств».
Другой зверь
Слоу был первым сотрудником Reddit, нанятым в 2005 году на должность инженера после того, как он арендовал две свободные комнаты у соучредителей Стива Хаффмана и Алексиса Оганяна. Эти трое встретились во время первого запуска ныне печально известной программы акселератора Y Combinator, которая оставила Слоу прекрасные воспоминания, но также неудачный старт и время наполниться. Хотя в период с 2010 по 2015 год он взял перерыв в работе Reddit, опыт Слоу дает ему уникальное представление о том, как рос бизнес и как со временем менялись проблемы, с которыми он сталкивается. По его словам, в первые годы речь шла о развитии инфраструктуры, способной справиться с ростом трафика. Но во время его второго срока, с 2016 года по сегодняшний день, акцент сместился на доверие пользователей, безопасность и защищенность. «Мы предоставляем пользователям инструменты, позволяющие сообщать о контенте, который нарушает политику сайта или правила, установленные модераторами, но не все помечается. А в некоторых случаях в докладе говорится, что уже слишком поздно», — пояснил он. «Когда я вернулся в 2016 году, одной из моих основных задач было выяснить, как именно работают сообщества Reddit, и определить, что делает сайт здоровым. Как только мы выявляем нездоровые симптомы, мы начинаем работать оттуда.
(Изображение предоставлено Reddit)
Самоконтроль
В отличие от других социальных платформ, Reddit имеет многоуровневый подход к модерации контента, который призван максимально соответствовать идее компании «сообщество прежде всего».
Самая примитивная форма проверки контента осуществляется самими пользователями, которые имеют право голосовать за то, что им нравится или не нравится. Однако, хотя этот процесс поощряет популярные публикации и подавляет непопулярные, популярность не всегда является сигналом принадлежности.
Моды сообщества выступают в качестве второй линии защиты и обладают полномочиями удалять сообщения и блокировать пользователей, которые нарушают правила или политику в отношении контента. По словам Слоу, самое распространенное правило субреддита — «не будь идиотом».
Ежегодный отчет компании о прозрачности, в котором разбивается весь контент, удаляемый из Reddit каждый год, предполагает, что моды несут ответственность за около двух третей всех удалений публикаций.
Для обнаружения любого вредоносного контента, потерянного модами, есть администраторы Reddit, которые напрямую работают в компании. Эти сотрудники выполняют выборочные проверки вручную, но также вооружены технологическими инструментами, помогающими выявлять проблемных пользователей и отслеживать индивидуальные взаимодействия, происходящие в частном порядке.
«Мы используем ряд сигналов, чтобы выявить проблемы и установить, заслуживают ли отдельные пользователи доверия и действуют ли они добросовестно», — сказал Слоу. «Сложность в том, что всего никогда не поймешь. И это отчасти потому, что оно всегда будет немного серым и будет зависеть от контекста. «Когда его спросили, как можно улучшить эту ситуацию, Слоу объяснил, что он оказался в затруднительном положении: он разрывается между желанием обеспечить соблюдение политики компании, ориентированной на сообщество, и осознанием того, что на рынке есть технологии будущего, которые могут помочь обнаружить более высокую процент злоупотреблений.
Например, Reddit уже начинает использовать передовые методы обработки естественного языка (NLP) для более точного измерения настроений при взаимодействии между пользователями. Слоу также указал на возможность использования ИИ для анализа изображений, размещенных на платформе, и признал, что со временем большее количество действий модерации будет происходить без вмешательства человека.
Однако он также предостерег от ошибочности этих новых систем, которые склонны к предвзятости и, конечно же, к ошибкам, а также о проблемах, которые они могут создать для модели Reddit.
«На самом деле это немного страшно. «Если мы говорим об этом как о модели правоприменения, это то же самое, что поставить камеры буквально повсюду и полагаться на большие машины, которые будут сообщать нам о совершении преступления», — заявил он.
(Изображение предоставлено Reddit)
Когда все становится сложно
Модерация контента — это проблема, которую ни один из гигантов социальных сетей не может утверждать, что она решена, о чем свидетельствуют дебаты по поводу учетных записей Дональда Трампа и запрет магазина приложений Talk. Reddit также участвовал в этих обсуждениях и в конечном итоге принял решение запретить субреддит r/DonaldTrump. Какой бы мощной ни была модель, управляемая сообществом, в основе подхода Reddit лежит серьезный конфликт. Компания стремится предоставить своим сообществам почти полную автономию, но в конечном итоге вынуждена принимать редакционные решения о том, где провести черту. «Я не хочу быть произвольным и дотошным арбитром того, что правильно, а что нет», — сказал нам Слоу. «Но в то же время мы должны иметь возможность применять набор . Это очень хорошая грань для ходьбы. Reddit старается сделать свою политику в отношении контента как можно более лаконичной, чтобы устранить лазейки и упростить ее соблюдение, но изменения случаются часто. Например, порноместь было запрещено на платформе в 2015 году при бывшем генеральном директоре Эллен Пао. В прошлом году компания добавила пункт, запрещающий прославление насилия. «Оставаться верными нашим ценностям также означает подтверждать наши ценности, переоценивать их по мере того, как мы открываем новые способы обмана системы и раздвигаем ее границы», — объяснил Слоу. «Когда мы вносим изменения, которые включают перемещение сообществ через черту, это конец долгого процесса поиска лазеек в нашей политике в отношении контента и возвращения оттуда». Однако, хотя большинство согласится с тем, что отсутствие порнографии из мести является абсолютным позитивом и что подстрекательство к насилию имело место на r/The_Donald, оба примера демонстрируют, что Reddit должен проявлять сдержанность в том же плане, что и Facebook, Twitter или любой другой. другая платформа. Другими словами, когда нужно задавать сложные вопросы, Reddit больше не доверяет своим сообществам, которые дадут положительный ответ.