На фоне подавляющей критики со стороны общества, facebook вынужден принять меры. Но это не так просто, как кажется на первый взгляд. В СМИ опубликовано руководство модератора Facebook. Оказалось, что есть более 1400 страниц инструкций, в которых это слишком трудно понять, пишет авторитетный NY Times.

Сегодня и политики, и общественные организации обвиняют социальную сеть в ненависти и распространении дезинформации. Для Facebook это в первую очередь финансовая проблема, поскольку эти обвинения создают негативный фон и слишком плохо отражаются на бирже и, соответственно, на благосостоянии акционеров и сотрудников компании.

Здесь мы опишем, какие смайлики можно рассматривать как угрозы или использовать в контексте для разжигания ненависти

Facebook, который зарабатывает 5 миллиардов долларов в квартал, не может не продемонстрировать, что он серьезно относится к борьбе с вредоносным контентом. Но как можно модерировать миллиарды сообщений в день, написанных на более чем 100 языках, и в то же время потребительская база должна расти, потому что это основа бизнеса? Решение компании - огромная цепь модераторов, которые следят за лабиринтом слайдов PowerPoint, объясняющих, что запрещено, а что нет.

« Каждое утро вторника несколько десятков сотрудников Facebook встречаются в закусочной, где они принимают новые правила для модератора. Обсуждается, что будет разрешено общаться с двумя миллиардами пользователей на сайте », - пишет NY Times. « Решения, принятые на этих встречах, отправлены более 7500 модераторам со всего мира ». Газета сообщила, что у нее есть копия этих инструкций, которая содержит более 1400 страниц. Информация была предоставлена ​​одним из сотрудников, смущенных и рассерженных из-за ненужной модерации и слишком большого количества ошибок в руководстве, а также общих ошибок, допущенных Facebook при модерировании.

Изучение этих документов выявило множество пробелов, предрассудков и очевидных ошибок. Очевидно, что инструкции для разных стран различны, и в результате ненавистнические высказывания могут в некоторых регионах процветать, а в других - излишне удаляться.

Например, недавно модераторам было приказано удалить запросы о выделении средств на индонезийские вулканы, поскольку один из организаторов кампании находится в черном списке Facebook. В Индии модераторы ошибочно посоветовали им удалить комментарии, критикующие религию. Экстремистская группировка в Мьянме действует уже несколько месяцев из-за ошибки в документации Facebook. Военный преступник Ратко Младич назначен беженцем и тому подобное.

Скриншот руководства модератора

Согласно этой информации, фактическая модерация осуществляется сторонними компаниями. Они, в свою очередь, используют в основном неквалифицированных людей, многие из которых работают в колл-центрах и в шутку называют «индийская поддержка».

Слишком часто модераторы полагаются на Google Translate. Но требования к их производительности таковы, что им нужно на несколько секунд вспомнить бесчисленные правила и применить их к сотням сообщений, которые появляются на их настольных компьютерах каждый день. Например, вы должны быстро вспомнить, с какими эмоциями упоминание о джихаде запрещено.

Это объясняет ненавистнические высказывания.

Ряд модераторов говорят, что эти правила не очень эффективны и иногда бессмысленны. Но руководство компании считает, что другого пути нет.

Документ, появляющийся в прессе, не похож на четкое руководство. Он состоит из десятков несвязанных презентаций PowerPoint с бюрократическими названиями, такими как « Западные Балканы не любят организации и людей » или « Очевидное насилие: стандарты и преобразования ». Facebook подтвердил, что документ является подлинным и файлы предназначены для обучения модераторов, но это старая версия. Но модераторы утверждают, что эти файлы ежедневно используются в качестве справочного материала.