Смотрители бездны

Чтобы реклама брендов не появлялась под экстремальным контентом, Google нанимает все больше модераторов и цензоров. Работа у них не из сладких.

У Google в последнее время все никак не наладятся отношения с рекламодателями. Так, недавно от услуг Google на неопределенный срок отказалось более 250 крупных брендов, которые были возмущены тем, что их рекламные ролики на принадлежащем Google сервисе YouTube появляются в контексте экстремистских роликов, выложенных на сайте. Одновременно главное преимущество и главная проблема Google заключается в том, насколько популярны сайты, принадлежащие компании. На YouTube каждую минуту загружается более 400 часов нового видео, а в каталоге сайтов Google AdSense каждый день становится на тысячи страниц больше.

Чтобы качественно модерировать этот контент, Google пока не может полностью положиться на искусственный интеллект. Для начала люди должны научить этот интеллект распознавать видео, которые нарушают правила. Wired рассказал о работе санитаров интернета, которые занимаются одной из самых неприятных и неблагодарных работ в развитом обществе.

Для всего контента, который загружается на сайты компании (включая YouTube, Google Books, Google + и другие проекты), у Google есть сложная система правил, которая разделяет мир всего сомнительного и запрещенного на удобные категории. Компания не так часто полностью запрещает какой-либо контент к размещению, но ставит его в особые категории, в основном для того, чтобы реклама уважаемых брендов не появлялась в губительном для репутации контексте. Однако как весь мир узнал из многочисленных скандалов с размещением рекламных сообщений уважаемых брендов на каналах террористических организаций и прочих нелицеприятных медиа, справляется интернет-гигант с этой задачей пока что не идеально.

Цензоры канала не просто отмечают видео как непригодные для размещения, а подробно описывают их, определяют степень “угрозы” и распределяют по категориям. Именно этим людям приходится целенаправленно отсматривать на работе практически всю грязь, которую люди выкладывают в интернет. По словам анонимных собеседников издания, работающих в системе оценки и модерирования видео, с годами контент, который попадает на модерацию, становится все более и более “жестким” и пугающим. Однако хуже приходится даже не тем модераторам, которые отслеживают короткие графические видео, содержащие сцены насилия, а тем оценщикам, которые должны прослушивать многочасовые монологи экстремистских ораторов, чтобы найти в них конкретные нарушения правил. 

Большую часть модераторов для видео Google нанимает через компанию ZeroChaos, которая предоставляет рабочую силу и для многих других ИТ-задач. Получают модераторы, нанятые через ZeroChaos, $15 в час и не могут работать более 29 часов в неделю. Программа модерации контента для рекламы в Google работает с 2004 года, и с тех пор компания усвоила много важных уроков. Например, сегодня модераторы не могут работать в этой должности более двух лет подряд. Во многом это связано с психологическими проблемами, которые начинают испытывать люди, которые длительное время просматривают экстремальный контент. Однако для многих работников, которые поговорили с Wired, это ограничения стали главной проблемой на работе, а вовсе не тяжелая природа контента, который им нужно модерировать. Зарплата в $15 в час прилично превышает прожиточный минимум во многих штатах, поэтому многие бы хотели сделать эту работу постоянной. Однако на деле Google практически никак не коммуницирует с работниками этого направления, и они никогда не становятся полноценной частью команды компании.

Есть у этой работы и еще одна неожиданная особенность, которая делает труд модераторов совсем уж неблагодарным. Дело в том, что все действия сотрудников по оценке видео передаются искусственному интеллекту, который Google “натаскивает” на выполнение модераторской работы уже в ближайшем будущем. Выявление неподходящего контента — трудная, детальная и зачастую субъективная работа. Поэтому для того чтобы научить алгоритм качественно отсеивать непригодные для рекламы видео, сначала Google должен “скормить” ему огромный массив данных о том, как к разным видео относятся люди-модераторы. И хотя представители Google утверждают, что всегда будут опираться для модерации на совместный труд людей и алгоритмов, среди самих оценщиков есть четкое понимание того, что чем лучше они будут делать свою работу, тем быстрее их на ней заменят роботы.

Евгений Смирнов

Нашли опечатку? Выделите фрагмент и нажмите Ctrl+Enter.