Недавно в «Google Картах» появились отзывы, которые начали отображаться под метками организаций. Реакция пользователей на такое новшество оказалась неоднозначной. Одни считают, что это ещё больше нагромождает и без того перегруженный лишней информацией сервис, другие сомневаются в том, можно ли доверять таким отзывам. По этому поводу компания Google опубликовала развёрнутый пост, в котором подробно рассказала, как модерируются отзывы, прежде чем они будут опубликованы в «Google Картах».
В Google разработали строгие правила в отношении содержания отзывов, чтобы они основывались на реальном опыте, а неуместные и оскорбительные комментарии не попадали в бизнес-аккаунты. Со временем политика компании менялась (как и меры защиты), чтобы в конечном счёте стать пособием для модераторов и алгоритмов машинного обучения. Как только кто-то оставляет отзыв на картах, он автоматически отправляется в систему модерации, предотвращающую публикацию нежелательного контента. Google вкладывает в эту систему огромные средства, так как нужны не только возможности, которые предоставляют машины, но и тонкое понимание модератора-человека.
Алгоритмы — первая линии обороны. Они хорошо распознают определённые закономерности, которые помогают определить, является ли контент законным. Таким образом, большинство отзывов удаляется до того, как их увидят модераторы и пользователи. Алгоритмы рассматривают отзывы на предмет содержания оскорбительного или не относящегося к теме контента, проверяют учётную запись автора, его подозрительную активность (например, публикацию большого количества отзывов за короткий промежуток времени), похожие по содержанию посты в социальных сетях и так далее.
Какими бы умными не были машины, они не всегда понимают разницу между приемлемым и нарушающим политику контентом. Модераторы сервиса регулярно проводят тесты и проходят дополнительное обучение, чтобы исключить предвзятость моделей машинного обучения. Это снижает вероятность непреднамеренной блокировки отзывов. Если система модерирования не находит нарушений, отзыв может быть опубликован в течение нескольких секунд. Тем не менее даже после этого система продолжает анализировать контент и отслеживать подозрительные схемы добавления отзывов.
Обычные пользователи «Google Карт» тоже могут принимать участие в модерировании отзывов. У них есть возможность отмечать нарушения, после чего компания проверяет запрос и предпринимает необходимое действие — удаляет сообщение, блокирует учётную запись (при необходимости) и даже может инициировать судебный процесс. Кроме того, Google также старается предусмотреть вероятность появления фейковых отзывов, связанных с предстоящими событиями. К местам, которые люди будут массово искать на карте, предъявляется особое внимание.
