YouTube будет банить пользователей на сутки за повторные токсичные комментарии

Команда сервиса YouTube внесла изменения в правила, которые касаются нарушений принципов сообщества. Речь идёт о спаме и токсичных комментариях, разжигающих ненависть. Если раньше для борьбы с ними разработчики использовали всплывающие уведомления, где говорилось о необходимости уважать пользователей и авторов, то теперь вынуждены прибегнуть к более серьёзным методам.

Согласно новым правилам, если автоматизированная система YouTube обнаружит оскорбительный комментарий, она удалит его и уведомит пользователя о том, что он нарушил правила сообщества. Если тот же пользователь продолжит публиковать токсичные комментарии, он получит бан и не сможет оставлять комментарии в течение 24 часов. При этом пользователи имеют возможность обратиться в службу поддержки YouTube, если они считают, что их комментарий был удалён по ошибке. В компании отметили, что уже успешно протестировали эту функцию перед запуском — уведомления и блокировка нарушителей оказались весьма эффективными. Это снижает вероятность того, что пользователи снова оставят оскорбительный комментарий.

На текущий момент обнаружение токсичных комментариев доступно только для англоязычной аудитории YouTube. В будущем система заработает и для других языков.

Комментарии на YouTube, как известно, являются очень токсичными, и это головная боль Google. Кроме того, площадка переполнена ботами. Чтобы решить эту проблему, YouTube постоянно усовершенствует свои автоматизированные системы и модели машинного обучения для выявления и удаления спама. Компания заявила, что в первой половине 2022 года удалила более 1,1 млрд таких комментариев.