Предполагается, что нейросеть будет оценивать тексты и изображения в комментариях на наличие токсичного содержания, после чего выдавать оценку модераторам для проверки.
Все призывы к разжиганию ненависти и ксенофобии по отношению к любой нации или другой группе людей, в том числе с использованием нецензурной лексики, а также угрозы другим пользователям будут блокироваться. Также будут проанализированы изображения в комментариях, в случае наличия шокирующего содержания и актов насилия они тоже будут удалены, говорится в пресс-релизе, поступившем в газету ВЗГЛЯД.
Те пользователи, которые нарушат правила соцсети «Одноклассники» либо будут высказывать враждебные комментарии, получат запрет на комментирование любого контента в ОК. При попытке оставить комментарий соцсеть покажет уведомление и ссылку на правила поведения. Кроме того, авторы комментариев могут получить временный «отдых» от дискуссий, если на их высказывания поступает много жалоб и система определила их как токсичные и агрессивные.
Ранее в Общественной палате призвали пресечь попытки использовать социальные сети как площадки для провокаций.