"ВКонтакте" тестирует систему искусственного интеллекта, которая сможет автоматически выявлять публикации с враждебными высказываниями на просторах социальной сети и наказывать нарушителей. "Технология призвана ускорить время обработки жалоб и помочь пользователям реже сталкиваться с проявлениями нетерпимости", — пояснили в компании.
Нейросеть должна помочь быстрее находить как посты с оскорблениями и угрозами, так и материалы, которые провоцируют аудиторию проявлять агрессию. При этом система сама будет решать, к какой категории категории относится высказывание, выражающее ненависть к определенной группе людей.
"Среди них — проявления ксенофобии, расизма, гомофобии, сексизма и других предрассудков, а также оскорбления на почве религиозной принадлежности, возраста, внешности или наличия заболеваний", — рассказали представители "ВКонтакте".
Для обучения ИИ команда сервиса создала новую категорию жалоб — "Враждебные высказывания". Её можно указать, нажав на стрелку в углу поста или крестик в комментариях. Затем заявка будет рассмотрена модераторами.
За первую половину 2020 года "ВКонтакте" удалила 520 тысяч единиц контента по теме разжигания вражды и ненависти. Кроме того, в соцсети было заблокировано 1340 профилей и 2470 сообществ, распространяющих враждебные высказывания.
С агрессией при помощи ИИ активно борется и Facebook (запрещена в РФ). В июле компания заявила, что разработала "хулиганский" искусственный интеллект для имитации поведения людей, нарушающих правила соцсети. Симуляция — WW — является почти полной копией соцсети, только населена ботами, которые ругаются, продают оружие и наркотики, публикуют непристойный контент и спамят.
