Создатели системы использовали модель машинного обучения (ML-модель). Она автоматически выявляет токсичные сообщения под видео, фотографиями и постами пользователей. Автор лишается возможности писать что-либо на срок от одного часа до суток.
"Мы видим по запросам пользователей, что у нашей аудитории есть потребность в пространстве для безопасного и уважительного общения: треть всех жалоб на платформе связаны с негативными, по мнению пользователей, комментариями", — добавил директор по продукту "Одноклассников" Александр Москвичев.
Применение ML-модели уже позволило сократить число оскорбительных комментариев на 47%. Искусственный интеллект обучился, проанализировав 400 тысяч негативных высказываний. Также модель будет совершенствоваться во время работы.
Благодаря ИИ обработка жалоб на токсичные комментарии происходит в три раза быстрее.
Также в "Одноклассниках" ML-модели используются для обнаружения нецензурной брани, изображений эротического содержания и фотографий со сценами насилия. Весь найденный неприемлемый контент скрывается, чтобы не доставлять дискомфорта пользователям.
Ранее президент РФ Владимир Путин заявил, что России необходимо развивать суверенный искусственный интеллект.
