Больше никакого негатива: теперь социальная сеть "Вконтакте" будет блокировать за язык вражды
Соцсеть «ВКонтакте» тестирует решение автоматического распознавания материалов с враждебными высказываниями (хейтспич) на основе искусственного интеллекта, сообщили в компании.
Как говорится в сообщении, нейросеть позволит быстрее находить публикации с враждебными высказываниями, а также материалы, которые провоцируют пользователей проявлять агрессию.
«Нейросеть учится определять самые разные категории оскорблений и угроз. Среди них проявления ксенофобии, расизма, гомофобии, сексизма и других предрассудков, а также оскорбления на почве религиозной принадлежности, возраста, внешности или наличия заболеваний», - пояснили в «ВКонтакте».
Для этого соцсеть добавила новую категорию жалоб – «Враждебные высказывания». Это позволит более точно откалибровать существующие инструменты и собрать набор данных для новых решений на основе нейросетей. Также модераторы ведут активный внутренний мониторинг, в частности с помощью технологии цифровых отпечатком и нейронных сетей.
Отмечается, что за первую половину нынешнего года соцсеть удалила 520 тыс. единиц контента по теме разжигания вражды и ненависти и заблокировала более тысячи профилей и около 2,5 тыс. сообществ, распространявших враждебные высказывания.
Интересное за неделю