Создана система мониторинга опасной информации в соцсетях

В России разработана система мониторинга опасной информации, которая способна отслеживать потенциально девиантное поведение детей и подростков в соцсетях. 

Новая система мониторинга, которая получила название «Георгий Победоносец», создана российской компанией «Сеуслаб». По словам разработчиков, о создании подобной системы задумались на фоне участившихся в последние годы случаев подростковой агрессии в учебных учреждениях. «В течение последних лет особую актуальность приобрела борьба с новыми вызовами цифрового мира. Я говорю о социально опасных субкультурах и явлениях, распространившихся в социальных медиа страны: скулшутинге, суицидальных играх, оккультных течениях и других деструкциях», - отметил руководитель проекта «Георгий Победоносец» Евгений Ашихмин. 

Для борьбы с этими явлениями информационной среды компания разработала систему мониторинга «Георгий Победоносец». По мнению разработчиков, с ее помощью удастся сделать жизнь детей безопаснее. Уже известно, что «Георгий Победоносец» будет обладать искусственным интеллектом, а в его разработке применяют методы машинного обучения. Система сможет одновременно настраиваться и проводить мониторинг сразу нескольких тематик, например экстремизма, колумбайна, терроризма, призывов к суициду. 

В работе над системой мониторинга принимали участие специалисты из разных регионов страны и эксперты из множества областей знаний, в том числе психологии и психиатрии. Программа интуитивно понятна и удобна в использовании.

Визуально новая система напоминает ленту новостей, как в социальных сетях, только вместо новостей она показывает потенциально опасный контент, отобранный в этих самых соцсетях. Затем система дает сигнал пользователю о деструктивной информации, формирует отчет за определенный период и передает его психологу - для дальнейшей обработки и принятия решения о ее опасности или безопасности. 

Система не имеет доступа к закрытым страницам социальных сетей и осуществляет мониторинг только открытой информации.

Выпуск системы «Георгий Победоносец» «Сеуслаб» планирует весной 2019 года. 

belta.by