Обезвреживать «инфобомбы» в интернете поручат «Вепрю» Роскомнадзора
Система, запуск которой запланирован на вторую половину текущего года, будет работать в связке с «Окулусом» или системой «Мир».
Подведомственный Роскомнадзору «Главный радиочастотный центр» (ГРЧЦ) занимается внутренними испытаниями системы поиска и обезвреживания информационных бомб «Вепрь», рассказывают «Ведомости»
«Разработка информационной системы «Вепрь» ведётся с 2022 г. На сегодняшний день первые модули системы проходят внутреннее тестирование, запуск запланирован на вторую половину 2023 г.», – сообщил один из представителей ГРЧЦ.
Над данной системой работает петербургская компания «Необит», который с 2021 года находится в санкционных списках США. Компания уже занималась разработкой технологических систем для ФСБ, Минобороны. Среди её проектов система в виде флеш-карты «Инфоскальпель» для удаления остаточной информации из памяти оборудования видеоконференцсвязи, а также устройством криптографической защиты данных на флеш-накопителях «Флэшкриптор».
Стоимость же самой системы «Вепрь» оценивается в 30 млн руб., учитывая что изначально цена контракта составляла 60 млн. руб. Снижение стоимости обусловлено тем, что заявка петербургского «Необита» была единственной.
За такую сумму компания должна реализовать работу «по созданию информационной системы раннего выявления угроз в информационной сфере и прогнозирования рисков их возникновения» до конца текущего года, рассказал представитель Роскомнадзора.
Исходя из технического задания данная система должна противостоять «распространению общественно значимой информации под видом достоверных сообщений, которая создает угрозу причинения вреда жизни и (или) здоровью граждан, имуществу, угрозу массового нарушения общественного порядка и (или) общественной безопасности». Подразумеваются ли под этим объяснением только фейки или другая недостоверная информация — сказать довольно затруднительно. В техническом задании говорится лишь о прогнозировании рисков от появления в сети различных сообщений, но они могут быть не всегда неверными, рассказала разработчик решений по интеллектуальному сбору и анализу данных «Социальная лаборатория» Наталия Тылевич.
«Например, речь может идти о рисках для губернатора от сообщения о каком-то крупном пожаре или другой аварии в регионе. Но это и не значит, что данная информация будет удаляться из инфопространства, чтобы исказить положение реальных дел. Мониторинг рисков необходим, чтоб обеспечить своевременную реакцию ответственных госорганов», – поясняет Тылевич.
Также система будет работать над обнаружением авторов, распространяющих в Сети анонимные сообщения, анализировать информпространство по определенным темам-триггерам, а также распространение одинаковых сообщений, которые, к примеру, появляются на новостных сайтах или Telegram-каналах и подхватываются некоторыми лидерами мнений.
«Например, люди боятся аварий газового оборудования, потому что сами часто его используют, поэтому вероятность того, что сообщение о взрыве газа в жилом доме широко разойдется и вызовет волну обсуждения и общественного недовольства, высока, и этот риск как раз и зафиксирует система», – разъясняет специалист.
Несмотря на то, что обнаружение того или иного автора — довольно трудоёмкая задача, эксперт утверждает, что благодаря системе «Вепрь» она может стать вполне реалистичной.
«У каждого человека своя уникальная когнитивная карта: определенный набор выражений, внимание к различным деталям и т. п. У профессиональных журналистов закрепляются привычки в использовании речевых оборотов и логике подачи текстов. Те же принципы работают в антиплагиатных системах или чат-ботах на базе искусственного интеллекта», – заявляет Наталия Тылевич.
По словам эксперта, «Вепрь» будет работать в объединении с системами «Окулус» или «Мир». Система «Мир», которую внедрили в 2021 году, собирает сообщения из различных источников сортируя их по наружным признакам — изображения, тексты, видео и др. «Окулус» занимается анализом изображения и видео с целью соблюдения законов, а «Вепрь» работает над анализом уже текстов, формирует семантические связи между ними, предугадывая их дальнейшее распространение.
Однако многие эксперты сходятся во мнении, что разработка и запуск такой системы, которая будет пытаться определять автора и рассчитывать оценки вероятности волнений — выглядит маловероятно, и на разработку подобной системы должно уйти больше 30 млн руб.
«Просчитывать трафик сообщения в интернете — это мечта любого маркетолога. Но на практике это реализовать практически невозможно», – говорит IT-специалист, автор Telegram-канала «Эшер 2», Филипп Кулин.
По мнению специалиста распространение различных тем может происходить стихийно, а для работы ИИ нужно больше статистики.
Исполнительный директор «Общества защиты интернета» Михаил Климарёв попытался понять, что это за система и чем она будет заниматься:
«Что такое «инфобомба в интернете» я не знаю. И понятия не имею как её «обезвреживать». Скорее всего под «ранним выявлением угроз» подразумевается появление информации, которая оккупантам не нравится. Ну, например: «чиновник украл все деньги на благотворительность и построил себе восьмиэтажную дачу», «очередной упоротый мусор задавил ребенка на пешеходном переходе и уехал» или «количество могил на деревенском кладбище выросло втрое».
То есть, по сути это поиск по интернету и объединение таких сообщений в сюжеты. Примерно, как в «Яндекс-новостях». И, скорее всего, именно у них и берется основной объем данных «для анализа»».
Если выявлять такие «сюжеты» быстрее, чем они разойдутся по миллионам пабликов и как-то влиять на источник, то «можно ловить распространение и душить в зародыше», рассуждает Климарёв.
«Другое дело — а как? Да никак! – считает эксперт. – Просто этот самый «вепрь» показывает сюжеты, которые состоялись. А пока «сюжет» не состоялся, то его и не показывает. Но можно, например, устроить гонку по удалению ссылок на конкретные ресурсы в подконтрольных новостных сайтах, соцсетях и поисках — стандартный набор: ВК, Яндекс, Одноклассники, Рамблер и кто там у них еще — Лента.ру. Организаторы распространения информации, короче».
«То есть, создается петля управления с отрицательной обратной связью в виде поиска (в «Яндексе»?) и системой блокировок, включая ОРИ. Ну, и действительно — можно попытаться найти того, кто «бомбу» вбросил. Например, конкретного поциента, который всё еще пользуется ВК и разместил там фоточку с похорон. Такие люди находятся в довольно серьезной опасности», – предупреждает Климарёв.
В связи с этим, он ещё раз напомнил о необходимости использования VPN, а также желательном удалении аккаунтов в «ВКонтакте» и «Яндексе»: «Если вы создаете какой-то контент — старайтесь соблюдать хотя бы минимальные правила по анонимности. Здесь не буду долго рассказывать, но даже в заблокированных Инстаграме и Фейсбуке не стоит публиковать свои фото и сразу потом писать про коррупцию».
«С владельцами информ-ресурсов нужно будет как-то отдельно посидеть-подумать», – рассуждает Климарёв, приведя в качестве предварительного совета следующее:
«а) отказ от индексации в Яндексе — если трафик оттуда мал, то зачем вообще их бот приходит?
б) выявить ботов «вепря» и разорвать связность с этими ресрсами, вплоть до автономных систем.
в) тотальная популяризация VPN — как в свое время Ройзман делал с наркоманами — «кто не пользуется VPN тот лох». Ну, или разные способы, конечно, нужны. Много VPN не бывает.
г) что-то ещё.. надо думать».
Система, запуск которой запланирован на вторую половину текущего года, будет работать в связке с «Окулусом» или системой «Мир».
Подведомственный Роскомнадзору «Главный радиочастотный центр» (ГРЧЦ) занимается внутренними испытаниями системы поиска и обезвреживания информационных бомб «Вепрь», рассказывают «Ведомости»
«Разработка информационной системы «Вепрь» ведётся с 2022 г. На сегодняшний день первые модули системы проходят внутреннее тестирование, запуск запланирован на вторую половину 2023 г.», – сообщил один из представителей ГРЧЦ.
Над данной системой работает петербургская компания «Необит», который с 2021 года находится в санкционных списках США. Компания уже занималась разработкой технологических систем для ФСБ, Минобороны. Среди её проектов система в виде флеш-карты «Инфоскальпель» для удаления остаточной информации из памяти оборудования видеоконференцсвязи, а также устройством криптографической защиты данных на флеш-накопителях «Флэшкриптор».
Стоимость же самой системы «Вепрь» оценивается в 30 млн руб., учитывая что изначально цена контракта составляла 60 млн. руб. Снижение стоимости обусловлено тем, что заявка петербургского «Необита» была единственной.
За такую сумму компания должна реализовать работу «по созданию информационной системы раннего выявления угроз в информационной сфере и прогнозирования рисков их возникновения» до конца текущего года, рассказал представитель Роскомнадзора.
Исходя из технического задания данная система должна противостоять «распространению общественно значимой информации под видом достоверных сообщений, которая создает угрозу причинения вреда жизни и (или) здоровью граждан, имуществу, угрозу массового нарушения общественного порядка и (или) общественной безопасности». Подразумеваются ли под этим объяснением только фейки или другая недостоверная информация — сказать довольно затруднительно. В техническом задании говорится лишь о прогнозировании рисков от появления в сети различных сообщений, но они могут быть не всегда неверными, рассказала разработчик решений по интеллектуальному сбору и анализу данных «Социальная лаборатория» Наталия Тылевич.
«Например, речь может идти о рисках для губернатора от сообщения о каком-то крупном пожаре или другой аварии в регионе. Но это и не значит, что данная информация будет удаляться из инфопространства, чтобы исказить положение реальных дел. Мониторинг рисков необходим, чтоб обеспечить своевременную реакцию ответственных госорганов», – поясняет Тылевич.
Также система будет работать над обнаружением авторов, распространяющих в Сети анонимные сообщения, анализировать информпространство по определенным темам-триггерам, а также распространение одинаковых сообщений, которые, к примеру, появляются на новостных сайтах или Telegram-каналах и подхватываются некоторыми лидерами мнений.
«Например, люди боятся аварий газового оборудования, потому что сами часто его используют, поэтому вероятность того, что сообщение о взрыве газа в жилом доме широко разойдется и вызовет волну обсуждения и общественного недовольства, высока, и этот риск как раз и зафиксирует система», – разъясняет специалист.
Несмотря на то, что обнаружение того или иного автора — довольно трудоёмкая задача, эксперт утверждает, что благодаря системе «Вепрь» она может стать вполне реалистичной.
«У каждого человека своя уникальная когнитивная карта: определенный набор выражений, внимание к различным деталям и т. п. У профессиональных журналистов закрепляются привычки в использовании речевых оборотов и логике подачи текстов. Те же принципы работают в антиплагиатных системах или чат-ботах на базе искусственного интеллекта», – заявляет Наталия Тылевич.
По словам эксперта, «Вепрь» будет работать в объединении с системами «Окулус» или «Мир». Система «Мир», которую внедрили в 2021 году, собирает сообщения из различных источников сортируя их по наружным признакам — изображения, тексты, видео и др. «Окулус» занимается анализом изображения и видео с целью соблюдения законов, а «Вепрь» работает над анализом уже текстов, формирует семантические связи между ними, предугадывая их дальнейшее распространение.
Однако многие эксперты сходятся во мнении, что разработка и запуск такой системы, которая будет пытаться определять автора и рассчитывать оценки вероятности волнений — выглядит маловероятно, и на разработку подобной системы должно уйти больше 30 млн руб.
«Просчитывать трафик сообщения в интернете — это мечта любого маркетолога. Но на практике это реализовать практически невозможно», – говорит IT-специалист, автор Telegram-канала «Эшер 2», Филипп Кулин.
По мнению специалиста распространение различных тем может происходить стихийно, а для работы ИИ нужно больше статистики.
Исполнительный директор «Общества защиты интернета» Михаил Климарёв попытался понять, что это за система и чем она будет заниматься:
«Что такое «инфобомба в интернете» я не знаю. И понятия не имею как её «обезвреживать». Скорее всего под «ранним выявлением угроз» подразумевается появление информации, которая оккупантам не нравится. Ну, например: «чиновник украл все деньги на благотворительность и построил себе восьмиэтажную дачу», «очередной упоротый мусор задавил ребенка на пешеходном переходе и уехал» или «количество могил на деревенском кладбище выросло втрое».
То есть, по сути это поиск по интернету и объединение таких сообщений в сюжеты. Примерно, как в «Яндекс-новостях». И, скорее всего, именно у них и берется основной объем данных «для анализа»».
Если выявлять такие «сюжеты» быстрее, чем они разойдутся по миллионам пабликов и как-то влиять на источник, то «можно ловить распространение и душить в зародыше», рассуждает Климарёв.
«Другое дело — а как? Да никак! – считает эксперт. – Просто этот самый «вепрь» показывает сюжеты, которые состоялись. А пока «сюжет» не состоялся, то его и не показывает. Но можно, например, устроить гонку по удалению ссылок на конкретные ресурсы в подконтрольных новостных сайтах, соцсетях и поисках — стандартный набор: ВК, Яндекс, Одноклассники, Рамблер и кто там у них еще — Лента.ру. Организаторы распространения информации, короче».
«То есть, создается петля управления с отрицательной обратной связью в виде поиска (в «Яндексе»?) и системой блокировок, включая ОРИ. Ну, и действительно — можно попытаться найти того, кто «бомбу» вбросил. Например, конкретного поциента, который всё еще пользуется ВК и разместил там фоточку с похорон. Такие люди находятся в довольно серьезной опасности», – предупреждает Климарёв.
В связи с этим, он ещё раз напомнил о необходимости использования VPN, а также желательном удалении аккаунтов в «ВКонтакте» и «Яндексе»: «Если вы создаете какой-то контент — старайтесь соблюдать хотя бы минимальные правила по анонимности. Здесь не буду долго рассказывать, но даже в заблокированных Инстаграме и Фейсбуке не стоит публиковать свои фото и сразу потом писать про коррупцию».
«С владельцами информ-ресурсов нужно будет как-то отдельно посидеть-подумать», – рассуждает Климарёв, приведя в качестве предварительного совета следующее:
«а) отказ от индексации в Яндексе — если трафик оттуда мал, то зачем вообще их бот приходит?
б) выявить ботов «вепря» и разорвать связность с этими ресрсами, вплоть до автономных систем.
в) тотальная популяризация VPN — как в свое время Ройзман делал с наркоманами — «кто не пользуется VPN тот лох». Ну, или разные способы, конечно, нужны. Много VPN не бывает.
г) что-то ещё.. надо думать».
