Технологический суверенитет России: от БЛА и видеокамер до ИИ-технологий
Круглый стол «Обеспечение технологического суверенитета России в сфере безопасности с использованием производственного потенциала российских разработчиков и производителей» прошел в рамках Международного военно-технического форума «Армия 2024». Организатором мероприятия выступила компания «Цикада», соорганизаторами — АО «Инфотекс» и НИЦ «Технологии». Участники обсудили вопросы физической и информационной безопасности объектов, а также систем в условиях реализации атак, основанных в том числе на использовании БЛА и технологий искусственного интеллекта.
Защита от беспилотных аппаратов
Первая секция мероприятия — «Обеспечение защиты и безопасности объектов от БПА» — была посвящена нормативно-правовым аспектам и вопросам применения специальных технических средств по противодействию беспилотным аппаратам (воздушным, наземным, подводным и водным). ГРЧЦ Минцифры России разработал детальный алгоритм процедуры согласования эксплуатантов и разработчиков таких средств, в том числе устройств электромагнитного подавления, отметили участники дискуссии. Принята методика подтверждения технических требований к техническим средствам, включая определение недопустимых событий на объекте эксплуатации, средств, которыми нарушители могут достичь этого события, и средств, которые могут этому помешать, сообщил Олег Пелипас (ТПП России).
Применение любых средств радиоэлектронного подавления требует получения разрешения на использование радиочастотного спектра, напомнил представитель регулятора и регламентируется федеральными законами и иными нормативными актами, уточнил представитель ГРЧЦ Дмитрий Лобанов. Он состоит из трёх основных пунктов, первый из которых является основным. Его рекомендуется проводить силами разработчика средства радиоэлектронного подавления, поскольку только он знает точные тактико-технические характеристики устройства при его регистрации в ГРЧЦ. После получения положительного решения, оно отсылается заявителю и в федеральные органы исполнительные власти. Пользователь должен осуществить регистрацию радиоэлектронного средства в территориальном направлении Роскомнадзора и провести согласование использования оборудования с иными пользователи радиочастотного спектра. Требования были приняты недавно, поэтому регулятор не накопил достаточного практического опыта регистрации средств радиоэлектронной борьбы (РЭБ).
О том, что закупку оборудования для РЭБ надо начинать с комплексного подхода, с построения модели угроз конкретного объекта, указания взрывоопасных зон и расчёта потенциальных потерь, напомнила Наталия Котляр (ГК «Ростех»). С учетом полученной модели угроз просчитываются сценарии осуществления недопустимых событий, создается схема безопасности объекта с учетом законодательной базы, строительных возможностей и радиоэлектронной обстановки на предприятии. И только потом разрабатывается поэтапный план внедрения средств радиоэлектронной защиты с учетом финансовой составляющей и изменений на рынке, включая появление новых технологий и угроз. Таким образом, можно грамотно решить вопросы безопасности любого предприятия без дополнительных затрат, подчеркнула эксперт.
Проблемы ИБ в области видеонаблюдения
О проблемах и задачах в области видеонаблюдения говорили участники второй части круглого стола, на секции «Отечественные разработки в области видеонаблюдения: проблемы и возможности». Вадим Присяжнюк (НИЦ «Технологии») отметил, что в процессе импортозамещения на рынке видеонаблюдения происходит замещение оборудования одних азиатских производителей продукцией из Китая, в то время как на Западе отмечается тенденция по отказу от китайского оборудования.
Отечественные вендоры, ведущие локальную сборку видеосистем, на программную составляющую смарт-устройств влиять не могут, в то время они могут включать неизвестные недокументированные возможности. По мнению спикера, дать оценку локализации систем видеонаблюдения может 8 центр ФСБ России, который имеет все компетенции и полномочия для этого. Также докладчик отметил, что нормативные требования к таким системам устарели, они писались в 1990-х – начале 2000-х гг. для аналоговых устройств и не учитывают современных требований по информационной безопасности смарт-устройств — фактически маленьких компьютеров. Сегодня злоумышленник может легко получить несанкционированный доступ к системам безопасности, включая системы ИБ, через устаревшие видеосистемы организаций.
Еще один вопрос, на котором остановился докладчик, — вклад технологий искусственного интеллекта в системы наблюдения. По мнению спикера, принимать решение в вопросах безопасности, в том числе на объектах КИИ, в ближайшие 5-10 лет будет всегда живой оператор, а ИИ-системы наблюдения или аналитики будут подсказывать человеку, на что ему стоит обратить внимание.
На проблемах интеграторов остановился Александр Новиков (АО «Цикада»). Он затронул вопросы использования большого количества брендов в рамках одной системы, устаревание оборудования и необходимость его замены в условиях ограниченного финансирования. Докладчик предложил мотивировать бизнес и разработчиков на создание новых систем для создания собственной программной базы, модернизацию устаревших систем и масштабирование современных решений. Также спикер отметил необходимость пересмотра нормативных требований с учетом требований времени.
Об оценке качества систем искусственного интеллекта применительно к задачам видеонаблюдения говорил Юрий Силаев (АО «Цикада»). Он выделил классический подход, когда системы ИИ используются для распознавания объектов, дыма и пожаров, и серьезные задачи, требующие серьёзных исследований и обучения нейронных сетей, например, при выявлении поведения человека. Спикер отметил важность тестирования сложных систем не только на датасетах и стендах разработчика, но и со стороны регуляторов и потребителей, и необходимость проработки понятий модели качества и оценки качества на каждом этапе разработки таких систем.
Докладчик остановился на исследованиях и разработках стандартов, которые ведутся в рамках Технического комитета по стандартизации ТК 164 «Искусственный интеллект», и выделил группы характеристик для решения прикладных задач. Это все характеристики, связанные с функциональными возможностями, с надёжностью и с защищенностью систем, и их метрики.
Спикер предложил разработать подходы по комплексному тестированию систем видеонаблюдений с использованием ИИ и сертификации таких систем в будущем. Также он затронул вопросы кибербезопасности подобных систем, защиты каналов связи и самих камер, и отметил, что многие вопросы необходимо рассматривать в рамках технических комитетов по стандартизации ТК 164 и ТК 362 «Защита информации».
В ходе дальнейшей дискуссии участники круглого стола обратили внимание слушателей, что вопросы обновления требований к системам охранной видеоаналитики уже находятся в работе подкомитетов ТК 164, а системы видеонаблюдения по действующему законодательству относятся к объектам категорирования для необходимости устойчивого функционирования объектов критической инфраструктуры и подпадают под регуляторные требования ФСТЭК России.
Подводя итоги секции, ее модератор Сергей Соболев (НИЦ «Технологии») отметил, что участники круглого стола обсудили проблематику в вопросах развития и применения отечественных разработок в сфере видеонаблюдения и рекомендуют регулирующим органам и профильным организациям пересмотреть нормативы и правила установки камер видеонаблюдения с учётом современных реалий кибербезопасности; провести аудит имеющихся сетей видеонаблюдения на объектах КИИ на предмет кибербезопасности, закрыть несанкционированный доступ к камерам, если таковой имеется. Ужесточить требования по закупкам оборудования для объектов КИИ, помимо сертификата СТ-1 о российском происхождении, производитель оборудования должен предоставить сертификат средств защиты информации по уровню контроля отсутствия не декларируемых возможностей. Также рекомендуется рассмотреть вопрос предоставления преференций участникам конкурсных процедур — производителей оборудования для видеонаблюдения с наибольшим уровнем локализации производства, и организовать взаимодействие производителей систем видеонаблюдения с Консорциумом для исследования информационной безопасности искусственного интеллекта для определения системных предложений и подходов по безопасному применению технологии искусственного интеллекта в задачах видеонаблюдения. «Все перечисленные меры значительно усилят цифровой суверенитет Российской Федерации, а также повысят обороноспособность и национальную безопасность нашей страны», — подчеркнул Сергей Соболев.
Обеспечение кибербезопасности
Завершила круглый стол секция «Обеспечение кибербезопасности в условиях реализации атак, основанных, в том числе, на использовании технологий искусственного интеллекта»
Открывая дискуссию, модератор сессии Андрей Тихонов (Ассоциация «Доверенная платформа») напомнил, что согласно прогнозам, сделанным Ассоциацией и «Росатомом» в 2021 г., искусственный интеллект, квантовые вычисления и недокументированные возможности были определены как главные потенциальные угрозы кибербезопасности на 2025 г. И на сегодняшний день этот прогноз в части ИИ оправдывается, о чем уже рассказали коллеги в предыдущих обсуждениях. Модератор отметил, что за прошедшее время была проведена большая работа в части доверенного искусственного интеллекта и сформировался некий «портрет» ИИ как такого орудия. В первую очередь, это связано с генеративным ИИ и широко распространенными дипфейками. Уровень «специализации» экспертизы ИИ растет во всех областях и злоумышленники не обходят его своим вниманием.
С практической точки зрения ИИ может дать сильный эффект как поисковая система, собирающая информацию и персонифицирующая ее. Он может масштабировать атаки с огромной скоростью, с этой особенностью ИИ уже столкнулись специалисты в области ИБ. Таким образом, смещается традиционный подход к киберзащите периметра.
Юрий Силаев отметил как новые типы атак, так и новые системы защиты на базе ИИ. Однако есть проблемы с сертификацией и разработкой доверенных фреймворков, этим занимаются специалисты ИСП РАН и регуляторы. Спикер отметил этапы разработки систем ИИ, необходимости создания новых требований на всех этапах жизненного цикла датасетов и моделей, подходов к обучению и переобучению моделей, а также интерпретации результатов. По мнению спикера, самые жесткие требования должны быть прописаны к этапу эксплуатации, он привел аналогию с требованиями к средствам криптозащиты информации и их аккредитации.
Хакеры успешно используют технологии ИИ для исследования инфраструктуры предприятий, поиска уязвимых мест для максимального ущерба, при этом ИИ значительно сокращает время подготовки атак, отметил Евгений Генгринович (АО «Инфотекс»). Он также заметил, что технологии ИИ уже сертифицированы как инструменты в ряде продуктов, а ИИ оказывает помощь и ускорение при принятии решений. Устойчивостью таких решений могут заниматься только производители, а задачи компаний, работающих в области кибербезопасности, — помочь им с инструментами для внедрения решений и при их сертификации.
Спикер обратил внимание участников на тенденции к пересмотру старой модели построения бизнес-процессов и стиранию границ между подразделениями условиях новой цифровой реальности. Эти же подходы приходят и в образование, где узко профильные специалисты должны получать и в последствии повышать знания и навыки в вопросах ИТ и ИБ.
Бурную дискуссию о роли и месте кибербеза в бизнес-процессах предприятий, нейросетях и средствах защиты информации, а также оценки зрелости организаций и подходов к ИБ завершил модератор сессии. Подводя итоги круглого стола, он отметил готовность всех участников и дальше работать по теме ИИ и его применения, в том числе как средства защиты; необходимость организовать взаимодействие с Консорциумом для исследования ИБ ИИ для определения системных предложений и подходов по применению технологии ИИ в целях оценки уровня киберустойчивости; организовать взаимодействие с ТК 167 «Программно-аппаратные комплексы для критической информационной инфраструктуры и программное обеспечение для них» в части разработки требования по контролю устойчивости на жизненном цикле доверенных ПАК и систем с информационной составляющей, в том числе с использованием ИИ.
