РКН хочет возложить поиск запрещённого контента на ИИ

Роскомнадзор готов применить технологии искусственного интеллекта, чтобы вести реестр противоправной информации, а через два года и реестр операторов ПДн. Об этом говорит новая итерация паспорта программы цифровой трансформации РКН.

Документ содержит описание работ работ, связанных с единой информсистемой регулятора (ЕИС) и информсистемой мониторинга интернет-ресурсов (ИС МИР). Последняя призвана обнаруживать запрещённый текстовый контент и классифицировать его по характеру, а также искать перепечатки материалов. В прошлом году подведомственный Роскомнадзору ФГУП «Главный радиочастотный центр» уже публиковал тендер на интеграцию ИС МИР с другими системами, включая ИС «Окулус» (её используют для поиска изображений и символов).

Также документ гласит, что в 2023-м РКН находил противоправную информацию в Сети в среднем спустя три часа после её публикации. В текущем году ведомство планирует укладываться в два часа, а в 2026-м — в час. Плюс, через два года — опять же по плану — доля ошибок при выявлении нарушений в материалах СМИ должна уменьшиться с 20% до 10%.

Евгений Сурков из Innostage считает, что применение ИИ в данном случае поможет сократить объём человеческих ресурсов для обслуживания системы, однако, это потребует обучения модели на выборке материалов верифицированной и контролируемой оператором системы. Глава департамента расследований T.Hunter Игорь Бедеров в свою очередь даёт такой прогноз: «Даже через два года доля выявляемого запрещённого контента, который потребует дополнительной модерации человеком, вряд ли будет ниже 60%».

В компании Just AI отметили, что технологию можно применять для структурирования баз данных и поиска контекстуальных связей между текстовыми фрагментами, а также скрытых закономерностей и ассоциаций. Что же касается участия нейросетей в наполнении реестра операторов ПДн, то в экспертном сообществе есть мнение, что на первых порах такая практика будет чревата выдачей ложных обнаружений.