Как Минцифры будет выявлять ИИ-фейки? Мнения

В Минцифры рассказали о планах создать платформу для выявления созданных с помощью ИИ фейков. Разработать её поручил премьер-министр Михаил Мишустин — в конце прошлого года.

По информации источника «Ведомостей» в цифровом министерстве, на этапе обсуждения было «предложено предварительно провести научно-исследовательские работы по обозначенной тематике». Сроки запуска он не обозначил.

Безопасники из T.Hunter полагают, что новая система будет определять аномалии в изображениях и видео, хотя логичнее было бы выявлять не внешние признаки дипфейка, а использование конкретной технологии.

В VisionLabs же считают, что сутью разработки может стать поисковый робот, который сканирует видео, проверяет его уникальность и степень причастности к его созданию искусственного интеллекта. И добавили, что такой подход потребует использования значительных вычислительных ресурсов, которыми обладают лишь немногие ИТ- или телеком-гиганты.

Также на рынке есть мнение, что система Минцифры будет выпущена в виде плагина для браузера, который автоматически сканирует сайты на наличие ИИ-контента. При этом, например, для мониторинга соцсетей ей необходимо будет иметь доступ к API той или иной платформы и разрабатывать специальный софт.