ВЭФ предупредил о серьёзных рисках, связанных с deepfake-технологиями

В новом отчёте для Атласа киберпреступности Всемирного экономического форума (ВЭФ) содержится предостережение о том, что быстрое развитие технологии дипфейков становится серьёзной проблемой для поддержания доверия к системам цифровой идентификации. Исследование подготовлено в сотрудничестве с Lemon, Mastercard и её дочерней компанией Recorded Future, а также со SpyCloud и Trend Micro.

Генерация дипфейков (особенно инструменты замены лиц) позволяет злоумышленникам обходить процедуру «знай своего клиента» (Know-Your-Customer, KYC) и удалённую верификацию, создавая финансовые, операционные и системные риски для любого учреждения, которое полагается на цифровое доверие. Эта угроза дополняется другими тревожными тенденциями, такими как всё более частое нацеливание скамеров на финансовые услуги и криптовалюты — прежде всего уязвимые для атак с обманом KYC.

«Преступники теперь комбинируют сгенерированные с помощью ИИ или украденные документы, удостоверяющие личность, сложные замены лиц и внедрение изображений с камеры, чтобы обойти проверку в реальном времени», — говорится в отчёте.

Защита KYC используется во многих отраслях для аутентификации личности новых клиентов и оценки потенциальных рисков, связанных с ними. Она включает в себя проверку документов и биометрическую идентификацию. Исследователи видят наибольшую опасность там, где «высокоточные, работающие с низкой латентностью в режиме реального времени подмены изображения могут быть доставлены непосредственно в конвейер верификации».

Помимо проведения технического анализа инструментов дипфейков эксперты спрогнозировали пять тенденций ближайшего года:

1. Снижение барьеров для входа и увеличение сложности атак в связи с демократизацией инструментов ИИ.
2. Сохранение финсектора и криптовалют в качестве основных целей с расширением на другие сегменты, зависящие от KYC.
3. Повышение точности технологии подмены лиц, подрывающее верификацию.
4. Сохранение атак с использованием поддельных изображений в краткосрочной перспективе с эскалацией инъекционных атак по мере роста активного внедрения проверки подлинности.
5. Фрагментированное регулирование, ограничивающее возможности защиты в краткие сроки при ожидании роста устойчивости в последующем.

«Исследование также показывает, что система защиты должна развиваться параллельно с достижениями в области GenAI. Модели обнаружения должны не только распознавать известные закономерности, но и предвидеть будущие посредством непрерывного обучения, интеграции обратной связи и межплатформенной корреляции сигналов», — считают авторы документа.

Усам Оздемиров