По данным Group-IB, искусственный интеллект подпитывает «пятую волну» в эволюции киберпреступности, предлагая недорогие, готовые вредоносные инструменты, позволяющие совершать сложные атаки.
В свежем отчёте компания разделила историю киберпреступности на четыре этапа: от оппортунистических вредоносных программ и вирусов 1990-х и начала 2000-х годов до волны «атак на экосистемы и цепочки поставок», которая характеризовала 2010-е и 2020-е годы. С 2022-го, как утверждают аналитики, хакеры вступили в пятую волну, вызванную влиянием нейросетей.
Эта новая эра отмечена быстрым внедрением инструментов ИИ злоумышленниками, которые «превращают человеческие навыки в масштабируемые услуги» и делают киберпреступность «дешевле, быстрее и масштабируемее», заявил в предисловии к отчёту гендиректор Group-IB Дмитрий Волков.
Наборы для создания дипфейков на чёрном рынке сегодня можно приобрести всего за пять долларов. Одним из наиболее вопиющих примеров злоупотребления GenAI является создание поддельного синтетического контента, имитирующего реальных людей. Он может использоваться для заманивания других доверчивых пользователей с целью выполнения задач или обхода процессов аутентификации и систем «знай своего клиента» (KYC) для получения доступа к устройствам, кражи денег или данных.
Например, аналитики Group-IB обнаружили инструменты, предлагающие ИИ-актеров для видео, клонированные голоса и даже биометрические наборы данных за пять долларов, а также дипфейки как услугу по подписке, начинающейся от десяти долларов в месяц. Кроме того, безопасники зафиксировали резкий рост обсуждений подобного «товара» в криминальных целях на форумах даркнета за последние три года: со среднего показателя — менее 50 тысяч сообщений на эту тему в период с 2020 по 2022 годы до примерно 300 тысяч упоминаний ежегодно с 2023-го.
Во время презентации отчёта в Лондоне руководитель отдела расследования киберпреступлений Group-IB Антон Ушаков сообщил: «Интересно, что популярны не только предварительно записанные подделки, но и дешевые инструменты, позволяющие создавать дипфейки в режиме реального времени. Конечно, это не убедит 90% людей, но если это сработает в 5–10% случаев, то может быть достаточно прибыльно».
В документе отмечено ещё одно важное применение ИИ хакерами — фишинг. В настоящее время цены на фишинговые наборы варьируются «от небольшой подписки на Netflix до 200 долларов в месяц, что делает их доступными и недорогими для групп любого размера». Нейросети облегчают не только генерацию зловреда, но и его распространение. Ранее преступникам, использующим наборы «фишинг как услуга» (PhaaS), приходилось настраивать все, включая SMTP-серверы и список жертв, и запускать эти кампании. Сейчас, с помощью ИИ, и особенно доступных моделей с открытым исходным кодом, они создают инструменты для автоматизации этих задач.
Более того, Group-IB обнаружила сервис, который использует агентов ИИ для разработки приманок, отправки фишинговых писем жертвам и возврата информации злоумышленникам с обратной связью, позволяя им адаптировать кампанию с течением времени. По мнению Ушакова, «агентизированный» набор, видимо, всё ещё находится на стадии тестирования и разработки.
Наконец, аналитики установили, что злоумышленники переходят от злоупотребления чат-ботами к созданию собственных «тёмных» больших языковых моделей, более стабильных, функциональных и не имеющих этических ограничений. От ранних экспериментов с примитивными ботами произошла эволюция к созданным на заказ, самодостаточным моделям ИИ, оптимизированным для генерации вредоносного контента. Все эти инструменты индустриализировали киберпреступность за счёт автоматизации, скорости распространения угроз и сложности их предотвращения.
Усам Оздемиров
.jpg)