Киберпреступники тоже опасаются, что ИИ лишит их работы

Анализ обсуждений на форумах киберпреступников, в даркнете и мессенджерах, проведённый ИБ-исследователями из подразделения Sophos Counter Threat Unit (CTU), показал: хакеры, как и многие работники легальных компаний, опасаются, что распространение нейросетей может привести к потере дохода.

В исследовании говорится, что инструменты для взлома на основе ИИ стали всё чаще выставляться на подпольных рынках. Продавцы (как известные, так и новые) предлагают наборы, которые могут помочь злоумышленникам в создании фишинговых и социнженерных кампаний, разработке вредоносного ПО, выполнении действий в скомпрометированных сетях и многом другом.

Например, в блоге Sophos подробно описывается, как один пользователь изучает возможности GenAI для преодоления языковых барьеров, распространения контента в больших масштабах и быстрого реагирования на действия жертв. В другом случае было отмечено использование дипфейковых аудио- и видеопрофилей в целях осуществления «романтического фрода». Некоторые предлагают инструменты, как утверждается, автоматизирующие кодирование ВПО с помощью ИИ.

По словам безопасников, не все хакеры с энтузиазмом восприняли цифровой прогресс, будучи обеспокоенными возможным изменением ролей, ценообразования и конкурентных преимуществ в криминальной экономике. Они уверены, что продавцы инструментов ИИ могут отнимать работу у тех, кто вручную пишет их вредоносные скрипты и коды. В то же время не все убеждены в потенциале киберпреступлений с применением ботов.

Часть посетителей форумов пессимистично высказалась по поводу возможностей Mythos и других передовых ИИ-моделей, считая реакцию руководителей корпораций на заявленный потенциал этих нейросетей «слишком острой». Однако другие продолжали выражать обеспокоенность по данному вопросу. Кто-то пожаловался, что рост числа преступников, использующих ИИ, отнимет деньги у разработчиков ВПО, создающих его вручную, а также предупредил, что «продукты» станут хуже, поскольку их авторы будут передавать код на аутсорсинг ботам.

В заключение аналитики Sophos посоветовали безопасникам «поддерживать видимость своей среды, чтобы выявлять и нейтрализовать аномальную активность до того, как атаки перерастут в более серьёзные». По их мнению, организациям следует продолжать уделять первостепенное внимание строгой кибергигиене, включающей своевременное обновление софта, MFA и использование паролей, снижая уязвимость перед устоявшимися методами кибератак и будущим ускорением с помощью ИИ.

Усам Оздемиров