LLM jacking будет обходиться жертвам дороже

Подразделение Google — компания Mandiant — предупредило о растущей угрозе для корпоративной инфраструктуры ИИ: киберпреступники начали продавать доступ к нейросетям. Сообщается, что в текущем году уже зафиксирован ряд инцидентов в таких сферах, как финансовые услуги, розничная торговля, технологии и транспорт, в том числе с применением методов, получивших название LLM jacking.

«В отличие от постепенного расхода ресурсов, характерного для "криптоджекинга" (скрытого майнинга криптовалют), атаки типа LLM jacking могут привести к резкому росту расходов на облачные сервисы — буквально за считанные часы», — пояснили эксперты.

Сам по себе этот метод не является новым, однако, экосистема, связанная с ним, по всей видимости, активно развивается. Злоумышленники обходят пользовательские интерфейсы чат-ботов, чтобы получить прямой доступ к вычислительным ресурсам самих моделей. Обычно это происходит через API-ключи нейросети или скомпрометированные облачные токены доступа — например, учётные данные IAM, ключи сервисных аккаунтов (service account keys), персональные токены доступа GitHub или активные сессионные токены.

На следующем этапе хакеры повышают привилегии и проводят внутреннюю разведку, чтобы выявить новые цели и получить дополнительные облачные учётные данные. Плюс, преступники могут использовать уязвимости в софте, отвечающем за маршрутизацию запросов, — это также позволяет расширить полномочия в системе.

«Конечная цель LLM jacking — монетизация и захват ресурсов базовых моделей. Злоумышленники добиваются этого с помощью проксирования токенов, автоматизированной потоковой передачи данных к моделям и эксплуатации вычислительных мощностей графических процессоров», — отмечается в отчете.

Google уже зафиксировала активность различных группировок, преследующих финансовую выгоду с помощью LLM jacking, — инциденты произошли в Северной и Южной Америке, а также в Азиатско-Тихоокеанском регионе. Кроме того, наблюдается своего рода «разделение труда»: одни хакеры специализируются на обеспечении первоначального доступа, другие — на монетизации инфраструктуры (их называют LLM mixers).

Такие «маршрутизаторы» выступают в роли посредников: проксируют запросы, агрегируют их и перепродают доступ к нейросетям другим преступникам. Этот вид деятельности настолько прибылен, что, по прогнозам Google, в будущем атакующие будут отдавать предпочтение LLM jacking, а не криптоджекингу.

«По мере того как предприятия внедряют в свои рабочие процессы более совершенные модели и автономные агентные системы, киберпреступники, вероятно, будут совершенствовать методы автоматизированной разведки, — заключают аналитики. — Cпециализация начнёт способствовать развитию теневого рынка перепродажи ресурсов: злоумышленники смогут быстро расходовать корпоративные квоты, перекладывая финансовые затраты на плечи жертв — причём ещё до того, как факт компрометации обнаружат».

Усам Оздемиров