По данным исследовательского центра «Лаборатории Касперского», в прошлом году 28% промышленных предприятий в мире столкнулось с атаками, в которых применялся ИИ в той или иной форме.
В обрабатывающей промышленности подобные инциденты перенесло 36% организаций, в дискретном производстве — 30%, в строительстве — 21%, в сельском и лесном хозяйстве — 20%, в сфере энергетики и коммунальных услуг — 18%, а в транспортной отрасли — 17%. 36% участников исследования включает ИИ-атаки в топ наиболее значимых угроз — наряду с активностью APT-группировок.
Дополнительные риски связаны с развёртыванием нейросетей в системах самих предприятий. Например, если раньше атаки на цепочки поставок ПО совершались через программные пакеты, то теперь злоумышленники могут использовать для этого ИИ-модели: внедрить скрытый вредоносный код в файл LLM или вредоносную нагрузку — в агентные навыки бота.
Не менее опасны, по словам специалистов ЛК, излишние автономность и полномочия агентов — с появлением систем вроде OpenClaw простой вредоносной инструкции в посте в соцсети может быть достаточно, чтобы агент выполнил произвольный код на стороне пользователя, сделал криптовалютный перевод или опубликовал конфиденциальные данные.
Также пока не найдено решение проблемы «теневого ИИ»: персонал активно пользуется сторонними, не одобренными ИБ-службой чат-ботами для выполнения рабочих задач, что лишь повышает профильные риски.
