RAID-AI защитит ИИ-системы от атак вымогателей

Руководители в сфере кибербезопасности теперь могут воспользоваться новой методикой для выявления и устранения уязвимостей, связанных с атаками программ-вымогателей на ИИ-системы. Инструмент, получивший название Ransomware Assessment and Incident Defense Framework for AI Systems (RAID-AI), находится в открытом доступе — бесплатно.

Бехназ Карими, соруководитель инициативы «Перечень компонентов систем искусственного интеллекта» (AI Bill of Materials — AIBOM) в рамках организации Open Worldwide Application Security Project (OWASP) разрабатывала RAID-AI на протяжении последних двух лет совместно с Ювараджем Говиндараджулу. Со слов Карими, методика сосредоточена на атаках с применением вымогательского ПО независимо от выбранных злоумышленниками технологий.

Оценка в рамках RAID AI охватывает как общие меры кибербезопасности, так и специфические риски, связанные с LLM, данными и сопутствующей инфраструктурой. Инструмент реализован в виде веб-консоли, предназначенной для CISO, ИБ-специалистов и инженеров по защите информации. Пользователи проводят оценку средств защиты вручную, определяя уровень их зрелости по шкале от нуля до пяти. Меры контроля при этом разделены на общие категории и категории, специфичные для ИИ.

RAID AI соотносит применяемые методы с двумя добровольными стандартами: Cybersecurity Framework 2.0 (CSF 2.0), разработанным NIST, и Cybersecurity Performance Goals 2.0 (CPG 2.0) от Агентства по кибербезопасности и защите инфраструктуры США (CISA). Кроме того, инструмент позволяет сопоставлять действия злоумышленников с тремя специализированными базами знаний об атаках: MITRE ATT&CK, MITRE ATLAS и NIST Adversarial.

Автоматизированный аудит не предусмотрен — специалисты сами анализируют свои рабочие процессы и самостоятельно вносят данные. Результаты отображаются в консоли в виде дашбордов, включающих оценку уровня зрелости и соотнесение с другими ИБ-стандартами. Пользователи также могут загружать PDF-отчёты, в которых выделены уязвимости, что помогает командам расставлять приоритеты.

В будущем Бехназ Карими планирует предоставить практические ресурсы для внедрения — например, видеоматериалы и руководства, призванные помочь инженерам по безопасности выбирать отдельные меры контроля. Также в планах — разработка аналогичного инструмента для защиты от программ-вымогателей, нацеленных на системы с агентным ИИ.

Усам Оздемиров