«Сбер» открыл доступ к обновлённой модели угроз для ИИ-систем

«Сбер» открыл доступ к собственной обновленной модели угроз для систем искусственного интеллекта. Это позволит всем российским государственным структурам и частным компаниям учитывать опыт «Сбера» для повышения киберустойчивости своих ИИ-решений.

Массовое внедрение генеративных моделей, мультиагентных систем, RAG и LLM-адаптеров, а также усложнение архитектур ИИ-решений существенно изменили ландшафт киберугроз для всех современных организаций. Обновленная модель угроз «Сбера», учитывающая эти изменения, опубликована в открытом доступе на портале «Кибрарий» в разделе «Экспертам».

Актуализированная модель описывает 37 угроз и 51 способ их реализации. Для каждой угрозы определены возможные последствия, нарушаемые свойства информации, связанные объекты и этапы жизненного цикла.

Реализация конкретных описанных в модели угроз может привести, например, к утечке или искажению данных, нарушению доступности и логики работы ИИ-решений, компрометации моделей и инфраструктуры, а также выполнению ИИ-агентами нелегитимных действий.

Угрозы и способы их реализации соотнесены с видами потенциальных нарушителей, различающихся уровнем осведомленности, технических возможностей и доступа к компонентам ИИ-решений, а также объектами защиты и воздействия. Кроме того, перечень объектов защиты расширен: он включает компоненты, которые ранее не рассматривались, но сегодня стали критическими точками атак. Это позволяет точнее определять актуальные угрозы с учетом архитектуры и условий эксплуатации конкретного ИИ-решения.

Модель предназначена для разработчиков ИИ-решений, MLOps-инженеров, архитекторов и специалистов по кибербезопасности, руководителей, отвечающих за управление рисками. Она помогает выстроить системный подход к моделированию и учету угроз кибербезопасности на всех этапах жизненного цикла данных, моделей и ИИ-решений — от сбора и подготовки данных до разработки, обучения, эксплуатации моделей и их интеграции с бизнес-системами. Модель может применяться в процессах безопасной разработки и MLOps при проектировании и эксплуатации генеративных, агентных и мультиагентных систем в реальной инфраструктуре.

Документ базируется на анализе актуальных угроз, мировых практиках и собственном опыте «Сбера» по обеспечению кибербезопасности инфраструктуры разработки, обучения и эксплуатации ИИ-решений.

Публикация документа дает российским организациям готовый инструмент для выявления и приоритезации угроз на ранних стадиях проектирования, а также определять ответственных за митигацию.