Эксперт фонда OWASP сравнил ИИ-агентов с роями дронов

Международный фонд Open Worldwide Application Security Project (OWASP) сообщил о создании Исследовательского совета по агентным технологиям (Agentic Research Council), призванного преодолеть разрыв между быстро развивающимися возможностями ИИ-агентов и более медленными темпами традиционных исследований и стандартов в ИБ.

Соруководитель и член правления OWASP GenAI Security Project и Инициативы по агентной безопасности (Agentic Security Initiative) Джон Сотиропулос охарактеризовал новую структуру как следующий шаг в проекте, основная сила которого заключается в сочетании широкого участия сообщества с экспертной оценкой. Он направлен на глобальное сотрудничество между академическими кругами, промышленностью и правительством, чтобы исследования можно было быстрее приоритизировать, согласовывать и преобразовывать в развёртываемые меры по смягчению последствий.

Сотиропулос объяснил, что обоснование учреждения Совета напрямую связано со скоростью и природой агентных систем: их использование ставит под сомнение многие стандартные отраслевые практики. По мнению эксперта, сокращение времени до обнаружения уязвимости означает, что разработчикам защиты необходимо переориентироваться с управления, завязанного на разработку, на мониторинг и контроль на уровне агентов в режиме реального времени.

«Локально размещённые проекты, такие как OpenClaw (и теперь NanoClaw), демократизировали ИИ-агентов, поскольку сделали технологию доступной практически для всех. Теперь же коммерциализация агентов, вероятно, случится благодаря фундаментальным, передовым разработкам моделей. И это происходит, и происходит быстро», — добавил Джон Сотиропулос. Хотя Mythos от Anthropic с расширенными возможностями доступен лишь избранным через проект Glasswing, некоторые модели с очень похожими возможностями, такие как GPT5.5 от OpenAI, открыты гораздо большему числу пользователей.

Безопасник утверждает, что анализ агентов в изоляции больше недостаточен, поскольку их множество способно открывать новые инструменты, создавать динамические цепочки этих инструментов и демонстрировать эмергентное поведение, создающее поверхности атаки, невидимые на этапе проектирования.

Как отметил Сотиропулос, подход «безопасность по умолчанию» должен дополняться управлением в процессе выполнения и наблюдаемостью, ориентированной на взаимодействие и поведение агентов. На практике это означает, что схемы реагирования на инциденты, тестирования на проникновение и атрибуции следует изменить, чтобы учитывать атаки со скоростью машин и рои многоагентных систем.

«Если вы подумаете об оборонном секторе, я думаю, что агентный ИИ делает с кибербезопасностью то же, что дроны сделали с кинетической войной. Раньше мы все думали, что для ведения войны необходимо сверхдорогое, сложное оборудование, а затем появились дешёвые дроны и сделали эту область товаром массового потребления», — пояснил он.

Эксперт сравнил рои агентов с роями дронов, «где множество мелких объектов действуют согласованно настолько быстро, что требуется миллион ответных действий одновременно, что невозможно для человека».

Усам Оздемиров