Институт безопасности ИИ (AISI) призвал организации уделить больше внимания основам кибербезопасности и рассмотреть возможность использования нейросетей для защиты систем после тестирования последней модели Anthropic.
Модель Claude Mythos Preview привлекла большое внимание прессы на прошлой неделе, так как позволила обнаружить тысячи уязвимостей нулевого дня, существовавших десятилетиями. В Anthropic также объявили о запуске проекта Glasswing, в рамках которого техкомпании смогут испытать возможности разработки.
Представители AISI высказали мнение, что Mythos представляет собой «шаг вперёд по сравнению с предыдущими передовыми моделями в условиях, когда показатели кибербезопасности уже быстро улучшались»: «В ходе контролируемых испытаний, в которых модель была явно настроена и получила сетевой доступ, мы наблюдали, что она могла выполнять многоэтапные атаки на уязвимые сети, а также автономно обнаруживать и использовать уязвимости — задачи, на выполнение которых профессионалам потребовались бы дни работы».
Однако были и оговорки. В «32-шаговой симуляции атаки на корпоративную сеть» ИИ справился с задачей только в трёх из десяти попыток, выполнив в среднем 22 из 32 шагов. Возможно, с увеличением вычислительных мощностей производительность улучшится. Отмечается, что киберполигоны (в отличие от реальных условий) не располагают активными функциям безопасности и представляют собой более лёгкие цели.
Исходя из этого, эксперты AISI не могут ничего с уверенностью сказать о способности нейросети успешно атаковать хорошо защищённые системы. В будущем учёные планируют исправить эти пробелы в понимании, имитируя защищённые среды с обнаружением на конечных точках и реагированием на инциденты в реальном времени.
Помимо этого, институт призвал ИБ-команды улучшить базовую защиту, чтобы иметь наилучшие шансы на смягчение атак с использованием ИИ: «Наши тесты показывают, что Mythos Preview может использовать уязвимости в системах со слабой защитой, и, вероятно, будут разработаны и другие модели с такими возможностями. Важно применять такие базовые принципы, как регулярное обновление политик безопасности, надёжный контроль доступа и всестороннее ведение журналов».
Институт также предложил организациям рассмотреть возможность использования ИИ для обеспечения «революционных улучшений в защите». В совместном блоге AISI и Национального центра кибербезопасности (NCSC) были перечислены следующие меры:
- сокращение поверхности атаки за счёт сканирования системы на скорости машины, выявления неправильных конфигураций и уязвимостей, проверки возможности эксплуатации и построения сложных путей атаки;
- улучшение обнаружения и расследования угроз путём сортировки оповещений, анализа закономерностей в различных журналах и составления сводных отчётов для аналитиков;
- автоматизация ответных действий — блокировка потоков трафика, помещение подозрительных процессов в карантин и отзыв доступа пользователей.
Усам Оздемиров
.png)