Anthropic запускает Glasswing, чтобы бороться с критическими уязвимостями

Anthropic запустила проект Glasswing — инициативу, использующую ИИ для выявления и устранения ранее не обнаруженных уязвимостей кибербезопасности в критически важном программном обеспечении.

Проект, названный в честь бабочки glasswing, основан на Claude Mythos Preview — продвинутой, но недоступной для широкой публики версии LLM от самого вендора. Компания описала её как «самую мощную на сегодняшний день для задач программирования и агентного управления» и заявила, что она может «глубоко понимать и модифицировать сложное ПО», в том числе автономно находить и исправлять уязвимости в больших масштабах.

Объявленные возможности ИИ-модели уже были протестированы партнёрами Anthropic по запуску Glasswing. В их число входят Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, Linux Foundation, Microsoft, NVIDIA и Palo Alto Networks. В ходе испытаний нейросеть обнаружила тысячи ранее не выявленных уязвимостей нулевого дня. Заявленная конечная цель — «дать возможность пользователям безопасно развёртывать модели класса Mythos в больших масштабах».

В рамках проекта Anthropic выделила до 100 млн долларов в виде кредитов на использование более чем 40 организациям, которые создают или поддерживают критически важную программную инфраструктуру, чтобы те могли применять ИИ для сканирования и защиты как собственных, так и открытых систем. Также 4 млн долларов в виде пожертвований получат организации, занимающиеся безопасностью открытого исходного кода — для поддержки работы и разработки патчей (если это необходимо).

Anthropic не планирует делать предварительную версию Claude Mythos общедоступной. Она предназначена для использования ИБ-специалистами с соответствующими мерами защиты. Однако некоторые инсайдеры выразили обеспокоенность по поводу потенциальной возможности злоумышленников получить доступ к модели и сомнения в способности компании этому противостоять.

Эксперты в нескольких партнёрских компаниях Anthropic приветствовали разработку Claude Mythos Preview и Glasswing. Так, вице-президент по разработке решений в области безопасности в Google Хизер Адкинс заявила: «Google рада видеть, как эта межотраслевая инициатива в ИБ-сфере объединяется и предоставляет участникам доступ к Mythos Preview через Vertex AI. Всегда было крайне важно, чтобы отрасль работала вместе над возникающими проблемами безопасности, будь то постквантовая криптография, ответственное раскрытие информации об уязвимостях нулевого дня, безопасный софт с открытым исходным кодом или защита от атак на основе ИИ».

Усам Оздемиров