Anthropic объявила о расширении ещё на 150 организаций проекта Glasswing, в рамках которого к передовой модели Claude Mythos первоначально было допущено примерно 50 партнёров. Сообщается, что эта группа использовала ИИ для обнаружения свыше десяти тысяч уязвимостей высокой или критической степени серьёзности.
Новые участники находятся более чем в 15 странах и охватывают секторы, которые были мало представлены на момент запуска, в том числе энергетика, водоснабжение, здравоохранение, связь и аппаратное обеспечение. Многие из них являются поставщиками софта, чей код используется в других организациях. Anthropic объяснила свой выбор так: кибератака на любую из кодовых баз этих вендоров может иметь катастрофические последствия и затронуть сотню миллионов человек.
В течение шести-двенадцати месяцев в компании ожидают, что конкурирующие разработчики выпустят модели с сопоставимыми кибервозможностями, но предположительно без защиты от неправомерного использования. Общий доступ к LLM класса Mythos по-прежнему невозможен: в Anthropic исходят из того факта, что на данный момент отсутствуют средства защиты соответствующего уровня.
Расширение круга участников проекта обостряет проблему, с которой уже борется отрасль, так как обнаружение брешей стало намного проще, чем их устранение. Сам ИИ-гигант заявил, что теперь узкое место заключается в проверке, раскрытии и устранении уязвимостей, выявляемых этими моделями.
Как отметил основатель OWASP и технический директор Contrast Security Джефф Уильямс, объявленная мера создаёт дополнительное давление на и без того перегруженные команды: «Искусственный интеллект превращает обнаружение уязвимостей в деятельность промышленного масштаба, но большинство организаций по-прежнему устраняет проблемы со скоростью человека».
По мнению Уильямса, обнаружение большего количества недостатков не делает ПО безопаснее, если компании не могут проверять, расставлять приоритеты и исправлять уязвимости с той же скоростью. Реальная возможность заключается в том, чтобы направить нейросети на моделирование угроз и безопасное проектирование, а не на вчерашний цикл сканирования и исправления.
Усам Оздемиров
.jpg)
.jpg)
.jpg)