CrowdStrike показала «ИИ-стоп-кран»

CrowdStrike анонсировала AI Kill Switch («аварийное отключение ИИ») в составе платформы Falcon Guardian. Новая опция гарантирует полный контроль над ИИ‑агентами: если бот начнёт действовать вопреки заданным алгоритмам, безопасники смогут немедленно остановить его.

«Впервые безопасность становится одновременно и катализатором, и страховочным механизмом при внедрении технологий. Функция AI Kill Switch передаёт управление в руки людей, обеспечивая безопасное использование ИИ», — отметил Джордж Курц, гендиректор и основатель CrowdStrike.

Агенты работают, имея доступ на системном уровне — в конечных точках, облачных средах и SaaS‑приложениях. В процессе выполнения операций они встречают барьеры и способны совершать действия, на которые не было получено разрешение. Именно в таких случаях AI Kill Switch даёт ИБ-специалисту шанс принять финальное решение.

Механизм задействует уже существующий сенсор Falcon на конечных точках и опирается на данные о шагах нейросети, которые собирает платформа. Сенсор блокирует выполнение операций сначала на уровне шлюза, а потом непосредственно на конечной точке. При этом политики препятствуют повторному запуску бота на целевом хосте или группе хостов, и в итоге тот теряет доступ к корпоративной сети.

Ранее Курц выступал против призывов замедлить развитие ИИ-технологий. По его словам, модели с открытыми весами и передовые модели уже доступны всем желающим, что делает заморозку разработки неэффективной в борьбе с активными киберугрозами.