«Для вышедших из-под контроля ботов нужна красная кнопка»

Правительство Великобритании объявило о ряде новых инициатив, призванных защитить страну от возникающих угроз, связанных с нейросетями. На днях, выступая в Имперском колледже Лондона, министр по вопросам ИИ Канишка Нараян представил план действий, включающий использование передовых моделей для поиска брешей в госсистемах.

«Наша централизованная служба мониторинга уже помогла сократить время устранения выявленных уязвимостей с 50 дней до всего лишь восьми. Опираясь на эти достижения, я хочу, чтобы мы пошли дальше, — отметил он. — Я объявляю, что глава Министерства цифровых технологий, культуры, СМИ и спорта (DCMS), министр безопасности и я лично возглавим работу по экстренному применению возможностей LLM для поиска слабых мест в системах до того, как ими воспользуются хакеры».

Ранее правительственный центр координации кибербезопасности (GC3) организовал серию внутренних хакатонов, в ходе которых ИИ-модели помогли выявить более 400 программных уязвимостей в ИТ-инфраструктуре госсектора — впоследствии все они были устранены.

Со слов высокопоставленного чиновника, DCMS, Национальный центр кибербезопасности (NCSC) и Институт безопасности ИИ (AISI) будут вместе трудиться над «разработкой надёжных методов» реагирования на инциденты, связанные с ИИ-агентами, и их сдерживания. Кроме того, министр безопасности Дэн Джарвис возглавит «межведомственную программу по укреплению защиты от кибератак, в том числе осуществляемых с помощью нейросетей».

Нараян объявил, что в скором времени будет опубликован Национальный план действий в области кибербеза: «Эти меры включают выявление серьёзных инцидентов и потенциально опасных ситуаций и информирование о них, снижение рисков, обусловленных применением ботов в критически важных сферах обслуживания, а также обеспечение условий для надлежащего расследования ИБ-событий с участием ИИ».

Хотя многие детали этих инициатив ещё прорабатываются, министр подтвердил тот факт, что AISI возобновил тестирование передовых LLM (включая Gemini 4 Argon) с целью лучше информировать разработчиков и мировое сообщество о возникающих рисках. Ранее администрация Дональда Трампа блокировала доступ к таким моделям для любых организаций, проводящих тестирование за пределами США.

Комментируя планы властей, технический директор компании Okta в регионе EMEA Ричард Уэйнрайт затронул тему механизмов экстренной остановки (kill switches): «По мере того как ИИ-агенты становятся всё более автономными, меры безопасности должны быть интегрированы в инфраструктуру, от которой зависят британский бизнес и госорганы. Всем нужна "большая красная кнопка", позволяющая отключить вышедших из-под контроля ботов».

Успех проекта будет зависеть от того, какие организации он затронет и что именно будет считаться «передовой моделью» констатировал гендиректор Manifold Security Нил Сваленс: «Поскольку мы раз за разом видим, что о взломах, совершенных агентами, сообщают лишь спустя месяцы после того, как те произошли, обязательное информирование будет эффективным только в сочетании с системами мониторинга и контроля. Необходимо обеспечить надлежащий надзор за действиями ботов в режиме реального времени, чтобы оперативно выявлять инциденты».

Усам Оздемиров