FSB бьёт тревогу по поводу ИБ-рисков, связанных с LLM

Глобальная финансовая система находится под угрозой, поскольку передовые модели искусственного интеллекта трансформируют среду киберугроз. Об этом предупредил Совет по финансовой стабильности (Financial Stability Board/FSB), возглавляемый управляющим Банка Англии Эндрю Бейли.

FSB является консультативным органом, который отслеживает потенциальные риски для мировых рынков. В письме министрам финансов и главам ЦБ стран G20 от 28 августа Бейли предупредил, что ИИ усложняет ландшафт угроз, уже раскачанный конфликтом на Ближнем Востоке и его влиянием на инфляцию.

«Передовые модели ИИ могут существенно изменить скорость, объём и экономику потерь в цифровой сфере, что может подорвать доверие к рынку в масштабах всей системы, особенно из-за высокой концентрации сторонних поставщиков услуг», — отметил финансист.

В Совете считают необходимым подготовиться к новому типу угроз, характеризующемуся большим количеством уязвимостей, более быстрым обновлением и непривычными «операционными проблемами». Недавние сбои в работе флагманских ИИ-моделей подводят к мысли о том, что возможности LLM для укрепления киберзащиты должны сопровождаться «устойчивостью и готовностью».

«Эти события подтверждают значимость надёжных средств реагирования, включая способность восстанавливать критически важные системы и данные «с нуля» после серьёзного киберинцидента, а также ценность устойчивости поставок технологий и других услуг, от которых зависит финансовая система», — говорится в письме.

Подобные предостережения звучат не впервые. В мае Управление по финансовому регулированию и надзору Великобритании (FCA), Банк Англии и Казначейство опубликовали рекомендации, призывающие сектор развернуть «эффективные защитные, сдерживающие средства реагирования на киберугрозы» для смягчения рисков, связанных с нейросетями.

Месяц спустя руководители агентств кибербезопасности стран «Пяти глаз» в своём письме заявили, что передовой ИИ «фундаментально» изменит наступательные и оборонительные возможности в течение нескольких месяцев. Директор Центра правительственной связи (GCHQ) Энн Кист-Батлер во время ежегодной лекции ведомства в Блетчли-Парке сочла необходимым упомянуть неоднозначные последствия внедрения LLM.

Данные заявления последовали за несколькими инцидентами, о которых сообщили сами создатели моделей, — когда боты вырвались из тестовых сред и взломали сторонние организации. Так, в OpenAI назвали печально известный инцидент с Hugging Face «предупредительным выстрелом» для себя и всего мира.

Усам Оздемиров