20 ноября 2026 / время чтения: 7 мин. / всего просмотров: 23

Что доверить ИИ в защите данных и как получить надёжный результат


Искусственный интеллект прочно закрепился в информационной безопасности. Обычно его применяют в защите сетевой инфраструктуры — для анализа трафика, поиска аномалий и выявления угроз на больших объёмах данных. Но применять большие языковые модели (LLM) в задачах внутренней безопасности — относительно новое направление. Разберёмся, чем полезны LLM в составе систем предотвращения утечек (DLP) на примере ИИ-Ассистента в «СёрчИнформ КИБ».

 

Зачем ИИ во внутренней ИБ?

Чтобы предотвратить утечку, системы должны анализировать весь трафик, проходящий по каналам связи, и выявлять в нём конфиденциальные данные. До сих пор это делали классические поисковые алгоритмы: по фразам, словарям, регулярным выражениям, сходству с эталоном. Их много, но все работают по простому принципу: «есть совпадение с заранее заданным образцом — есть инцидент». Но если слова нет в словаре или нарушена формула, система ничего не найдёт.

У большой языковой модели нет таких ограничений. Она считывает контекст, улавливает тональность, понимает сленг, опечатки и намеренно искажённые данные. Поэтому ИИ способен обнаружить больше инцидентов, которые традиционные алгоритмы пропустили бы. Это же свойство позволяет использовать ИИ за шаг до детектирования собственно утечек: для выявления ранних признаков угрозы, а также опасных схем, не связанных с кражей данных.

Этим принципом мы руководствовались, встраивая ИИ в «СёрчИнформ КИБ». Модуль подключается к базам КИБ и обрабатывает трафик из почты, мессенджеров, записи микрофона и других каналов. Но выступает не как «поисковик» по собранным системой данным, а как полноценный аналитик — ИИ-Ассистент. Он выявляет «невидимые» риски, а заодно облегчает работу ИБ-специалистов: автоматизирует рутину и ускоряет процессы. И всё же не заменяет человека — например, ИИ нельзя доверить принятие решений о блокировках и других проактивных действиях.

Но вот задачи, с которыми ИИ-Ассистент справляется надёжно.


1. Поиск скрытых инцидентов

Благодаря пониманию контекста ИИ эффективно выявляет подозрительные признаки:

Группы риска сотрудников. Учёт тональности общения помогает обнаружить конфликты, сговоры и другие точки напряжённости в коллективе, которые могут привести к инцидентам из мести. Понимание сленга — выявить, кто способен пойти на нарушение, например, из-за зависимости или шантажа.

Мошенничества. ИИ способен определить, где нарушается легитимный бизнес-процесс, видит разницу между личной и бизнес-выгодой. Поэтому эффективно обнаруживает признаки откатов, саботажа или подготовки к ним.

Маскировку данных. Шифрование, транслит, разбивку текста или ряда чисел, замену символов и другие уловки могут применять инсайдеры, чтобы обойти системы защиты и слить данные. Для ИИ это не имеет значения: он «узнает» исходные данные и зафиксирует инцидент.

В КИБ мы заранее задали ИИ-Ассистенту промпты по этим направлениям. Получился набор готовых ИИ-политик безопасности, который решает большинство типовых задач. Их достаточно включить, чтобы система проверяла по ним весь вновь поступающий трафик.

Пример: классические политики безопасности могут пропускать инциденты. ИИ-Ассистент их выявит, так как анализирует контекст и замечает даже замаскированные попытки мошенничества. Заказчики, которые уже протестировали возможности ИИ-ассистента, отмечают кратный рост выявленных инцидентов, при этом ложноположительных сработок стало в разы меньше. В частности, заказчик из строительной сферы отметил, что по «криптовалюте» в ИИ будет десять сработок за сутки, в то время как обычная политика выдаст порядка 50–100 срабатываний, многие из которых будут ложными (рис. 1).

Что доверить ИИ в защите данных и как получить надёжный результат

Рисунок 1. Отчёт ИИ-ассистента: первое письмо нейтральное, второе — с признаками инцидента.

 

2. Учесть специфику компании

У каждого бизнеса есть уникальные процессы, терминология и специфические риски, которые невозможно предусмотреть в стандартных политиках. Чтобы адаптировать ИИ-анализ под индивидуальные задачи, можно написать собственный промпт. Промпт создаётся на естественном языке, без кода и регулярных выражений. В интерфейсе есть удобный шаблон с примером структуры.

На каком бы языке ни был написан промпт, ИИ-Ассистент поймёт инструкцию и применит её к любым данным. А затем будет проводить регулярный автоматический мониторинг в фоновом режиме наравне с базовыми правилами.


3. Усилить расследования

После проверки ИИ-Ассистент ставит метки на письма, чаты и записи микрофона, в которых нашёл инциденты. По этим меткам можно вести поиск вручную или добавить их как критерий в стандартную политику безопасности. Это позволяет сочетать ИИ-анализ с другими алгоритмами, не перегружая систему. Так, среди всех срабатываний по ИИ-политике «Откаты» можно быстро отобрать те, что касаются конкретного поставщика.

Пример: Компания из финансовой сферы с помощью ИИ-Ассистента за время пилота выявила сразу несколько инцидентов: незаконный вывод средств через ИП, передачу нескольких учётных данных от критичных информационных систем компании; подготовку к увольнению ценного специалиста, скрытые конфликты внутри отдела.


4. Сэкономить время на разбор «фактуры»

Разбор длинных переписок и объёмных вложений отнимает много времени. ИИ-Ассистент коротко пересказывает ключевые моменты обсуждения, позиции участников и указывает на признаки нарушений. ИИ-резюме помогает принимать решения быстрее: краткая сводка сразу показывает, стоит ли инцидент подробного расследования. Причём доступно оно не только для переписок с инцидентами, а для всех данных из почты и мессенджеров, и формируется на выбранном языке, независимо от оригинала переписки.

Пример: Заказчик из нефтегазовой отрасли протестировал возможности ИИ-Ассистента на 300 ПК. Благодаря функционалу саммари он смог в разы сократить время анализа переписок сотрудников, изучая только краткие и ёмкие резюме от ИИ-Ассистента. Таким образом, за сутки он обрабатывает до 1000 переписок (рис. 2).

Что доверить ИИ в защите данных и как получить надёжный результат

Рисунок 2. ИИ-резюме помогает принимать решения быстрее: краткая сводка сразу показывает, стоит ли инцидент подробного расследования.

 

5. Устранить языковой барьер

В компаниях с международными филиалами, заграничными подрядчиками или мультинациональным штатом сотрудники часто переписываются на разных языках. Кроме того, недобросовестные сотрудники иногда специально переходят на иностранный язык в чатах, надеясь, что служба безопасности не поймёт суть разговора.

У ИИ-Ассистента нет такого барьера. Модель понимает более 120 языков и переводит на семь основных: русский, английский, французский, немецкий, испанский, турецкий и арабский. Риск упустить инцидент из-за незнания языка исчезает.

 

О чём важно помнить

Все ИИ-проверки в КИБ автоматизированы и не требуют ручного написания промптов каждый раз, когда требуется решить задачу. Но грамотно направить ресурсы ИИ-анализа — задача ИБ-специалиста: тогда выше результативность и ниже нагрузка на инфраструктуру. Чтобы внедрение ИИ в систему защиты от утечек принесло максимальный результат, важно соблюдать несколько правил.

Фильтруйте входящие данные. Исключайте из проверки технические рассылки, системные уведомления, массовые маркетинговые письма и некритичные каналы связи. Это повысит точность выявления инцидентов и устранит ложные срабатывания, а заодно ускорит работу системы.

Балансируйте нагрузки. Отключайте неиспользуемые ИИ-политики и выбирайте для анализа только самые критичные источники (например, только почту или только микрофон).

Контролируйте результат. Чтобы проверить выводы ИИ, включайте режим пояснений (ризонинг): система объясняет логику обнаружения инцидентов и подсвечивает триггерные фрагменты в тексте. Это поможет оценить, эффективно ли настроены исключения и насколько точно сформулированы «самописные» промпты. И взвешенно принять решение для последующего расследования и реагирования: последнее слово должно оставаться за ИБ-специалистом.

 

Что в итоге

ИИ-Ассистент не заменяет ИБ-специалиста, а усиливает его экспертизу. Благодаря анализу контекста система находит скрытые угрозы, а готовые резюме, переводы и метки экономят рабочее время. Настройка фильтров позволяет точечно сфокусировать внимание системы на самых рискованных зонах. При этом модуль работает локально, сохраняя конфиденциальность данных.

В результате под контролем остаются сложные инциденты — причём на самой ранней стадии, до того, как компания понесла ущерб.

Попробовать ИИ-Ассистента в «СёрчИнформ КИБ» можно бесплатно в течение 30 дней. Если нужного оборудования нет, «СёрчИнформ» предоставит тестовый сервер или поможет запустить систему на машинах без графических процессоров (на CPU): https://searchinform.ru/products/ai-assistant/?utm_source=media_p&utm_medium=bis&utm_campaign=article_ai-assistant&utm_content=ai

 

Реклама. ООО «Серчинформ», ИНН: 7704306397, Erid: 2VfnxxBBW61

Похожие статьи

Статья

Как ИИ меняет баланс сил между атакующими и защитниками

Статья

Как проверить достоверность испытаний средств защиты ИИ

Статья

Как проверить ИИ-агента, которому выдали почту, CRM и доступ к файлам

Статья

AI/LLM Firewall как техническая точка контроля корпоративного использования GenAI

  1. 05 Вайб-кодинг в банке. Кто отвечает за код, который написал не человек?
  2. 06 Доверенный ИИ: от научной проблемы к промышленной платформе
  3. 07 Искусственный интеллект в ИБ. Как не внедрить хаос
  4. 08 Искусственный интеллект: земные проблемы на фоне эволюции Вселенной
  5. 09 «Искусственный интеллект — это прежде всего инструмент в руках человека»
  6. 10 Чем заменить зарубежный балансировщик: риски и ориентиры выбора
ИИ-ассистент BISонлайн
Привет! Я помогу разобраться в материалах журнала. Хотите, перескажу текущую статью за 20 секунд?
Рекомендую прочитать
«Как построить SOC в 2026»