«ИИ должен рассматриваться как компонент операционной устойчивости»

Согласно результатам исследования, проведённого «К2 Кибербезопасностью» и «Лабораторией Касперского», лишь 43% российских компаний продолжит функционировать при утрате доступа к ИИ-технологиям. Для 11% респондентов это событие станет «критическим».

В опросе приняло участие свыше 200 специалистов крупных организаций из ИТ, финсектора, ритейла, телекома, фармацевтики и строительной отрасли. В основном они прибегают к помощи нейросетей при генерации контента, анализе данных и разработке ПО.

«Искусственный интеллект уже влияет на непрерывность бизнеса и должен рассматриваться как компонент операционной устойчивости. Поэтому в ближайшие годы основным вызовом будет внедрение зрелых практик по управлению ИИ-рисками. За последнее время участились инциденты с негативными последствиями от использования ИИ: генерация токсичного контента от имени компании, загрузка сотрудниками конфиденциальной информации и внутренних протоколов в публичные модели, внедрение вредоносных запросов и так далее», — отметил Александр Лысенко, ведущий эксперт по безопасности разработки и ИИ в «К2 Кибербезопасности».

Четверть предприятий считает, что безопасность ИИ входит в топ-5 приоритетов бизнеса, но только 22% выделило на это направление отдельный бюджет. 61% опрошенных заявило, что стремится контролировать использование сотрудниками сторонних ботов, однако, испытывает с этим «технологические и организационные сложности». Реальный контроль и политики безопасности реализованы лишь у 29% организаций. Остальные либо ограничиваются пассивным мониторингом (47%), либо просто блокируют доступ к внешним сервисам (24%).

«В случае с ИИ поражает не только скорость развития технологий, но и то, как быстро он распространяется среди пользователей. Сотрудники начинают самостоятельно экспериментировать с чат-ботами, агентами и другими системами на базе LLM с самыми лучшими намерениями — для увеличения продуктивности, повышения качества и скорости работы. Так формируется «теневой ИИ» — набор ИИ-практик и инструментов, неподконтрольных ИТ- и ИБ-департаментам. Задача бизнеса в данном случае — возглавить этот процесс, то есть предоставить сотрудникам доступ к безопасным и доверенным ИИ-инструментам», — прокомментировал цифры Владислав Тушканов, руководитель группы исследования технологий машинного обучения «Лаборатории Касперского».

У большинства респондентов ИИ-безопасность рассматривается прежде всего как задача ИБ-службы, а не как процесс, объединяющий кибербез и ИТ. Это ожидаемо, так как в случае использования сторонних сервисов управление регулируется регламентами и политиками ИБ, в которых ИТ-команда выполняет поддерживающую и исполнительную функции.