О плюсах и минусах ИИ в глазах игроков ИТ-рынка

Согласно данным PwC, угрозы системам искусственного интеллекта, — это та область, с которой ИБ-руководители сейчас меньше всего готовы справляться. При подготовке отчёта Global Digital Trust Insights 2027 аналитики опросили 3934 топ-мененджера и эксперта из 71 страны.

52% респондентов считает атаки на ботов (так называемые состязательные атаки) главным пробелом в киберзащите. Сложность реагирования на них усугубляется проблемами управления — в PwC отмечают, что до сих пор не сложилось единой модели контроля ИИ-рисков. Одни уверены: ответственность должна лежать на ИТ-директоре (CIO), техническом директоре (CTO) или ИТ-отделе (29%); другие — на специально назначенном руководителе по вопросам ИИ или профильном подразделении (26%), а третьи — на CISO или ИБ-службе (17%). Тем не менее, треть топ-менеджеров заявила об учреждении специальной должности для управления нейросетями (например, «директор по ИИ»).

При этом многие с оптимизмом смотрят в будущее: 84% руководителей, отвечающих за безопасность и финансы, ожидает увеличения бюджетов. 58% назвало ботов одним из пяти главных приоритетов при планировании затрат на кибербезопасность. В числе первоочередных задач, касающихся алгоритмов, — обеспечение ответственного применения технологии (42%), повышение защищённости платформ (38%) и поддержание безопасности цепочки поставок (35%).

В то же время организации стремятся использовать ИИ для усиления защиты, в частности, для фиксации угроз и оповещения о них (50%), выявления мошенничества (43%), а также для обнаружения фишинга и реагирования на него (42%).

Соруководитель направления инноваций в области кибербеза и управления рисками в PwC US Тоня Угорец отметила, что для противодействия состязательным атакам компаниям следует начать с решения таких базовых задач, как определение мест хранения конфиденциальных данных, контроль доступа, непрерывное тестирование, мониторинг систем и отладка процессов.

«Но одних лишь технологий и мер контроля недостаточно, — добавила эксперт. — Организациям также необходимо чётко определить зоны ответственности за риски, связанные с ИИ: кто принимает решения, кто несёт ответственность при неожиданном поведении системы и в каких ситуациях требуется контроль со стороны человека. Кроме того, нужны специалисты, обладающие необходимыми для этого навыками».

Дефицит квалифицированных кадров остаётся серьёзным препятствием на пути к повышению уровня безопасности нейросетей. 44% CISO назвало нехватку компетенций персонала одним из главных барьеров к расширению автономности ИИ-агентов.

Впрочем, боты могут стать частью решения этой проблемы. 53% респондентов сообщило, что обучение с использованием ИИ-технологий входит в число их приоритетных мер по устранению кадрового дефицита и удержанию сотрудников — наряду с предоставлением возможностей для карьерного роста (59%) и формированием сильной культуры кибербезопасности (53%).

Усам Оздемиров