Инструменты ИИ стали каналами утечек данных

Согласно исследованию BlackFog, 47% руководителей в сфере ИБ столкнулось с утечкой конфиденциальных данных через инструменты искусственного интеллекта, используемые в их организациях. В 77% таких случаев решения были официально одобрены.

По мнению авторов документа, многие не имеют чёткого представления о том, какие данные доверяются нейросетям — даже тем, эксплуатация которых разрешена на корпоративном уровне. Лишь 48% респондентов смогло предоставить подобные сведения.

«Это доказывает, что специалистам по безопасности недостаточно просто решить, какими инструментами ИИ сотрудникам разрешено пользоваться. Организациям также необходимо контролировать, какая именно информация передаётся в эти системы», — констатировал основатель и гендиректор BlackFog Даррен Уильямс.

Хотя почти все сообщили о наличии политики применения ИИ-решений, возможности по обеспечению соблюдения этих правил существенно различаются. 56% организаций подкрепляет свои политики комплексными техническими средствами надзора. Однако 35% опрошенных отметило, что наличие письменного регламента не сочетается с практикой. При этом 39% CISO признало отставание систем управления от процессов внедрения нейросетей. В противоположном лагере лишь 27% располагает соответствующими комплексными инструментами.

Исследование BlackFog также выявило серьёзный пробел в управлении автономными ИИ-агентами, действующими в ИТ-среде компаний. По словам 56% респондентов, боты, оперирующие от имени сотрудников, не охвачены существующими корпоративными механизмами контроля.

Наиболее остро эта проблема стоит в технологическом и телекоммуникационном секторах: 70% опрошенных говорит о наличии проблем. Кроме того, лишь 54% ИБ-руководителей заявило, что имеет возможность блокировать или ограничивать использование несанкционированных инструментов, а 32% способно выявлять практику «теневого» ИИ, но не может систематически её пресекать.

Усам Оздемиров