Semperis: Слишком много ИИ-агентов и слишком много разрешений

Согласно данным Semperis, 93% глобальных организаций использует или планирует использовать агентный ИИ для решения задач безопасности, в том числе сброса паролей и доступа к VPN, несмотря на потенциальную опасность серьёзных утечек и взломов данных. В рамках исследования компания провела опрос 1100 организаций в США, Франции, Великобритании, Германии, Испании, Италии, Сингапуре и Австралии.

Помимо применения агентов для выполнения конфиденциальных задач в ИБ-сфере или планирования их внедрения в течение 12 месяцев 92% респондентов признало, что ИИ установлен как минимум на некоторых локальных машинах с доступом к SSH и ключам шифрования, что ещё больше подвергает их риску безопасности. В то же время 74% согласилось с тем, что активные нейросети увеличат количество атак на инфраструктуру идентификации, и только 32% оказалось «очень уверено» в возможности восстановить контроль после утечки учётных данных.

«Что поразительно в этом исследовании, так это не только скорость интеграции ИИ в системы идентификации, но и неподготовленность многих организаций к восстановлению в случае возникновения проблем, — заявила партнёр венчурной компании Ten Eleven Ventures Грейс Кэсси. — Такое внедрение даёт операционные преимущества, но оно должно сопровождаться защитными механизмами, возможностью мониторинга и готовностью к восстановлению. Это, по сути, новый взгляд на старый вопрос: достаточно ли вы устойчивы, чтобы отреагировать в случае критического сбоя?»

Взрывной рост числа нечеловеческих идентичностей (non-human identities/NHI), включая ИИ-агентов, усложняет задачу управления идентификацией для безопасников. Проблема заключается в том, что их распространение означает множество заброшенных «зомби-агентов» и теневых NHI, которые могут быть захвачены злоумышленниками. Ситуацию усугубляет и то, что многие из них имеют избыточные права доступа, поскольку им предоставляются те же права, что и живым пользователям, поясняется в отчёте.

Компания Semperis порекомендовала компаниям:

• рассматривать ИИ-агентов как нечеловеческие идентичности, а не как людей;
• обеспечивать им доступ по принципу минимальных привилегий, достаточного объёма и своевременного доступа — аналогично тому, как это делается в отношении людей;
• проводить границы доверия между агентами и людьми там, где это уместно;
• использовать аналитику поведения пользователей и сущностей (UEBA) или аналогичные инструменты для обнаружения «зомби-атак» или подозрительного поведения агентов;
• обеспечить возможность быстрого восстановления систем идентификации до надёжного состояния в случае их взлома.

Усам Оздемиров