Кого застанет врасплох наступательный потенциал ИИ

Новый отчёт Moody’s гласит: для устранения уязвимостей, уже используемых злоумышленниками, требуется в среднем 87 дней. В случаях, когда факты эксплуатации не зафиксированы, средний срок ещё больше — 107 дней. Тем временем процесс обнаружения брешей с помощью нейросетей набирает обороты, что приводит к резкому росту числа выявленных проблем безопасности, ждущих оценки и устранения.

Например, компания Microsoft побила собственные рекорды по количеству выпущенных обновлений безопасности в ходе трёх последовательных циклов Patch Tuesday (так называемых «вторников исправлений»). Это подчёркивает увеличивающееся давление на ИБ-специалистов, которые должны успевать реагировать на вновь возникающие пробелы.

Эксперты Moody’s предупреждают о том, что ИИ-агенты уже способны использовать уязвимости и компрометировать системы в течение нескольких дней. В документе описываются эпизоды, когда во время тестирования, проводимого разработчиками OpenAI и Anthropic, меры по сдерживанию оказывались неэффективными.

По мнению аналитиков, на сегодняшний день не зафиксировано ни одной масштабной кампании злоумышленников, сопоставимой по уровню с подобными угрозами. Тем не менее, препятствия, мешающие осуществлению полностью автономных кибератак, скорее всего, носят временный характер.

Высокие затраты на вычислительные мощности и ограниченный доступ к флагманским LLM в настоящее время сдерживают их применение в масштабных хакерских акциях. В отчёте приводится оценка UK AI Security Institute, согласно которой разрыв в киберпотенциале между моделями с открытыми весами и передовыми закрытыми моделями сократился: если раньше он составлял от шести до десяти месяцев, то теперь — от четырёх до семи.

Говоря о рисках, эксперты обращаются с предостережением к компаниям с обширными цифровыми сетями: большая площадь поверхности атаки создаёт для злоумышленников больше возможностей. Кроме того, малые и средние предприятия могут стать более привлекательными целями с экономической точки зрения, поскольку ИИ снижает затраты и усилия, необходимые для проведения кибератак.

Усам Оздемиров