Цифровая зависимость, социальная изоляция и два-три масштабных инцидента с использованием вымогателей на цепочки поставок. Аналитики Gartner сделали прогноз развития генеративного ИИ, а эксперты Check Point Software Technologies оценили тенденции и угрозы в 2025 году.
Аналитики Gartner дали прогнозы на 2025 год
Компания Gartner представила стратегические прогнозы на следующий год и перспективу. По оценкам экспертов, генеративный ИИ (GenAI) будет оказывать существенное влияние на области, в которых сегодня главным действующим лицом выступает человек.
К 2026 г. 20% организаций будут использовать ИИ для построения организационной структуры, что позволит сократить более половины должностей среднего управленческого звена.
Внедрение ИИ позволит повысить производительность труда, усилить контроль за счет автоматизации и планирования задач, мониторинга KPI работников. Оставшиеся менеджеры сосредоточатся на стратегических, масштабируемых и приносящих добавленную стоимость задачах. Но такая ситуация создаст проблемы для компаний, поскольку люди будут обеспокоены перспективами личностного роста, возросшими перегрузками и необходимостью взаимодействия с технологиями ИИ.
К 2028 г. мир столкнется с цифровой зависимостью и социальной изоляцией людей. 70% организаций начнут внедрять антицифровую политику.
Gartner считает, что цифровая зависимость затронет около миллиарда человек по всему миру. Это приведет к снижению производительности труда, повышению уровня стресса и всплеску психических расстройств, таких как тревожность и депрессия. Цифровое погружение негативно скажется на развитии социальных навыков людей, особенно у молодежи.
Организации будут вводить обязательные периоды цифровой детоксикации, вернут аналоговые инструменты и методы, включая очные совещания, пятницы без электронной почты и обеденные перерывы вне рабочего места.
К 2029 г. 10% советов директоров в мире будут прислушиваться к мнению ИИ для оспаривания значимых для бизнеса решений руководства.
Генерируемые ИИ идеи будут оказывать далеко идущие последствия для принятия решений CEO и позволят членам совета директоров их оспаривать. Это положит конец эпохе независимых генеральных директоров, решения которых невозможно полностью защитить.
К 2028 г. 40% крупных компаний будут использовать ИИ для изучения и анализа настроений и поведения сотрудников во взаимодействиях и коммуникациях на рабочем месте. И все это ‑ ради повышения прибыли.
Обратная связь поможет сформировать нужное настроение и поведение, усилить мотивированность и вовлечённость персонала. Однако, компании должны сбалансировать рост эффективности с реальное заботой о благополучии сотрудников, чтобы избежать отложенных негативных реакций со стороны подчиненных.
К 2027 г. 70% новых контрактов для сотрудников будут включать положения о согласии на добросовестное использование их цифрового образа для ИИ.
Персональные данные сотрудников станут не только частью корпоративных больших языковых моделей, но и останутся в них после увольнения. Это приведет к дискуссии о праве собственности на цифровые личности и может стать причиной судебных исков. Положения о добросовестном использовании компании могут использовать для защиты от судебных преследований.
К 2027 г. 70% поставщиков медицинских услуг включат условия договоров пункты об использовании эмоционального ИИ, иначе они рискуют получить многомиллиардый финансовый ущерб.
Увеличение рабочей нагрузки на сотрудников сферы здравоохранения привело к увольнениям работников, росту запросов со стороны пациентов, высокому уровню выгорания врачей, что создает снижение эмпатии. Использование эмоционального ИИ для таких задач как сбор данных о пациентах может освободить время медработников и снизить нагрузку на них.
К 2028 г. 30% компаний S&P будут использовать маркировку GenAI, например «xxGPT», чтобы провести ребрендинг и получить новый доход.
Специалисты по маркетингу рассматривают GenAI как инструмент, который может запускать новые продукты и бизнес-модели, получать новые источники дохода, улучшая клиентский опыт и автоматизируя процессы. Развитие GenAI поможет компаниям выделиться на конкурентном рынке за счет разработки специализированных моделей, адаптированных к потребностям отрасли.
К 2028 г. 25% нарушений корпоративных систем будут связаны со злоупотреблением агентами ИИ как со стороны внешних, так и со стороны внутренних злоумышленников.
Потребуются новые решения по безопасности, рискам и угрозам, поскольку агенты ИИ значительно увеличивают поверхность атак на предприятиях. Это увеличение заставит предприятия защищать свой бизнес от внешних хакеров и недовольных сотрудников. Необходимо уже сегодня включать вопросы ИБ в продукты и ПО для смягчения рисков, а не добавлять их после нарушения.
К 2028 г. 40% ИТ-директоров потребуют создания «агентов-хранителей» (Guardian Agents) для автономного отслеживания, надзора или сдерживания результатов действий агентов ИИ.
По мере развития технологий ИИ растет интерес компаний к GenAI-агентам и их использованию в стратегическом планировании. «Агенты-хранители» будут отвечать за мониторинг безопасности, проверку комплаенса, этику, фильтрацию данных, анализ логов и множество других механизмов ИИ-агентов. До конца 2025 г., по мере усложнения сценариев использования, количество релизов продуктов с несколькими агентами будет неуклонно расти.
К 2027 г. компании списка Fortune 500 перебросят 500 млрд долл. энергетических операционных затрат на микрогриды, чтобы снизить постоянные риски перебоев энергоснабжения с учетом потребностей ИИ.
Микрогриды — это сети электроснабжения, которые способны генерировать и накапливать энергию, работать как в режиме подключения к магистральной сети, так и в островном режиме для удовлетворения потребностей определенной территории или объекта.
Развитие направления создаст конкурентные преимущества при ежедневной эксплуатации и снизит энергетические риски в будущем. Компаниям Fortune 500, тратящим часть своих операционных расходов на электроэнергию, следует подумать об инвестировании в микрогриды, что принесет большую прибыть, чем продолжение оплаты растущих коммунальных платежей.
Check Point рисует темное будущее
По мере приближения 2025 года ландшафт кибербезопасности будет формироваться ростом атак с использованием ИИ, надвигающейся угрозой квантовых вычислений и растущей уязвимостью платформ социальных сетей, говорится в исследовании Check Point Software Technologies. Чтобы оставаться на плаву, организациям необходимо инвестировать средства в защиту на основе ИИ, перейти на квантово-безопасное шифрование и принять подход «нулевого доверия» к безопасности облаков и Интернета вещей. Также компании должны быть готовы к усилению нормативных требований регуляторов и растущей необходимости киберстрахования. В противном случае, компании, не сумевшие адаптироваться к действительности, могут стать следующими жертвами киберпреступников, которые активно совершенствуют свои навыки.
Согласно прогнозу Check Point, основные угрозы 2025 года:
Программы-вымогатели станут еще более изощренными, поскольку киберпреступники используют ИИ и автоматизацию для повышения скорости и точности своих атак.
Усовершенствованные методы позволят программам-вымогателям быстро распространяться по сетям, что делает актуальным вопрос их раннего обнаружения. Рост числа программ-вымогателей, нацеленных на цепочки поставок, вызывает у экспертов особую обеспокоенность, поскольку атаки на критически важных поставщиков могут иметь каскадный эффект на целые отрасли.
Точкой входа для большинства программ-вымогателей останется фишинг. Электронные письма, сгенерированные ИИ, и использование deepfake станут все более убедительными.
Аналитики полагают, что в ближайшие годы отрасль станет свидетелем двух или трех масштабных инцидентов с использованием вымогателей, нацеленных на цепочки поставок.
В ответ на рост числа программ-вымогателей компании будут чаще обращаться к киберстрахованию, а правительства введут строгие нормативные стандарты, требования и отчетность.
Возрастет число атак с использованием искусственного интеллекта.
Использование технологий ИИ в кибератаках является одним из наиболее важных прогнозируемых событий. ИИ уже сделал работу хакеров более масштабируемой и сложной. Предполагается, что следующее поколение фишинговых атак будет использовать способность ИИ обучаться на данных в реальном времени, адаптируясь в ответ на развивающиеся меры безопасности, делая обнаружение еще более сложным процессом.
Генеративный ИИ также позволит проводить гораздо более масштабные операции. Все это позволит даже небольшим преступным группам проводить крупномасштабные операции без необходимости использования передовых технических знаний.
Злоупотребление ИИ приведет к увеличению количества утечек данных.
С ростом технологий ИИ растет обеспокоенность специалистов по поводу ненадлежащего использования инструментов ИИ широким кругом лиц. В числе рисков 2025 г. возможны утечки данных, вызванные непреднамеренными действиями сотрудников компаний и обменом конфиденциальной информацией с платформами ИИ (ChatGPT или Google Gemini). Системы ИИ могут обрабатывать огромные объемы данных, и когда эти данные передаются во внешние инструменты ИИ, риск раскрытия информации резко возрастает. Поэтому компаниям необходимо установить более строгий контроль над тем, как инструменты ИИ используются в их сетях, сбалансировав преимущества производительности, основанной на ИИ, с необходимостью строгой защиты конфиденциальности данных.
Copilot SOC на базе искусственного интеллекта
Распространение Copilot SOC на базе ИИ станет переломным моментом в работе центров безопасности. ИИ-помощники помогут специалистам управлять огромным объемом данных из межсетевых экранов, системных журналов, отчетов об уязвимостях и разведданных об угрозах. SOC смогут эффективнее просеивать огромные массивы данных, расставляя приоритеты в отношении угроз и предлагая предписывающие меры по их устранению. Специалисты смогут автоматизировать критически важные задачи по поиску угроз, сократить количество ложных срабатываний и эффективнее реагировать на инциденты, то станет важным элементом защиты организаций от усложняющихся атак.
Квантовые вычисления
Квантовые вычисления представляют значительный риск для традиционных методов шифрования. По мере развития квантовых технологий они могут взламывать считающиеся безопасными стандарты шифрования.
Согласно прогнозам Check Point, квантово-устойчивая криптография начнет активно развиваться в будущем году. Организации уже осознают угрозу, которую квантовые вычисления представляют для безопасности данных. Риск особенно велик для отраслей, которые полагаются на шифрование для защиты конфиденциальных данных, таких как финансы и здравоохранение.
Социальные сети как площадка для киберпреступности
Платформы социальных сетей, объединившие миллиарды пользователей, стали основной целью киберпреступников. В новом году сочетание социальных сетей и GenAI позволит проводить еще более сложные и опасные атаки, используя персональные данные и контент, созданный ИИ, для создания узконаправленных мошеннических схем, подделок и мошенничества, манипулирования пользователями. Реальная проблема для безопасности заключается в объединении соцсетей и GenAI, что усиливает риски. Развитие технологий deepfake только усложнит ситуацию.
Использование тактики социальной инженерии резко возрастет, причем ИИ будет играть решающую роль в создании убедительных подражаний, полагают эксперты. Чтобы оставаться впереди, поставщики и организации должны адаптировать инструменты безопасности, а также обучать своих сотрудников новому миру среды «нулевого доверия».
Эра CISO, управляемого искусственным интеллектом
К 2025 г. директор по информационной безопасности (CISO) столкнется с растущими проблемами, вызванными быстрым внедрением ИИ, гибридными облачными средами и растущим давлением со стороны регулирующих органов. На фоне массового внедрения ИИ в бизнес-процессы, CISO придется сбалансировать скорость инноваций с необходимостью внедрения безопасных по замыслу реализаций. Это напряжение может привести к росту утечек данных, связанных с ИИ, поскольку безопасность часто приносится в жертву скорости доставки. На этом фоне вырастет спрос на услуги киберстрахования.
Растущая эволюция роли CISO: сближение с CIO
В 2025 году роль CISO продолжит развиваться, а также сблизится с CIO в ответ на усиление регуляторного контроля и персональной ответственности. Это сближение отражает более широкий сдвиг в сторону интегрированного управления рисками, где кибербезопасность становится основной обязанностью руководства ИТ.
Эволюция облачной безопасности
Облачные платформы, как и технологии ИИ все больше интегрируются в бизнес-операции. А злоумышленники все чаще используют ИИ для атак на облачную инфраструктуру. Компании будут вынуждены перейти к созданию проактивных архитектур безопасности, способных обнаруживать и останавливать угрозы до того, как они нанесут ущерб. Также придется учитывать растущее давление со стороны регулирующих органов, особенно для критически значимых отраслей.
Платформы безопасности
По оценкам экспертов, в споре между решениями по кибербезопасности и платформа безопасности произойдет смещение в пользу последних. Эффект платформы, в значительной степени обусловленный интеграциями на основе ИИ, увеличит производительность операций по безопасности для большинства компаний. В стороне останутся только самые укомплектованные корпоративные команды по кибербезопасности. Такие инструменты, как CNAPP, ASPM и DSPM, будут объединены для формирования комплексных наборов решений по управлению состоянием безопасности (SPM). Поэтому платформы будут обеспечивать большую ценность, чем набор точечных решений, фундаментально преобразуя то, как организации управляют уязвимостями.
Проблемы безопасности облачных вычислений и Интернета вещей
По мере того, как все больше организаций переходят в облако и внедряют устройства Интернета вещей (IoT), поверхность атак продолжает расти. К 2025 г. более 90% предприятий будут работать в многооблачных средах, а число устройств IoT, по прогнозам, превысит 32 млрд по всему миру. Хотя поставщики облачных услуг предлагают надежные функции безопасности, сложность защиты нескольких облачных платформ приводит к уязвимостям и ошибкам конфигурации.
Безопасность IoT станет серьезной проблемой, поскольку злоумышленники используют все большее количество взаимосвязанных устройств ‑ от систем умного дома до промышленных датчиков. IoT плохо защищены, что делает их привлекательными целями для киберпреступников. Рост IoT неизбежно приведет к необходимости масштабируемого, безопасного облачного хранилища для централизованного управления и обработки больших объемов данных в реальном времени, повышенной безопасности и экономически эффективной масштабируемости.
Слабыми местами останутся конфигурации облака и небезопасные API. С неизбежной интеграцией ИИ и машинного обучения в имеющиеся технологии, облачные вычисления также столкнутся с проблемами.
Вредоносное ПО, созданное ИИ, и многоагентные системы
Злоумышленники будут все чаще использовать передовые инструменты генерации кода ИИ, выходя за рамки инструментов автодополнения кода, таких как GitHub Copilot, к платформам ИИ, способным генерировать полное создание кода вредоносного ПО из одного запроса. Это позволит быстро создавать сложные и узконаправленные киберугрозы, значительно снижая барьер для входа злоумышленников в профессию. Инструменты станут более доступными, их будет сложнее обнаружить, а развиваться они будут быстрее, чем адаптируется традиционная защита.
Также появятся многоагентные системы ИИ, в которых несколько моделей ИИ будут сотрудничать для решения сложных проблем. Злоумышленники будут использовать эти системы для выполнения скоординированных, распределенных атак, что усложнит их обнаружение и смягчение. ПО другую сторону баррикад аналогичные системы будут применять защитники.
В будущем году появятся новые платформы управления ИИ, которые будут соответствовать нормативным требованиям, обеспечивая прозрачность, доверие и справедливость в моделях ИИ.
Дефицит кадров
Киберпреступники готовы воспользоваться растущим дефицитом ИБ-специалистов. Несмотря на постоянные инвестиции в продукты безопасности, нехватка квалифицированных экспертов для управления и интеграции этих инструментов создаст в компаниях раздробленную, неэффективную структуру безопасности. Зависимость от слишком большого количества поставщиков без внутренней экспертизы сделает организации уязвимыми для атак, чем будут пользоваться киберпреступники.
Регуляторные требования и киберстрахование
Организации столкнутся с растущим давлением со стороны государства и регуляторов. Растет волна новый нормативных требований, включая Правила ЕС по IoT, Правила раскрытия информации о кибербезопасности SEC, Закон о цифровой операционной устойчивости (DORA) и Директиву NIS2. Каждая из регулирующих структур потребует от компаний вкладывать значительное время и ресурсы в проекты по обеспечению соответствия, разработку политик и развертывание новых продуктов безопасности. Хотя эти правила направлены на укрепление позиций безопасности, они также добавляют уровни операционной сложности, заставляя компании уделять больше внимания и усилий соблюдению стандартов. Вырастут требования по ИБ со стороны киберстраховщиков. Они потребуют строгого контроля и соответствия в качестве предварительных условий для покрытия, что еще больше усилит нормативную нагрузку.
Отправляя данную форму вы соглашаетесь с политикой конфиденциальности персональных данных
Отправляя данную форму вы соглашаетесь с политикой конфиденциальности персональных данных