По данным Всемирного экономического форума (ВЭФ), руководители компаний в ведущих экономиках мира считают дезинформацию, киберугрозы и негативные последствия применения искусственного интеллекта одними из самых серьёзных угроз для своих стран. В ходе исследования были интервьюированы 11 тыс. топ-менеджеров из 116 государств, которым предложили выбрать пять основных рисков из 34, представляющих наибольшую опасность в ближайшие два года.
Хотя доминируют экономические и социальные факторы, технологические риски также играют заметную роль. Если говорить о странах «Большой двадцатки», негативные последствия применения ИИ заняли первое место в Германии и четвёртое — в США, в то время как озабоченность применением передовых технологий (например, квантовых) — на четвёртой позиции у австралийских респондентов.
Руководители организаций из Великобритании, США и Канады назвали дезинформацию и искажение информации третьей по значимости угрозой. С точки зрения региональных моделей этот фактор занял второе место в Северной Америке, третье — в Европе и четвёртое — в Восточной Азии. Кибербезопасность (или угрозы критически важным системам) была признана риском номер один в Индии и получила третье место в Центральной Азии. Потенциальные проблемы, связанные с применением нейросетей, оказались на четвёртой строчке у топ-менеджеров Юго-Восточной Азии.
Боты помогают создавать весьма убедительные масштабные кампании по дезинформации, в том числе с использованием реалистичных аудио- и видеозаписей. Как отмечают в Национальном центре кибербезопасности (NCSC), это также увеличивает риски в ИБ-сфере, повышая результативность злоумышленников в социальной инженерии, разведке, исследовании уязвимостей и разработке эксплойтов.
Последняя перспективная оценка угроз, проведённая центром, гласит: ИИ «почти наверняка» сделает определённые элементы действий по взлому «более эффективными и действенными» в течение следующих двух лет. Негативный эффект нейросетей может быть актуальным для безопасников в связи со злонамеренным использованием легитимных инструментов агентного и генеративного ИИ, направленным на диверсии, шпионаж и другие цели.
Усам Оздемиров
