Pindrop: Голосовые боты и дипфейки стали главным оружием скамеров

По информации компании Pindrop, в прошлом году скамеры значительно активизировали использование ИИ для улучшения кампаний в голосовых каналах и системах видеосвязи, увеличив скорость и объёмы мошенничества.

В аналитическом отчёте приводятся следующие сведения: если традиционный фрод вырос на 195%, то усиленный нейросетями — на 1210%. Причины растущей популярности дипфейков, голосовых ботов и «взаимодействий, сгенерированных ИИ», очевидны — это дешевле, быстрее и невероятно масштабируемо. В Pindrop пояснили: «Мы впервые увидели это в контакт-центрах, где синтетические голоса и автоматизированная социальная инженерия обходили средства контроля за считанные секунды. Теперь та же тактика распространяется на общение в режиме реального времени. Для ИБ-руководителей и технических директоров это фундаментальный сдвиг в том, как функционирует фрод и как подрывается доверие в масштабах предприятия».

Эксперты вендора добавили, что мошенничество с использованием алгоритмов обычно начинается с того, что автоматизированные боты звонят в корпоративные сервисы интерактивного голосового ответа или системы колл-центров для проведения разведки. Это означает составление карты пунктов меню, тестирование рабочих процессов и определение того, какие запросы запускают проверки безопасности. Позже эти же боты — теперь уже более умные — возвращаются, вооружившись знаниями о рабочих процессах и слабых местах, чтобы подготовить эффективную попытку обмана.

По мере того, как дипфейки становятся всё более убедительными, с «встроенной» эмпатией и непринуждённой манерой вести беседу, сотрудники превращаются в самое слабое звено в борьбе со скамерами, считают аналитики.

Помимо этого, растущую угрозу собой представляет мошенничество с возвратом товаров, осуществляемое с помощью ИИ. «Злоумышленники используют ботов, оснащённых распространёнными скриптами, которые инициируют запросы на возврат товаров на сайтах розничной торговли и в мобильных приложениях, — говорится в отчёте. — Стратегия преднамеренная: нацелиться на возвраты небольших сумм (ниже пороговых значений для проверки). При постоянной работе ботов обман приводит к существенным потерям».

Усам Оздемиров