Тема искусственного интеллекта и машинного обучения всё глубже проходит во все сферы нашей жизни. Бизнес с надеждой смотрит на ИИ, который, возможно, упростит ему жизнь и автоматизирует очень многие процессы. Однако не стоит забывать и о безопасности.

Именно эти вопросы обсудили эксперты на пресс-конференции Positive Technologies и RBK.money «Плюсы и минусы современных технологий кредитно-финансового сектора», прошедшей в рамках киберполигона The Standoff.

«Использование искусственного интеллекта в антифроде — это неизбежность. Потому что чтобы выявлять мошеннические операции, нужно анализировать всё больше и больше входных данных. Самые разные характеристики платежа могут использоваться: сумма, характерные контрагенты, характерные даты проведения платежа и так далее. Чем больше таких параметров мы можем обрабатывать, тем больше возможностей для выявления каких-то мошеннических операций», — отметил директор по методологии и стандартизации Positive Technologies Дмитрий Кузнецов.

С тезисом о том, что за ИИ будущее согласился и технический директор RBK.money Антон Куранда. Только он сразу отметил, что пока у нас нет ИИ, а есть машинное обучение.

«Это, безусловно, будущее. Это всё же machine learning, не стоит называть это искусственным интеллектом. Он, конечно, придет. Я просто ещё не знаю, что придёт раньше — беспилотные автомобили или ИИ у антифрода. Почему? Потому что сейчас все решения, которые я видел, все используемые модели — это маркетинг на самом деле. Они продают антифрод и говорят, что он супер машинно обучаемый, напишите ещё 200 правил и всё будет идеально. Секрет в том, что вот эти 200 правил и будут вас защищать от фрода», — высказал своё мнение Антон Куранда.

Также Дмитрий Кузнецов выделил две проблемы антифрода, основанного на ИИ. Первая — ИИ не сам придумывает какие-то решения, его сперва нужно обучить на каком-то наборе данных. И тогда показав ему, какие платежи фродовые, а какие реальные, он уже по наработанным шаблонам может принимать такие решения и впредь. Но это хорошо работает только тогда,когда у нас стационарная система и ничего не меняется. К сожалению, в жизни так не бывает. Ближайший пример — пандемия коронавируса, из-за которой компании перевели своих сотрудников на удалёнку, появились новые контрагенты. «И антифрод начинает ошибаться. Иногда он начинает реальные платежи считать фродовыми, иногда он просто не обнаруживает новые схемы мошенничества. Его нужно постоянно дообучать. И качество работы зависит от качества обучения. И обучение таких систем — это искусство, нет готовых решений», — сказал Дмитрий Кузнецов.

Антон Куранда также поддержал своего коллегу в вопросе постоянного переобучения ИИ, потому что шаблоны, сделанные в одном месте, не применимы в другом. Например, он привёл трафик банка, у которого все клиенты живут достаточно локально, и банка, у которого клиенты постоянно выезжают за рубеж — у них будут принципиально разные модели, которые друг с другом никак не совпадают. При этом тут же видна проблема, что банки не хотят делиться этими моделями друг с другом — и в этом он видит большие сложности.

«Опять же, мы когда настраиваем антифрод вручную, там сидит настоящий интеллект, а не искусственный — это человек, который пишет трафик, пишет правила. Мы можем понять, что это за правила, почему они сработали, можем понять, почему было принято такое решение по блокировке или пропуску транзакции. Здесь же [при использовании ИИ — прим.] мы просто посылаем информацию в чёрный ящик и получаем какой-то ответ. Почему она сработала, каким образом — непонятно. Переобучать? Тоже датасетов особо нет. Каждый банк, каждая финансовая организация будет учить на своём трафике. Там очень хорошее развитие в этом плане. Но всё таки это будущее. Его сейчас пока не существует», — отметил Антон Куранда.

Вместе с тем, по словам Дмитрия Кузнецова, самостоятельное обучение системы требует специалистов определённого профиля, которые есть далеко не в каждой кредитной организации, даже очень крупной. Заказывать это как услугу — встаёт вопрос выбора подрядчика. Это другая проблема тоже в условиях неопределённости.

«Как будет эта проблема решаться? Посмотрим. Пока готовых шаблонных решений нет», — подытожил он.

Второй проблема заключается в том, что вообще ИИ  и антифрод — это не панацея, всегда будет какой-то процент ошибок. В качестве примера Дмитрий Кузнецов привёл ситуацию: если мы будем очень строго оценивать операции, антифрод очень часто будет говорить на совершенно нормальные операции, что они подозрительные, надо разобраться и приостановить платёж и так далее. Это может быть очень критично для бизнеса, особенно для юрлиц (не прошла оплата по договору и задержалась целая цепочка поставок). Это неудобно и клиенты будут отказываться от наших услуг. Если мы будем относится к транзакциям менее строго, мы будем пропускать большое количество фродовых операция — это тоже неудобно для бизнеса и тоже будет вызывать какие-то нарекания.

«Поэтому всегда выбирается некий баланс между удобством и безопасностью. Соответственно, антифрод и будет создавать неудобства, и будет пропускать какие-то мошеннические операции», — заключил Дмитрий Кузнецов.

 

BIS Journal — информационный партнёр киберполигона The Standoff.

18 ноября, 2020