Скамеры кормят ИИ отравленными данными для пополнения пула жертв

Управление по организации борьбы с противоправным использованием информационно‑коммуникационных технологий МВД РФ со ссылкой на исследование сервиса проверки на мошенничество Ask Silver сообщило: ИИ-алгоритмы перенаправляли пользователей на скамерские ресурсы, предназначенные для хищения личных средств и данных.

Силовики утверждают, что иногда нейросети могут выдавать устаревшую информацию. Так, в составленных чат-ботами рекомендациях были зафиксированы сайты‑двойники по продаже вещей и мебели, копировавшие фирменную символику и описания товаров брендов, прекративших своё существование. В некоторых случаях покупателям обещалась скидка до 80%.

«По версии специалистов, злоумышленники могли использовать метод „отравления данных“. Они намеренно распространяли в сети ложную информацию с фальшивыми отзывами, автоматически генерируемые сообщения для форумов и поддельные сведения для индексации. Цель таких действий — исказить обработку и сортировку информации алгоритмами искусственного интеллекта», — гласит публикация ведомства.

В качестве решения киберполиция предлагает проводить перекрёстную оценку ресурсов, а именно сравнивать полученную информацию на других поисковых платформах и искать первоисточник.