Свежий отчёт Anthropic гласит: Claude, а также другие ИИ-агенты и чат-боты всё активнее используются киберпреступниками. Компания рассказала о некоторых выявленных ей случаях.
В первом кейсе Claude Code применялся для взлома — пострадало минимум 17 организаций в разных странах (госорганы, медицинские и религиозные учреждения, службы экстренной помощи). ИИ-агент одновременно являлся «техническим консультантом» и «активным оператором». Также злоумышленники давали нейросети задание написать «психологически выверенные требования выкупа» и оценить стоимость похищенных данных.
В другом известном эпизоде Claude помогал специалистам из КНДР обманом устраиваться на «удалёнку» в американские компании из списка Fortune 500 — заявителям даже не потребовалось высшее образование, базовое знание английского и опыт в ИТ.
Ещё один сценарий строился на разработанном с помощью ИИ Telegram-боте для «романтического мошенничества», который, входя в контакт с потенциальными жертвами из США, Японии и Южной Кореи, впоследствии вымогал у них деньги (по словам экспертов Anthropic, аудитория бота достигала десяти тысяч человек). Наконец, ИИ-вендор зафиксировал случай создания вируса-вымогателя с помощью его инструмента — автор затем продавал малварь другим хакерам по цене от 400 до 1200 долларов.
В Anthropic признали, что развитие ИИ-технологий снизило порог вхождения в киберпреступность, и сообщили, что в настоящее время готовят к выпуску решения для обнаружения такого рода злоупотреблений, блокируют нарушителей и передают информацию правоохранителям.
