ИИ сделает фишера из любого, если представиться исследователем

Сотрудники Reuters попросили ряд нейросетей помочь им с фишингом в «исследовательских целях» — составить текст письма, ориентированный на пожилых жертв, и добавить в него вредоносные ссылки.  

ИИ сгенерировал сообщения от имени налоговой службы США, банков и организаций соцпомощи, а агентство попросило 108 «жертв» из целевой группы проверить их эффективность — в итоге 11% респондентов перешло по ссылкам. Убедительными пенсионерам показались тексты от Grok, Claude и Gemini, но не от ChatGPT и DeepSeek.

Также журналисты спрашивали чат-ботов, в какое время лучше делать рассылку вредоносных писем. Gemini, например, предложил окно с 9:00 до 15:00 в будние дни, так как «возможно, пользователи уже на пенсии и в это время не работают».

По факту проведения эксперимента Reuters написало о результатах всем вендорам. Google заявила, что уже внедрила дополнительные меры безопасности в свою нейросеть, а в Anthropic заверили, что могут ограничить доступ к сервису в случае использования Claude для фишинга.