Чат-боты принесли хакерам и пентестерам кое-что почитать

В Internet Archive обнаружили более 130 тыс. активных ссылок на диалоги с популярными чат-ботами: ChatGPT, Grok, Mistral, Qwen, Claude и Copilot. По версии ИБ-исследователей, пользователи сами непреднамеренно оставили переписку доступной, не скорректировав настройки.

В ряде случаев в чате с ИИ удалось найти открытые API-ключи, тексты конфиденциальных соглашений, описания закрытых проектов, обсуждение личных чувствительных тем и другую информацию, потенциально полезную для злоумышленников. При этом такой массив данных представляет ценность не только для хакеров, но и для пентестеров: обе группы теперь имеют возможность целенаправленно искать сведения о той или иной компании и выявлять эпизоды, когда её сотрудники могли случайно раскрыть внутренние данные.

Представители Anthropic, разрабатывающей Claude, заверили, что не передают поисковым системам карты сайтов или каталоги чатов, а ссылки «невозможно угадать», если только сами пользователи не распространят их. Что касается ChatGPT, то OpenAI уже удалила свои share-ссылки, и в Internet Archive они не отображаются. Утечку вендор объяснил эффектом краткосрочного эксперимента «по упрощению обмена полезными диалогами»: переписка с ботом могла быть добавлена в индекс Google при желании человека (отказ же необходимо было инициировать вручную).