Компания Anthropic была вынуждена признать, что внедрила в Claude Code код, нацеленный на китайских пользователей и собирающий метаданные и поспешила исправить это после обнаружения. Данный случай подчёркивает важность решений с открытым исходным кодом, способных уравновесить непрозрачные системы.
Эксперты поделились открытием в своих личных блогах и на Reddit, утверждая, что начиная с версии 2.1.91, выпущенной в апреле этого года, сервис Anthropic проверяет, включён ли у пользователя прокси-сервер.
«Если да, то он скрытно передаёт (посредством невидимых изменений в системном запросе) информацию о том, находитесь ли вы в Китае, используете ли вы прокси-сервер для доступа к китайскому URL-адресу и связаны ли вы с китайской лабораторией ИИ», — говорится в сообщении блогера LegitMichel777. В нём также утверждается, что компания предприняла дальнейшие попытки зашифровать этот код внутри исполняемого файла инструмента ИИ.
Пользователи справедливо пришли к выводу, что нейросеть пыталась обнаружить несанкционированную перепродажу Claude в Китае и попытки дистилляции со стороны китайских лабораторий. Однако, поступая таким образом и пытаясь завуалировать эту логику в бинарном коде, вендор подорвал доверие.
«Если Anthropic готова тайно передавать информацию о вашей системе просто потому, что вы китаец, что мешает ей тайно направлять модель так, чтобы та вела себя хуже (что уже пытались сделать с Fable, прежде чем исследователи разоблачили компанию) или злонамеренно?» — задался вопросом LegitMichel777, предположив, что «завтра это может быть саботаж системы или утечка данных».
Тем временем инженер Anthropic Тарик Шихипар, работающий над Claude Code, в начале июля пояснил в соцсети X, что речь идёт об «эксперименте», запущенном ИИ-гигантом в марте в попытке предотвратить злоупотребление учётными записями со стороны неавторизованных реселлеров и защитить от LLM дистилляции. «С тех пор команда разработала более эффективные меры защиты, и мы на самом деле собирались это отменить уже давно», — подчеркнул эксперт.
Усам Оздемиров
.jpg)
.jpg)
.jpg)
(1).jpg)
