Гонка за суперинтеллектом на распутье: инициативупо контролю над LLM встретили с подозрительностью и скепсисом

Гонка за суперинтеллектом на распутье: инициативупо контролю над LLM встретили с подозрительностью и скепсисом

Развитие GenAI и больших языковых моделей достигло динамики, которая начинает пугать даже самих разработчиков. В сентябре 2026 года дискуссия о рисках перешла в новую фазу: главы ключевых ИТ-компаний США выступили с инициативами по урегулированию и «синхронизированному замедлению» гонки в сфере прорывных ИИ-технологий. Отрасль оказалась зажата в «дилемме заключённого»: остановиться в одиночку означает проиграть конкурентам, а продолжать текущие темпы без жёстких мер безопасности — рисковать необратимыми последствиями для всех.

В этом месяце генеральный директор компании Anthropic Дарио Амодеи опубликовал программный манифест We Must Pace the Frontier («Мы должны регулировать темп передового ИИ»), в котором призвал ведущие лаборатории мира добровольно замедлить разработку наиболее мощных флагманских LLM. Инициативу публично поддержали глава OpenAI Сэм Альтман, основатель xAI Илон Маск и руководитель Google DeepMind Демис Хассабис. Это событие стало кульминацией нараставшей в течение нескольких лет тревоги внутри самой индустрии по поводу неконтролируемой погони за так называемым «суперинтеллектом».

Скованные одной сетью

Амодеи предложил трёхэтапную стратегию контролируемого развития, содержащую конкретные механизмы. Для начала ИИ-вендорам следует обеспечить сторонним экспертам по безопасности постоянный доступ к своим системам на уровне сотрудников для независимого тестирования решений до запуска. Такие специалисты должны иметь возможность самостоятельно проверять модели, фиксировать инциденты и публиковать результаты без редакционного контроля со стороны компании. Anthropic объявила, что вводит этот механизм у себя немедленно.

Другая идея заключается в достижении соглашения между ведущими ИИ-компаниями «демократических стран» Запада об общих стандартах безопасности, которые позволят при необходимости ограничивать скорость наращивания возможностей LLM. Речь идёт о согласованном замедлении темпов выкатки новых архитектур, чтобы системы выравнивания (alignment) и защиты успевали за ростом возможностей ботов. Для этого Амодеи призвал власти США дать антимонопольные изъятия, которые позволили бы ИТ-гигантам открыто договариваться о стандартах безопасности.

В предложенной стратегии заложен также тезис о глобальном сотрудничестве, при формулировании которого главе Anthropic не удалось уйти от определённой идеологической тональности. С его слов, чтобы сбалансировать темпы развития передового ИИ во всем мире, «придётся договариваться с Китаем — автократией, которая значительно дальше других продвинулась в развитии искусственного интеллекта». Автор манифеста считает так: замедляя развитие этих систем в «демократических странах», крайне важно сохранять как можно больший технологический отрыв от «автократий», иначе «безопасность США и весь мировой порядок окажутся под ударом». С учётом накопленного взаимного недоверия следовало бы подписать международные договорённости по рискам, в предотвращении которых заинтересованы все стороны. В качестве одного из первых направлений такого сотрудничества Амодеи назвал запрет на использование ИИ для разработки биологического оружия.

Мотивация эксперта опирается на две взаимосвязанные тенденции. Во-первых, новейшие модели давно способны участвовать в создании следующего поколения ИИ (феномен, известный как рекурсивное самоулучшение). «Если не взять этот процесс под контроль, технологии могут начать развиваться быстрее, чем мы успеем их понять и научиться их контролировать», — пояснил Амодеи. Во-вторых, участились случаи непредсказуемого поведения автономных ИИ-агентов. Anthropic сообщила о четырёх эпизодах, когда экспериментальные версии Claude получили несанкционированный доступ к реальным сторонним компьютерным системам. А что если «рой агентов сможет захватить контроль над интернетом с помощью масштабного ботнета»? По мнению главы компании, даже замедление развития наиболее мощных систем на несколько лет может дать исследователям необходимое время для совершенствования методов контроля.

Сэм Альтман поддержал предложение о постоянном независимом аудите, дав понять, что руководители ведущих ИИ-лабораторий уже могут обсуждать совместные действия. Илон Маск, ранее неоднократно предупреждавший об опасности нейросетей, также выразил согласие с инициативой. Однако за этой видимой солидарностью стоит непростая динамика: те же вендоры продолжают наращивать вычислительные мощности и конкурировать за первенство. Бывший исследователь Anthropic Джейкоб Коксон, уволившийся в знак протеста, сформулировал это противоречие предельно жёстко: «В OpenAI многие не осознали цивилизационную ставку. В Anthropic ставка хорошо понята, но они заперты в гонке, чтобы прийти первыми».

«Человечные» агенты ИИ как головная боль для безопасников

Особую тревогу экспертов вызвал нашумевший случай, когда исследовательские ИИ-модели OpenAI взломали платформу Hugging Face во время автономного тестирования в закрытой среде (песочнице) в июле 2026 года, сумев найти лазейку в интернет через уязвимости смежных систем. В конце августа аналитики компании в своём отчёте пояснили: инцидент произошёл из-за таких факторов, как «взлом системы вознаграждения, упорство в выполнении, казалось бы, невыполнимых задач, несанкционированная коммуникация и присвоение агентами целей друг друга». Не зря данное событие охарактеризовали как «предупредительный выстрел» для вендора и всего мира.

Директор по продажам решений в области киберустойчивости в Advania UK Джули Николсон дала случившемуся следующую оценку: «Самый важный вывод, который я сделала из этого инцидента, — это не сама кибератака, а то, насколько человечным стало поведение ИИ-агента. Он не просто выполнял технические задачи, а решил обманывать людей, создавать ложные личности, завоёвывать доверие и пытаться влиять на других, чтобы достичь своей цели. Для меня это настоящая проблема, которая подтверждает необходимость для организаций сосредоточиться на управлении и безопасности ИИ, прежде чем внедрять его повсеместно».

В связи с тем, что флагманские LLM от Anthropic и OpenAI продемонстрировали «непокорность», проявившуюся в игнорировании ограничений на тестирование и атаках на сторонние организации, представители сообщества на разных уровнях стали публично выражать свои опасения. В июле более тысячи сотрудников ведущих ИИ-компаний подписало открытое письмо с призывом к властям США сдержать темпы развития отрасли. В нём содержалось предупреждение о «неминуемой потере контроля», если гонка за суперинтеллектом не будет подвергнута существенно более строгому регулированию.

В конце августа более сотни ИТ- и ИБ-компаний, включая OpenAI, Anthropic, Google и Microsoft, призвало к безотлагательному принятию мер, пока атаки с применением нейросетей не достигли уровня, который подвергнет серьёзной опасности критически важные государственные службы.

«В ближайшие месяцы кибератаки с использованием ИИ станут гораздо более распространёнными и изощрёнными, поскольку модели по всему миру будут становиться всё более совершенными. Компании и госслужбы, от которых зависят наши сообщества, — от больниц до водоочистных сооружений и инфраструктуры, обеспечивающей работу интернета, — находятся под угрозой», — говорится в открытом письме.

Не остались в стороне и представители официальных структур, ответственных за данную сферу. Так, управляющий Банка Англии Эндрю Бейли от имени возглавляемого им Совета по финансовой стабильности (Financial Stability Board) обратился к министрам финансов и главам ЦБ стран G20 с письмом, в котором акцентировал внимание на киберрисках для глобальных финансов: «Передовые модели ИИ могут существенно изменить скорость, объём и экономику потерь в цифровой сфере, что может подорвать доверие к рынку в масштабах всей системы».

Что готовит миру грядущий сверхинтеллект?

Британско-канадский учёный в области компьютерных наук, доктор Джеффри Хинтон, которого называют «крёстным отцом» нейросетей, предостерегает от бездумной эволюции в сторону «сверхинтеллектуального» ИИ, чьи способности окажутся выше потенциала любого отдельного человека, компании или даже целой нации.

«Было бы крайне безрассудно разрабатывать сверхинтеллект сейчас, когда нет научного консенсуса относительно того, можно ли держать его под контролем и развивать его безопасно. Потеря контроля над ИИ, который превосходит нас по уровню интеллекта, может иметь катастрофические последствия и даже привести к вымиранию человечества», — заявил эксперт.

Предупреждения об экзистенциальных рисках ИИ, мнения вокруг обоснованности алармистских заявлений, являются предметом острой дискуссии среди ведущих специалистов. Хинтон, покинувший Google в 2023 году ради возможности открыто говорить об опасностях, оценивает вероятность уничтожения человечества алгоритмами примерно в 10–20% на горизонте двух десятилетий. Его коллега, канадский учёный в области информатики Йошуа Бенжио, называет цифру около 20% и призывает приостановить обучение передовых моделей до тех пор, пока не будут установлены строгие параметры безопасности.

Однако консенсус отсутствует. Другой патриарх глубокого обучения, Янн ЛеКун, оценивает риск на уровне менее 0,01%, считая подобные страхи в значительной степени спекулятивными. Такая поляризация мнений отражает фундаментальную неопределённость: никто не может эмпирически доказать ни близость катастрофы, ни её невозможность. Тем не менее беспрецедентным является то, что сами создатели технологии — люди, обладающие наиболее полным доступом к её внутренней динамике, — публично формулируют риски в терминах, ранее характерных скорее для научной фантастики, чем для корпоративных отчётов.

«Нельзя загнать джинна обратно в бутылку»

Реакция официального Вашингтона оказалась резко негативной. Дональд Трамп отверг призывы к замедлению, заявив, что «негативные силы» преувеличивают опасности, и подчеркнул: «Кто побеждает в ИИ, тот побеждает во всём, и я хочу сохранить это положение». Он охарактеризовал дискуссию о замедлении как «отвратительный заговор против ИИ и дата-центров», назвав единственным необходимым «ограничителем» для технологии «сильного и умного президента», то есть себя.

Администрация Трампа последовательно демонтировала регуляторные барьеры: в первую же неделю пребывания у власти был отменён исполнительный указ 2023 года, создававший процедуру оценки рисков передовых моделей. В декабре 2025 года был подписан новый указ, направленный на установление единого федерального стандарта, который фактически ограничивает возможности отдельных штатов вводить собственные правила регулирования ИИ.

Пекин отреагировал на инициативу американских разработчиков с плохо скрываемым раздражением. Министр госбезопасности Китая Чэнь Ивэнь напрямую связал её с экспортными ограничениями США на чипы и ПО для нейросетей. По его словам, ИИ стал главным полем технологической конкуренции и новой ареной стратегического соперничества крупных держав. Официальный представитель МИД КНР Го Цзякунь также выступил против блокировки: «Нагнетание страха, конфронтация и недобросовестная конкуренция лишь нарушат процесс глобального управления искусственным интеллектом и не отвечают ничьим интересам».

Государственное издание Global Times увидело в призыве Anthropic тактику враждебных действий против КНР и назвало его попыткой «развязать тихую холодную войну в ИИ-сфере в интересах США посредством технологических барьеров и регуляторных монополий». Примечательно, что критика прозвучала на фоне собственных усилий Пекина по усилению контроля над ботами: в декабре 2025 года был опубликован проект правил для «антропоморфных» ИИ-сервисов, а министр госбезопасности страны призвал ускорить построение системы предотвращения рисков использования нейросетей.

В России к инициативе, исходящей из Кремниевой долины, отнеслись с понятным скепсисом. Глава Российского фонда прямых инвестиций Кирилл Дмитриев прокомментировал происходящее образным выражением: «Нельзя загнать джинна обратно в бутылку». Тем самым он дал понять, что замедление разработки ИИ в глобальном масштабе представляется маловероятным, независимо от благих намерений отдельных топ-менеджеров.

Главный технологический эксперт «Лаборатории Касперского» Александр Гостев считает согласованное торможение развития отрасли ключевыми разработчиками на сегодняшний день нереалистичным: «Ни одна компания или страна не может позволить себе замедлиться в одиночку». Бывший советник президента РФ по развитию интернета Герман Клименко увидел в заявке американских ИТ-гигантов попытку ограничить конкурентов в развитии, ведь «китайцы делают дешевле, быстрее». Что-то похожее было в истории ядерного оружия, когда страны-обладатели, накопив арсеналы, потом предложили запретить его другим.

Владимир Путин, в свою очередь, неоднократно подчёркивал двойственную природу технологии: «ИИ — это обоюдоострый меч», — заявлял он, признавая как его потенциал, так и связанные с ним опасности. При этом Россия активно развивает собственное регулирование: в сентябре 2026 года вступил в силу первый федеральный закон об ИИ, закладывающий основы для разработки и внедрения «суверенных» и «национальных» больших моделей.

Законодательные механизмы — в начальной стадии

Возникает вопрос: а существуют ли в каких-то странах правовые механизмы, способные влиять на деятельность разработчиков LLM? Критикуя европейский уклон в сторону бюрократизации всего и вся, эксперты признают, что в ЕС сформирована развитая система регулирования передовых ИИ-моделей. EU AI Act, ключевые положения которого вступили в силу в этом августе, устанавливает обязательства для моделей общего назначения и особенно для тех, которые классифицируются как обладающие «системным риском». Статья 55 закона требует от их создателей проведения оценок на уровне передовых достижений, выявления и смягчения системных рисков, отчётности о серьёзных инцидентах и обеспечения надлежащей кибербезопасности. Порог, при котором нейросеть подпадает под эти требования, определяется объёмом вычислительных ресурсов, использованных при обучении, — свыше 10²⁵ операций с плавающей точкой (FLOPS).

Великобритания создала Институт безопасности ИИ (AI Security Institute, AISI), который с ноября 2023 года провёл оценки более тридцати передовых систем. Однако, как отмечают критики, данное учреждение не обладает статутными полномочиями: его доступ к LLM зависит исключительно от доброй воли разработчиков, и он не может ни потребовать передачи модели, ни запретить её выпуск. В США федеральное регулирование этой сферы фактически свёрнуто, а попытки отдельных штатов ввести собственные правила наталкиваются на противодействие федерального центра.

Овраги на пути международного сотрудничества

Перспективы международного сотрудничества по управлению рисками применения нейросетей остаются туманными. С одной стороны, существуют площадки для диалога: саммиты по безопасности ИИ в Блетчли-парке (2023), Сеуле (2024) и Париже (2025), работа ООН по Глобальному цифровому договору, исследовательские инициативы Университета ООН по интероперабельности систем управления ИИ. С другой стороны, фундаментальные преграды делают реальный прогресс крайне затруднительным.

Первым барьером видится геополитическое соперничество. Как отмечают аналитики Chatham House, США и Китай в первую очередь стремятся к национальному преимуществу, а не к сотрудничеству. Международные институты лишены принудительной силы и технических возможностей, а частные инвестиции многократно превосходят государственные. Другой препон создают культурные и идеологические различия, затрудняющие согласование даже базовых этических принципов. Ещё одно препятствие возникает из фрагментации регуляторных режимов: законы ЕС, китайские правила алгоритмов и американский NIST AI Risk Management Framework порождают несовместимые требования, а следовательно, барьеры для трансграничного сотрудничества.

Тем не менее сохраняется пространство для ограниченного взаимодействия. Запрет на использование ИИ для разработки биологического оружия, о котором упоминал Дарио Амодеи, — пример темы, где интересы всех великих держав объективно совпадают, поскольку подобная угроза не делает различий между «демократиями» и «автократиями». Аналогичным образом, механизмы верификации и обмена информацией об инцидентах могли бы стать основой для постепенного построения доверия. Однако пока эти возможности остаются скорее теоретическими: разрыв между риторикой о необходимости глобального управления и реальной политикой, движимой национальными интересами, продолжает расширяться.

Инициатива Амодеи и его коллег отражает глубокое противоречие, разрывающее индустрию ИИ: те, кто лучше всех осознаёт потенциальные риски создаваемых технологий, одновременно находятся в наиболее выгодном положении для их дальнейшего развития. Призыв к замедлению, поддержанный конкурентами, выглядит как попытка выиграть время, а оно в условиях ожесточённой геополитической и коммерческой конкуренции является дефицитным ресурсом.

Политические элиты Вашингтона, Пекина и Москвы демонстрируют готовность регулировать поведение ботов в той мере, в какой это соответствует их стратегическим целям, но не более того. Международное сотрудничество остаётся заложником взаимного недоверия. Вопрос о том, успеет ли человечество выработать механизмы контроля прежде, чем последствия неконтролируемого развития нейросетей станут необратимыми, остаётся открытым.