Трамп и ИТ-гиганты достигли компромисса в области суперинтеллекта

Шесть ведущих компаний в сфере ИИ — под бдительным оком правительства США — взяли на себя добровольное обязательство соблюдать меры безопасности. Дональд Трамп и руководители ИТ-гигантов подписали «Соглашение Белого дома о суперинтеллекте».

В числе последних — гендиректор Google Сундар Пичаи, глава Anthropic Дарио Амодеи, руководитель признанной в РФ экстремистской организации Meta Марк Цукерберг, президент OpenAI Грег Брокман, основатель xAI Илон Маск и глава NVIDIA Дженсен Хуанг. Текст документа опубликован в социальной сети Truth Social.

В соглашении используется новый термин, введённый Трампом для обозначения ИИ — в тот же день президент подписал указ, диктующий федеральным ведомствам использовать определение «суперинтеллект» вместо «искусственный интеллект».

Согласно взятым обязательствам, вендоры должны создать четырёхуровневую систему контроля и аудита. Они будут отслеживать возможности передовых моделей и их соответствие заданным параметрам (alignment) в процессе обучения и эксплуатации, включая оценку рисков в сферах кибербеза, биобезопасности и химических угроз. Компании также обязаны гарантировать, что их боты не будут взламывать технические системы или получать к ним доступ непредусмотренными способами.

На следующем уровне планируется создание внутренней группы специалистов, проверяющих корректность работы систем контроля, мониторинга и обнаружения угроз, а также методы устранения выявленных проблем. Третий уровень требует привлечения независимого внешнего аудитора или эксперта для оценки эффективности этих мер.

И, наконец, учреждается независимый комитет при совете директоров, который начнёт осуществлять надзор, получать отчёты от групп, отвечающих за контроль, а также от внутренних и внешних аудиторов, и следить за устранением пробелов.

Кроме того, подписанты договорились о регулярных встречах для разработки стандартов и передовых методов в решении вопросов безопасности ИИ. В соглашении отмечается, что со временем может возникнуть необходимость закрепить эти меры законодательно или в виде нормативных актов, однако, участвующие стороны обещают их соблюдать незамедлительно.

Документ не вводит никаких новых регуляторных требований. Трамп, ранее выступавший против призывов к установлению новых правил безопасности в ИИ-сфере, заявил журналистам: это соглашение носит морально обязывающий характер. И неожиданно выступил в поддержку стремления вендоров осуществлять саморегулирование.

Усам Оздемиров