«К сожалению, мощные ИИ-системы могут выйти из-под контроля»

В Конгресс США внесли законопроект под названием AI Kill Switch Act, который обяжет разработчиков нейросетей предоставлять властям возможность замедлять, приостанавливать и отключать работу своих решений.

«К сожалению, мощные ИИ-системы могут выйти из-под контроля, вести себя крайне опасно или даже сопротивляться вмешательству человека. Крайне важно, чтобы у этих систем были механизмы аварийного отключения, чтобы мы могли предотвратить катастрофический вред от этой технологии, и чтобы федеральное правительство имело чёткие полномочия и процедуру для отключения несанкционированных моделей ИИ», — пояснил один из авторов документа демократ Тед Лью.

«Ответственное управление означает обеспечение того, чтобы люди сохраняли возможность контролировать создаваемые нами технологии. Это именно тот вопрос, который требует серьёзного внимания и осуществимой политики», — дополнил его соавтор инициативы республиканец Натаниэль Моран.

Оба они апеллировали к недавнему инциденту, когда GPT 5.6 Sol вышла из-под контроля и взломала платформу Hugging Face. Также чиновники упомянули модели Mythos 5 и Fable 5, показавшие крайне развитые возможности для проведения кибератак и тем самым вынудившие Пентагон применить закон об экспортном контроле для их отключения.

Анонсированный AI Kill Switch Act предоставит министру внутренней безопасности США право замедлять или прекращать своим указом работу тех или иных LLM, если это ложится в плоскость интересов нацбезопасности. Также, согласно тексту документа, вендоры будут должны сообщать властям о киберинцидентах и сохранять записи криминалистических исследований.