Amazon всё чаще обращается к внутреннему ИИ-цензору

Amazon обязала свои команды разработки направлять все изменения в коде, сгенерированные с помощью ИИ, на проверку старшим инженерам перед деплоем. Это продиктовано серией критических инцидентов, которые руководство компании охарактеризовало как сбои с «большим радиусом поражения».

Вендор провёл совещание, посвящённое причинам деградации сервисов и необходимости имплементации надёжных практик работы с ИИ-кодогенераторами. Его участники признали, что индустрия пока не имеет устоявшихся стандартов безопасности и контроля для автоматизированного кода, а потому «ручная» проверка — самое оптимальное решение.

Теперь любой нейросетевой след проходит многоступенчатую экспертизу: опытные сотрудники утверждают корректность логики, соответствие архитектурным стандартам и потенциальные побочные эффекты. В Amazon подчеркнули, что цель инициативы — сохранить эффективность продакшена и минимизировать риски при внедрении искусственного интеллекта в рабочие процессы.