В ИИ-коде в 2,7 раза больше брешей, чем в рукописном

Positive Education, центр практического обучения Positive Technologies, первым в отрасли собрал все передовые практики разработки с ИИ-агентами в отдельный образовательный спринт. Программа посвящена безопасному использованию агентов в разработке и защите автономных решений. Первый поток стартует 23 ноября и пройдёт онлайн.

Появление программы связано с быстрым распространением ИИ в разработке. Боты уже работают с репозиториями, данными и внешними инструментами, выполняют команды и самостоятельно вносят изменения в код. Вместе с этим растут риски. Исследование CodeRabbit показало, что созданный с помощью ИИ код содержит в 2,7 раза больше уязвимостей безопасности, чем написанный разработчиками вручную. Поэтому командам приходится пересматривать подходы к контролю кода, прав агента, его доступа к данным, секретам и внешним инструментам.

Программу спринта «Безопасная разработка с ИИ-агентами» разработали практикующие эксперты Positive Technologies, занимающиеся безопасностью приложений, исследованием ИИ-технологий и их применением в разработке и ИБ-задачах. В основу обучения вошли подходы и задачи, с которыми специалисты работают в реальных проектах. Участники разберут два сценария: безопасное использование кодинг-агентов в разработке и проектирование собственных автономных систем с учётом новых угроз. В программе — моделирование угроз, управление контекстом и доступами, защита памяти и внешних инструментов, проверка созданного агентом кода и обязательные проверки безопасности перед выпуском.

Основной объём спринта занимает практика. Участники проведут аудит готовых проектов, найдут и исправят уязвимости, а в итоговой работе создадут собственного ИИ-агента и проверят его безопасность перед запуском. Общая продолжительность программы — около 40 часов в течение трёх недель.

Спринт рассчитан на разработчиков, AppSec- и DevSecOps-инженеров, архитекторов приложений, инженеров и владельцев ИИ-проектов. Регистрация на первый поток уже открыта.