— Арутюн Ишханович, расскажите о создании Института системного программирования им. В. П. Иванникова РАН, который вы возглавляете. Почему из всех направлений кибернетики Виктором Петровичем Иванниковым было выбрано именно системное программирование?
— История Института системного программирования неразрывно связана с развитием отечественных информационных технологий. В 1994 году Виктор Петрович, тогда заведующий отделением Института проблем кибернетики РАН, принял решение создать самостоятельный научный центр, сфокусированный на системном программировании — области, которая обеспечивает основу для функционирования всей вычислительной техники. Это было время серьёзных перемен: распадались старые структуры, шло переосмысление роли науки. Но Виктор Петрович очень точно почувствовал, что в новых реалиях стране жизненно необходимо собственное развитие базового софта — компиляторов, операционных систем, инструментов тестирования и верификации.
При этом Виктор Петрович всегда был сторонником открытых подходов. Он понимал, что невозможно конкурировать, если всё держать в замкнутом контуре. Идея открытости знаний и технологий стала основой философии ИСП РАН.
Подход Иванникова можно назвать пророческим. Тогда мало кто осознавал, что системное программирование будет развиваться настолько стремительно и станет краеугольным камнем всей цифровой инфраструктуры — от суперкомпьютеров и космических систем до смартфонов и интернета вещей.
— В своё время было принято решение о встраивании в процесс международной ИТ-кооперации на подсобных, второстепенных ролях, что привело к утрате компетенций по ряду важных направлений, в том числе в системном программировании и средствах разработки. Как вы оцениваете наше отставание от лидеров в данной области? Что нужно сделать для достижения суверенитета в области разработки системного и прикладного ПО?
— С самого начала своего существования ИСП РАН активно конкурировал с ведущими мировыми центрами передовых исследований и разработок. Мы работали с такими гигантами IT-индустрии, как, например, HP и Dell. В те годы до 90% бюджета Института формировалось за счёт контрактов с зарубежными компаниями. Это позволило нам сохранить научную школу, удержать кадры и развивать собственные компетенции, когда в стране практически отсутствовал рынок заказов на сложное программное обеспечение. Так, в начале 2000-х ИСП РАН насчитывал чуть более 100 сотрудников. Сегодня нас уже более 800.
Да, в тот период наша страна действительно занимала вспомогательные позиции в мировой ИТ-кооперации, а по ряду направлений — в частности, системному программированию и средствам разработки — и вовсе утратила лидерство. Однако время показало: это отставание носило не фундаментальный, а организационный характер. За последние 20 лет мы прошли серьёзный путь, и теперь Россия одна из лидирующих стран в области системного программирования. Это стало возможным не только за счёт передовых научных школ и соответствующих компетенций, но и благодаря наличию индустриального открытого ПО.
— В чём, по-вашему, разница между «Импортозамещением» и «Технологической независимостью»? Какую роль в достижении технологической независимости играет подготовка кадров? Что делается в институте в этом направлении?
— Импортозамещение — это своеобразное «затыкание дыр». Технологическая независимость — способность создавать и долгосрочно развивать конкурентоспособные на мировом уровне продукты, необходимые внутри страны, несмотря на внешние факторы.
Безусловно, подготовка кадров играет здесь ключевую роль. Однако невозможно достичь технологической независимости, если действовать в отрыве от науки и индустриальной разработки. Важно, чтобы специалисты формировались внутри живых профессиональных экосистем, где знания передаются не только через учебные программы, но и благодаря участию в реальных проектах. Я уже говорил о том, что открытые коды позволяют реализовывать этот механизм эффективно. Если в нашей стране сформируется, к примеру, сообщество программистов, которые способны работать с исходниками Linux и внедрять туда свои инновации и решения — считайте, что у нас есть национальная операционная система, ведь де-факто Linux — это мировой стандарт для ОС общего назначения.
Именно такую модель подготовки кадров и развивает Институт. Мы не просто обучаем специалистов, а создаём сообщества вокруг ключевых технологий: компиляторов, операционных систем, средств анализа и верификации. ИСП РАН формирует экосистему молодых исследователей, инженеров и преподавателей, объединённых общими задачами и открытым обменом знаний.
Сегодня мы задаём этот тренд в академической и инженерной среде, формируя поколение разработчиков, для которых технологическая независимость — не лозунг, а естественная часть профессиональной культуры.
— Расскажите о работах по созданию доверенного ядра ОС Linux, ведущихся в ИСП РАН. Не дублируются ли таким образом результаты разработки других ОС на базе ядра Linux, внедряемые в России в рамках импортозамещения?
— В 2021 году при поддержке ФСТЭК России в нашем Институте был создан Технологический центр исследований безопасности ядра Linux. Его задача — объединить отечественных разработчиков и повысить качество исследований. Сегодня в центре участвуют более 30 организаций. На его базе проводятся исследования безопасности стабильных веток ядра с применением статического анализа, фаззинга и функционального тестирования. Исправленные уязвимости передаются в международное сообщество, а в основную ветку Linux уже включено более 650 патчей, разработанных российскими специалистами.
Эта работа не дублирует проекты других компаний, а наоборот, сокращает избыточные усилия и повышает качество отечественных решений на базе Linux.
Мы очень гордимся тем, что наш Институт смог организовать внутри страны целое сообщество из более чем 80 высококлассных специалистов, которые, будучи представителями конкурирующих компаний, работают вместе ради общего дела.
— Какие ещё крупные проекты в части разработки ПО ведёт институт?
— Сегодня ИСП РАН ведёт ряд крупных проектов, охватывающих полный цикл разработки надёжного и безопасного программного обеспечения. Среди них — полный стек инструментов РБПО по компилируемым языкам. Мы создали и активно используем технологию Svace. Это статический анализатор исходного кода и необходимый инструмент жизненного цикла разработки безопасного ПО, который обнаруживает более 70 классов критических ошибок в исходном коде. Для обеспечения совместной работы и управления результатами, сервер просмотра предупреждений Svacer поддерживает интеграцию в CI/CD, предоставляет интерфейс командной строки для интеграции в типовые CI/CD-процессы. Также одним из важнейших инструментов является AstraVer Toolset — система дедуктивной верификации ключевых компонентов. Она позволяет разрабатывать и верифицировать модели политик безопасности, а также проводить доказательство корректности компонентов на языке С. Реализация новых возможностей в ОС Astra Linux Special Edition продолжает верифицироваться с помощью AstraVer Toolset. Для верификации ядер и драйверов различных операционных систем успешно применяется система Klever, которая автоматически строит модели на основе исходного кода на языке программирования Си, позволяет применять наиболее точные методы анализа к большому объёму исходного кода.
Кроме того, в нашем активе есть программный комплекс ИСП Crusher, который комбинирует несколько методов динамического и статического анализа, в частности, фаззинг (ISP Fuzzer) и символьное выполнение. Комплекс Sydr-fuzz реализует гибридный фаззинг с использованием символьного выполнения для автоматической генерации тестов с целью увеличения покрытия кода и обнаружения ошибок.
Нами также создан Natch — инструмент для определения поверхности атаки, основанный на полносистемном эмуляторе QEMU. Он может быть встроен в CI/CD для интеграционного и системного тестирования, что позволит повысить эффективность технологий функционального тестирования и фаззинга в жизненном цикле безопасного ПО.
Помимо сферы РБПО, наш Институт работает в области доверенного ИИ, создавая инструменты и методы для разработки соответствующих технологий. Для этих целей существует Платформа Доверенного ИИ, которая обеспечивает автоматизацию процессов по выявлению и устранению угроз, возникающих на всех этапах жизненного цикла создания моделей машинного обучения. Мы разработали доверенную версию платформы Talisman для построения информационно-аналитических систем. Talisman — это комплекс взаимосвязанных программных инструментов для автоматизации типовых задач обработки данных, включая их сбор, интеграцию, анализ, хранение и визуализацию. Он обеспечивает быструю разработку специализированных многопользовательских интеллектуальных аналитических систем. А для хранения данных и проведения ресурсоёмких вычислений в научных, образовательных и коммерческих целях разработана платформа Asperitas.
ИСП РАН также работает и над другими проектами — например, по созданию операционной системы реального времени JetOS совместно с ГосНИИАС, а также ведёт сопровождение двух веток ядра Linux, основанных на стабильных версиях 5.10 и 6.1.
Важно отметить, что в последние годы наш Институт перешёл от разработки отдельных технологий к созданию сообществ вокруг них. Мы убеждены: именно такая тактика обеспечит цифровой суверенитет и безопасность программной инфраструктуры России.
— Расскажите об участии ИСП РАН в создании стандартов в области разработки ПО (ГОСТ 56939-2024 по разработке безопасного ПО, будущий ГОСТ по композиционному анализу). Как вы взаимодействуете с профильными сообществами?
— Благодаря научно-техническим достижениям Института в области разработки программного обеспечения ФСТЭК России вовлекла нас в процессы стандартизации разработки безопасного ПО в составе Технического комитета по стандартизации «Защита информации» (ТК 362) ещё в 2018 году. Для этой работы был создан Подкомитет № 2 «Разработка безопасного ПО», который объединил более 60 российских организаций. В него входят разработчики программного обеспечения, испытательные лаборатории, органы по сертификации и профильные государственные ведомства. Председателем Подкомитета является Вартан Падарян — наш ведущий научный сотрудник.
Была разработана концепция развития национальной системы стандартизации в области разработки безопасного ПО, которая поэтапно реализуется. Один из ключевых результатов — подготовка и обновление ГОСТ 56939-2024, задающего общие требования к процессу разработки безопасного ПО. Работа над ним велась в рамках рабочей группы из десяти организаций. Первую редакцию предложила «Лаборатория Касперского», которая обладала большим практическим опытом в этой области.
Система рабочих групп — основа деятельности подкомитета. В таком формате идёт работа и над новыми документами, в том числе над стандартом по композиционному анализу программного обеспечения. Этот проект сейчас проходит публичное обсуждение.
Мы видим, что работа над стандартами помогает объединять профессиональное сообщество. В ней участвуют и учёные, и разработчики, и представители отрасли. Такое сотрудничество позволяет вырабатывать понятные и единые правила создания качественного и безопасного программного обеспечения.
— Какова роль института в рамках сертификации процессов разработки безопасного ПО?
— Роль нашего Института здесь многопланова. С запуском сертификации процессов разработки безопасного ПО, ИСП РАН более года оставался единственным органом по сертификации в данной области. За год было проведено семь сертификаций, которые позволили накопить и обобщить методическую базу. Сейчас этот опыт внедряется в проект национального стандарта «Методика оценки уровня реализации процессов разработки безопасного программного обеспечения». Его разработка ведётся в рабочей группе в ТК 362.
— Ваше мнение о необходимости создания отечественных репозиториев? Какие задачи они должны решать? Почему недостаточно имеющихся репозиториев, создаваемых крупными российскими компаниями и их объединениями?
— Чтобы ответить на этот вопрос, необходимо для начала определить, какую ключевую задачу мы ставим перед репозиториями. Если рассматривать их в качестве аналога сервиса GitHub, то в России уже есть вполне зрелые платформы. Это, например, GitVerse от СберТеха. Однако я считаю, что основная задача — не «импортозамещать» зарубежный продукт, а продвигать нашу страну к технологической независимости. Именно поэтому репозиторий должен объединять не только технологии, но и специалистов. Железа и софта недостаточно — нужны люди. Ещё раз подчеркну: сегодня требуются не просто хранилища проектов, а правильно выстроенная организация совместной работы — по сути, система сообществ, где развивается код, обсуждаются идеи, формируются новые решения. Репозитории, в свою очередь, должны быть инструментом создания таких сообществ, и наш Институт успешно реализует эту идею на практике.
— Сейчас много говорят о технологиях искусственного интеллекта. ИСП РАН входит в «Консорциум исследований безопасности технологий искусственного интеллекта». Как данные работы связаны с основной тематикой института?
— ИСП РАН традиционно занимается фундаментальными и прикладными исследованиями в области эффективности, продуктивности и безопасности программных систем. С появлением технологий искусственного интеллекта эти направления получили новое измерение: теперь важно не только обеспечить корректность и защищённость программного кода, но и сформировать доверие к поведению моделей машинного обучения. Это включает анализ и валидацию датасетов, обеспечение безопасности и надёжности процессов обучения, контроль корректности применения моделей и многие другие аспекты. Для системного ответа на эти вызовы в 2021 году в нашем Институте был создан Исследовательский центр доверенного искусственного интеллекта, который объединил специалистов по программной инженерии, безопасности и методам машинного обучения.
Что касается Консорциума исследований безопасности технологий искусственного интеллекта, ИСП РАН стал одним из его основателей, совместно с НТЦ ТК и Академией криптографии. Участие в создании такого Консорциума стало для нас естественным продолжением основной научной деятельности. Мы рассматриваем ИИ как сложную программно-аппаратную систему, зачастую требующую формальных гарантий корректной, безопасной и предсказуемой работы на всех этапах жизненного цикла — от проектирования и обучения до эксплуатации. Консорциум создаёт возможность тесного взаимодействия с индустриальными партнёрами и позволяет получать обратную связь по применению наших технологий в реальных проектах.
— Нужно ли здесь регулирование со стороны государства? Какие нормативные документы по теме искусственного интеллекта необходимо разработать?
— Безусловно, регулирование в области искусственного интеллекта необходимо. Особенно, когда речь идёт о системах, способных повлиять на безопасность, права и жизнь человека. При этом важно, чтобы такое регулирование было разумным и сбалансированным. Его задача — не сдерживать развитие технологий, а формировать рамки доверия, ответственности и прозрачности их применения.
Сегодня требуется разработка единой системы терминов и классификаций рисков искусственного интеллекта, чтобы разработчики, заказчики и регуляторы говорили на одном языке. Также необходимы стандарты оценки доверия и безопасности ИИ-систем, включая методики тестирования, верификации и сертификации. Важно определить нормативные требования к ответственному использованию данных и обучению моделей, особенно в части прозрачности их происхождения и обработки. Кроме того, нужны рекомендации по безопасной интеграции искусственного интеллекта в критические и государственные системы.
Особое внимание, на мой взгляд, должно уделяться регулированию применения генеративных технологий ИИ.
Здесь важно учитывать не только технические, но и социальные аспекты — влияние дипфейков, культурно-этические особенности использования ИИ в образовании, а также анализ и предотвращение распространения деструктивного контента в интернете.
ИСП РАН уже принимает участие в ряде рабочих групп по подготовке соответствующих нормативных документов: мы предлагаем решения, основанные на научно обоснованных моделях и опыте Института в области доверенного ИИ. При этом фокус наших усилий не на разработке самих регуляторных актов, а на научно-методологической и инструментальной поддержке их формирования.
— Расскажите об участии института в проекте «Специализированный конвейер безопасной разработки приложений с моделями машинного обучения (MLSecOps)».
— Цель проекта — сделать так, чтобы безопасность и прозрачность присутствовали на всех этапах работы с моделями — от обучения до внедрения.
Мы разработали собственную MLOps-платформу, сопоставимую с известными зарубежными решениями вроде MLflow или Kubeflow, но с акцентом на безопасность. Она позволяет отслеживать версии моделей, управлять экспериментами, тестировать и внедрять их, а главное — контролировать надёжность и защищённость.
В систему входят инструменты для проверки моделей на уязвимости, защиту от атак, анализ предвзятости, интерпретацию решений и поиск вредоносных фрагментов в предобученных моделях. Все компоненты построены на доверенном программном обеспечении, включая адаптированные версии TensorFlow и PyTorch, разработанные в ИСП РАН.
Проще говоря, MLSecOps формирует основу экосистемы доверенного ИИ — той, где безопасность не «дописывается» потом, а встроена изначально.
— Нет смысла говорить о доверии к ПО, не имея своего «доверенного» железа. Сталкиваетесь ли вы с недостатком высокопроизводительных отечественных систем и проблемами отечественных программно-аппаратных комплексов? Если сталкиваетесь, то с какими, как их решаете?
— В настоящее время нет единого понимания того, что входит в понятие доверенности. Такие работы ведутся в данный момент — в частности, по стандартизации в сфере доверенных СБИС и ПАК в ТК 167 («Программно-аппаратные комплексы для критической информационной инфраструктуры и программное обеспечение для них») и ТК 642 («Защита информации»). Здесь требуется решить широкий спектр задач, среди которых: аппаратный корень доверия, доверенные среды исполнения, средства защиты информации, доверенные маршруты проектирования СБИС (САПР). Отдельные исследования и разработки выполняются в нашем Институте, а также в «Лаборатории Касперского», НПО «КИС», НТЦ «Атлас», «Аквариус», «Байкал Электроникс» и других организациях.
В отечественных высокопроизводительных системах используются либо зарубежные микропроцессоры, либо микропроцессоры, спроектированные в РФ, но произведённые за рубежом («Эльбрус», «Байкал»). Однако важно отметить: у нас есть значительный потенциал. В России уже работают дизайн-центры, созданы собственные процессоры. И если правильно выстроить взаимодействие науки, промышленности и образования, выясняется: для большинства задач у нас либо уже есть своё железо, либо мы можем создать его в короткие сроки. Исключение составят графические акселераторы, где пока действительно будет сохраняться зависимость от зарубежных решений.
— Имеется ли у Вас информация, что делается для решения проблем с элементной базой для высокопроизводительных вычислительных систем и что необходимо сделать?
— В России есть возможности для развития сектора бесфабричного проектирования микроэлектроники разного уровня сложности и назначения. Возможности в этом секторе выросли с появлением экосистемы свободно распространяемых компонентов (в том числе на базе архитектуры RISC-V).
Используемые на отечественных фабриках технологии не подходят для производства конкурентоспособных чипов. В 2020 году была принята «Стратегия развития электронной промышленности Российской Федерации на период до 2030 года», согласно которой в РФ должны появиться фабрики, производящие цифровые СБИС по технологическим нормам 7-5 нм. Это крайне сложная (если не невыполнимая в обозначенные сроки) задача, но решать её необходимо.
Приоритетный вопрос — разработка отечественных САПР. В настоящее время по заказу Минпромторга России ведутся работы по созданию маршрутов проектирования цифровых и аналоговых СБИС. Головными исполнителями выступают АО «МНТЦ МИЭТ» и АО «НПО „КИС“», в кооперацию входят ООО «Альфачип», МГУ им. М. В. Ломоносова, ООО «Эремекс» и другие. ИСП РАН разрабатывает инструменты логического синтеза и верификации цифровых СБИС.
Меры, которые необходимо принять для решения проблем с элементной базой для высокопроизводительных вычислительных систем:
— ИСП РАН проводит ежегодную открытую конференцию. Расскажите о её концепции? Какие задачи с её помощью решает институт?
— Наша ежегодная конференция — это не просто научное мероприятие, а отражение философии Института. Главная идея неизменна, и это открытость. Мы уверены, что даже развивая технологическую независимость, нельзя замыкаться в себе. Поэтому мы приглашаем к участию университеты, компании, научные центры, госструктуры, и активно работаем с международным сообществом.
ИСП РАН всегда работал на стыке образования, науки и инноваций. Конференция же объединяет всё это в одном пространстве. Центральная ось — наука, поэтому на мероприятии мы представляем результаты фундаментальных исследований и технологий, которые внедряются в индустрию и госсектор. Особое внимание уделяется кибербезопасности: в программе присутствует организованный совместно со ФСТЭК блок, посвящённый разработке безопасного ПО. В целом на конференции представлены разные направления: к примеру, цифровая медицина и цифровое моделирование технических систем.
Также наш Институт проводит выставку технологий ИСП РАН, которые внедрены в различные отрасли промышленности. К участию в ней мы приглашаем партнёрские организации и ведущие компании индустрии. Более того, нами выделен отдельный трек, связанный с образованием: ИСП РАН организует круглые столы с участием представителей ведущих вузов.
Мы видим, что выбрали верный подход. В 2024 году, когда Институт отметил 30-летие, конференция собрала полторы тысячи человек очно. Это доказывает: то, чем мы занимаемся, действительно востребовано.
— В организации каких ещё конференций участвует ИСП РАН?
— Помимо ежегодной открытой конференции, мы являемся соорганизаторами других научных мероприятий. Например, OS DAY — это важная площадка по операционным системам, «Иванниковские чтения» — в память о нашем основателе, Викторе Петровиче Иванникове. ИСП РАН также активно участвует в междисциплинарных и стратегических форумах, ведь наша работа выходит за рамки чистого программирования. В сфере медицины и ИИ мы, например, соорганизуем II Школу молодых учёных «Применение цифровых технологий в медицине» совместно с РЭУ им. Г. В. Плеханова. Мы активно поддерживаем молодёжь: проводим SYRCoSE, АПСПИ, молодёжную конференцию МПОИТЭС.
ИСП РАН не только участвует в крупных международных конференциях, но и иногда организует мероприятия в ходе них. Например, в рамках Международной конференции по компьютерным наукам и информационным технологиям CSIT 2025 мы организовали форсайт-сессию, посвящённую доверенному ИИ, а также провели семинар по цифровой кардиологии на IEEE COMPSAC 2024.
Все эти мероприятия вместе с участием наших специалистов в роли докладчиков на ведущих международных конференциях — ещё один важный элемент развития области системного программирования в России.
Вопросы задавал Сергей Пазизин, научный редактор BIS Journal
- Стоимость медиауслуг (открыть PDF) -
Отправляя данную форму вы соглашаетесь с политикой конфиденциальности персональных данных
Отправляя данную форму вы соглашаетесь с политикой конфиденциальности персональных данных
