BIS Summit 2026: ошибаются все, но мы больше не можем сдерживать технологии
Вчера в Москве, в помещениях кластера «Ломоносов» прошла XIX ежегодная конференция по информационной безопасности BIS Summit 2026. Ведущие эксперты, представители власти и руководители предприятий встретились, чтобы поучаствовать в дискуссиях по главной теме форума «Искусственный интеллект — где граница между прогрессом и угрозой».
Вначале (от имени главного персонажа — нейросети) прозвучал голос за кадром, обозначая диапазон проблем и создавая для аудитории определённый настрой: «Я не злой и не добрый — я инструмент. Я работаю на вероятностях, и мой ответ правдоподобен, но не всегда верен. Я пишу ваш код, отвечаю вашим клиентам и ищу атаки в вашем трафике. В повседневной работе я повсюду, а в ответственных решениях мне пока не доверяют — и правильно делают».
Модераторы пленарной сессии «Диалог с регулятором» гендиректор АНО «Центр компетенций по импортозамещению в сфере информационно-коммуникационных технологий» Илья Массух и президент ГК InfoWatch, председатель Правления АРПП «Отечественный софт» Наталья Касперская попросили участников в форме блица охарактеризовать технологию искусственного интеллекта.
«Я думаю, что это новый огонь в эволюции человека», — заметил Эдуард Шереметцев, замглавы Минэнерго. Правда, в этой стихии заложен опасный потенциал при неразумном использовании. По мнению Игоря Качалина, гендиректора АНО «НТЦ ЦК», лидера Консорциума исследований безопасности технологий ИИ, действительно возникает новый уклад человечества, но важно суметь поставить нейросети под его контроль. Директор департамента ИБ Банка России Вадим Уваров акцентировал внимание на необходимости осторожного подхода — чтобы не случилось чего-то похожего на сценарий фильма «Терминатор». «Главное, чтобы при развитии искусственного интеллекта не произошла деградация естественного» — пошутил Николай Лишин, замруководителя ФМБА России.
Говоря о вкладе регуляторов в обеспечение устойчивости системы и безопасности технологии, первый замдиректора ФСТЭК Виталий Лютиков оценил ИИ как программное обеспечение, имеющее определённые особенности, заключающиеся в его зависимости от обучающих данных (датацентричность). С его слов, модель ведёт себя как прилежный ученик, который всё знает и стремится ответить на любой вопрос, и тут должны действовать механизмы ограничений. Согласно своим полномочиям, ФСТЭК противодействует ИБ-рискам для объектов КИИ и готовит методологию «по мере понимания технологии искусственного интеллекта на сегодняшний момент».
Большие фундаментальные модели сейчас на первом месте в мировой повестке, считает замглавы Минцифры Александр Шойтов. Вступивший в силу в сентябре закон №243-ФЗ «О поддержке развития технологий искусственного интеллекта в Российской Федерации» не только касается LLM, но и задаёт рамки для технологии в целом. Не все темы туда попали — например, по информационной безопасности — «но это описано в других местах», и необходимые подзаконные акты находятся в работе. Шойтов привёл в пример США, в стратегии которых безопасность закладывают в основу инноваций. Такой стратегический подход был бы полезен и нам, «если мы планируем на мировой арене серьёзную роль играть» и конкурировать со странами-лидерами, подчеркнул он.
Нейросети вместо «архимедов»
В продолжение дискуссии модераторы подняли вопросы о практике использования нейросетей и «доверенности для непредсказуемых систем». По словам Игоря Качалина, работа членов Консорциума по оценке того, как эксплуатируются системы ИИ в регионах, привела к грустным выводам: «Владелец даже не знает о том, где у него расположен этот искусственный интеллект, кто его обучал, не говоря уже о безопасности применяемой технологии. И это сильно настораживает. Поэтому мы сейчас сосредоточились на подготовке методики оценки защищённости именно информационных систем».
В ТЭК много опасных производственных объектов; сектор зарегулирован, что не мешает ему быть в авангарде, ведь энергетики занимают третье место после банкиров и связистов по использованию ИИ среди 14 отраслей экономики РФ. Как отметил Эдуард Шереметцев, «не нужно этих "архимедов", которые сидят и думают, на кого бы напасть», так как боты позволили в несколько раз сократить время проведения атак и уменьшить их стоимость. Тем не менее, ставится задача, чтобы до 70% компаний ТЭК в той или иной мере освоило нейросети к началу 2027 года.
«Искусственный интеллект — для нас это не модный тренд, это нормальный рабочий инструмент», — выразила свою позицию аудитор Счётной палаты России Светлана Орлова. С её слов, инспектор уже не сидит над кипой бумаг, как это было раньше: создано единое цифровое пространство, и уже очень много проверок проводится без выхода непосредственно в министерства и ведомства. В результате чего в прошлом году удалось вернуть в бюджет 294 млрд рублей. По мнению спикера, чем выше степень проникновения технологий, тем острее вызов кибербезопасности. И здесь принцип должен быть предельно ясным: нельзя переходить на новый этап цифровизации, не убедившись, что предыдущий полностью защищён.
Когда передовые технологии приходят на помощь медицине, речь не идёт о GenAI, который «что-то придумает и, не дай бог, галлюционирует», считает Николай Лишин. Системы ИИ проходят регистрацию как медизделия: только после долгих испытаний и достижения уверенных результатов они внедряется в контур. В ФМБА давно занимаются спортом высших достижений, и на накопленных данных о 3000 спортсменов недавно разработали модель, которая предсказывает риски сердечно-сосудистых заболеваний. Эксперт провёл аналогию с атомными разработками, которые когда-то пришлось усмирять, и выразил надежду в адрес ИИ-специалистов, что и у них спустя годы «всё будет хорошо — лампочки будут гореть и гигаваттов нам будет хватать».
Безопасность как культурный код
На пленарной дискуссии «Диалог с бизнесом» участники обсудили большой круг вопросов, связанных с рисками применения технологий ИИ, возникающими для общества и предпринимателей вызовами, а также необходимостью обеспечить безопасный прогресс. Так, вице-президент по развитию бизнеса в России и странах СНГ «Лаборатории Касперского» Анна Кулашова видит угрозу ботов в том, что они позволяют злоумышленникам умело находить даже застарелые критические уязвимости и быстро переходить к их эксплуатации. Правда, успокаивает тот факт, что применение новых техник и тактик пока не наблюдалось. Компания создала платформу по изучению ландшафта угроз для их анализа и выработки рекомендаций по противодействию.
Директор департамента технологической независимости объектов АСУ ТП и КИИ концерна «Росатом» Степан Клятецкий назвал безопасность одной из главных ценностей организации и культурным кодом, вшитым в подкорку сознания сотрудников. По его словам, в «Росатоме» есть открытые модели ИИ, которые функционируют в ограниченном контуре — что-то вроде песочницы, но с реальными данными корпоративного уровня. Спикер объяснил присутствующим, что наряду с соблюдением отраслевой специфики они вынуждены работать в более широких правовых рамках: «Требования международного сообщества в атомной энергетике сходятся к тому, что мы ещё долгое время не будем давать возможности нейросетям непосредственно управлять производством и принимать решения самостоятельно. То есть будет задействована система поддержки принятия решений человеком».
Дай Бог им не выгореть!
Ещё более жаркая дискуссия среди экспертов завязалась после того, как модератор Наталья Касперская стала зачитывать им вопросы из чата. Наибольший резонанс вызвали животрепещущие темы сокращения персонала, регулирования и правовой ответственности.
Как отметил директор по искусственному интеллекту в ИТ «Альфа-Банка» Святослав Соловьёв, они не могут себе позволить сокращение ИТ-сотрудников и разработчиков, но очень стараются с помощью методологии AIPDLC (AI-Disrupt Product Development Life Cycle) минимизировать найм. «Их профессии будут постепенно трансформироваться, то есть в основном люди будут переквалифицированы в инженеров агентных разработок, — пояснил спикер. — Вместо того чтобы работать руками, они будут больше работать головой. И дай Бог им не выгореть, потому что, на самом деле, нагрузка колоссальная».
Алгоритмы не заменяют живых специалистов — скорее «сильно меняют количество нужных людей вот в данном месте работы», полагает директор по развитию технологий искусственного интеллекта «Яндекса» Александр Крайнов. Не надо увольнять работников — просто следует увеличивать количество задач без дополнительного найма. Также, со слов эксперта, они берут на работу не джуна, а «сеньора, коим он станет через 3–4 года», когда дорастёт до этого уровня в компании.
Если говорить о регулировании, то руководитель АЛРИИ, директор «Нейролаба» Вячеслав Береснев выразил определённый скепсис: «Излишними запретами ты точно не поможешь технологии». В руках людей, имеющих злые намерения, инструмент ИИ действительно может приводить к опасным вещам. Однако в первую очередь надо бороться с потенциальными последствиями. Люди тоже ошибаются. И вполне возможно, что алгоритмы ошибаются меньше. В то же время мы больше не можем сдерживать технологию, потому что слишком очевидны положительные эффекты, а сопутствующие потери, они, к сожалению, всегда будут.
Как отметила Наталья Касперская, уникальность искусственного интеллекта состоит в его чрезвычайно быстром развитии. Тест Тьюринга был пройден в 2023-м году. А у нас после этого появились GenAI, агенты и на очереди уже мультиагентные системы — и это всего в течение трёх лет. «Ждать устоявшейся технологии, а потом пытаться безопасность придумать, скорее всего, не следует, — резюмировала эксперт. — Нам нужно как-то одновременно с движением этого корабля рядом пытаться создавать системы защиты. И в этом на самом деле уникальность ситуации и её ужас». Главное, что все начали осознавать эти риски. И, очевидно, России нужно двигаться вперёд даже быстрее, чем западному миру, так как она находится в довольно уязвимом положении.