Наука в барах. Байки у сервера

Наука в барах. Байки у сервера

«Наука в барах» в Summer Punch. 6 августа, 19:30.

Очередная встреча проекта «Наука в барах», организованная НИТУ МИСИС совместно с АНО «Национальные приоритеты» и ФГБУ «НИИ "Интеграл"», состоялась в московском баре в Столешниковом переулке. Вечер под названием «Байки у сервера» был посвящён современным вызовам информационной безопасности.

Несмотря на серьёзную тему, формат встречи оставался далёким от привычной конференции: ведущий сразу задал ей неформальный тон, напомнив гостям, что «Наука в барах» предполагает живой диалог:

«Закажите себе что-нибудь холодное, а то на улице такая жара», — пошутил он в контексте знойного московского лета.

Как устроена инфраструктура киберпреступлений

Первым слово взял заместитель директора ФГБУ «НИИ "Интеграл"», технический директор отраслевого сегмента ГосСОПКА Евгений Жмурин. Тема его доклада «Инфраструктура для хакинга. Сколько и как хакеры зарабатывают на обывателях?», а идеей выступления стали не сами схемы обмана, а инфраструктура, которая стоит за ними.

По словам Жмурина, современный мошеннический рынок представляет собой многоуровневую экосистему, включающую витринный, платёжный, обменный, платформенный и интеграционный уровни.

Витринный уровень — это сайты, интерфейсы, чат-боты и рекламные страницы, с которыми взаимодействует пользователь. На платёжном уровне работают мерчанты и платёжные шлюзы, принимающие средства и обеспечивающие их первичную маршрутизацию.

Особое внимание спикер уделил обменному уровню: «Именно здесь происходит преобразование денежных потоков, из-за которого практически невозможно полностью отследить движение похищенных средств и вернуть деньги владельцам».

Евгений Жмурин приводит примеры финансового мошенничества.

Следующий уровень — платформенные ядра, представляющие собой универсальные движки, позволяющие быстро создавать тысячи однотипных мошеннических ресурсов.

В качестве примера докладчик привёл инфраструктуру нелегального онлайн-казино, которая после полного удаления и блокировки серверов может быть полностью восстановлена всего за три часа.

«Возникает вопрос: как с этим бороться? Ответ прост: бороться нужно не с отдельными сайтами, а с платформенными ядрами».

Коснулся Евгений и темы OSINT-аналитики. По его словам, современные расследования все меньше опираются на IP-адреса и публичные DNS и всё больше — на анализ технологической архитектуры мошеннических экосистем: совпадающих API-паттернов, webhook-callback механизмов, общих CMS-модулей, подрядчиков и других признаков связанности.

«OSINT-аналитика переходит от фиксации IP-адресов к реверс-инжинирингу технологической грамматики (структуры документации и API)», — подчеркнул спикер.

Он отметил, что традиционный реактивный подход, основанный на блокировке конечных доменов и зеркал, уже не позволяет эффективно противодействовать мошенническим сетям. Вместо этого предлагается искать и нейтрализовывать их общие интеграционные и платформенные узлы — так называемые точки отказа, от которых зависит работа всей инфраструктуры.

«Уязвимость нелегальных экосистем заключается в их технологической централизации. Будущее расследований — это охота за архитектурой, а не за вывесками», — подытожил Евгений Жмурин.

Доверяй ИИ, но проверяй

Вторым спикером стал секретарь Консорциума исследований безопасности технологий искусственного интеллекта, преподаватель МГТУ им. Н. Э. Баумана Дмитрий Служеникин. Доклад был посвящён оценке доверия к современным ИИ-системам.

Эксперт рассказал, что при анализе региональных проектов специалисты неоднократно сталкивались с ситуациями, когда владельцы информационных систем сами не обладали полной информацией об используемых технологиях. Служеникин разобрал реальные кейсы из региональных проверок, среди которых были такие: в документации систем указывались несуществующие CVE-уязвимости; заявлялось использование платформы NVIDIA NeMo при полном отсутствии на серверах видеокарт NVIDIA; описывалась работа десятков тяжелых языковых моделей на мощностях, которые физически не могли их потянуть.

Для оценки подобных ситуаций Консорциумом исследований ИБ ИИ разработана собственная методика определения уровня доверия. Она была предложена участниками стратегической сессии в феврале 2025 года и предусматривает комплексную проверку четырёх компонентов: данных, моделей, фреймворков и всей ИИ-системы. По результатам оценки формируется уровень доверия от первого до четвёртого, где максимальный уровень предполагает независимую проверку и подтверждённое соответствие установленным требованиям.

Слайд с методикой оценки уровня доверия к ИТ‑решениям, формула расчёта рейтинга i.

Дмитрий Служеникин рассказал не только о диагностике проблем, но и представил конкретные меры по их устранению — дорожную карту поддержки регионов, которая базируется на трёх ключевых направлениях:

1. Стандартизация и автоматизация — предполагает разработку автоматизированных методик и систем предварительной оценки доверия к ИИ (внедрение так называемого Trust Score для технологий);
2. Кадровое обеспечение и обучение — запуск программ повышения квалификации по доверенному ИИ, а также создание библиотеки лучших практик для профильных специалистов.
3. Независимый аудит и поддержка. Именно это направление встаёт во главу угла. Предлагается сформировать пул нейтральных экспертов и создать механизмы для получения регионами независимой помощи в оценке рисков и проверки вендорских решений.

«Обычно вендор говорит: «У меня есть доверенное решение». Почему? А потому что я ему доверяю, — улыбнулся Дмитрий, — Но нужен независимый аудит».

Кроме того, эксперт обозначил инфраструктурные шаги, которые лягут в основу этой работы. Речь идёт о создании «цифрового полигона» для тестирования ИИ:

1. Разработка библиотеки эталонных атак. Будет сформирован общедоступный каталог актуальных сценариев атак и базовых классификаторов для унификации тестирования безопасности моделей.
2. Создание «цифровых двойников» ГИС. Планируется развернуть стенды с имитацией реального окружения государственных и значимых информационных систем (ГИС, ЗКИИ). Это позволит тестировать устойчивость к атакам (например, на RAG-цепочки) в изолированной среде, исключая риски для реальной инфраструктуры.

Дмитрий Служеникин предлагает меры для поддержки регионов.

В завершение выступления докладчик отметил, что не существует искусственного интеллекта, которому можно доверять на 100%. Даже 80% точности недостаточно для критически важных задач.

«Готовы ли вы на 20% пожертвовать своей зарплатой?» — с ироничной ноткой произнёс Служеникин и дал три совета по работе с ИИ для бизнеса:

1. Не загружать в публичные сервисы конфиденциальную информацию, персональные данные и документы ограниченного доступа. При необходимости разворачивать модель внутри собственной инфраструктуры.
2. Для промышленного применения чаще эффективнее использовать специализированные ML‑модели, а не универсальные LLM.
3. Внедрять искусственный интеллект только тогда, когда он действительно меняет существующие рабочие процессы.

Между докладами нашлось место и для шуток. Ведущий заметил, как «вялые айтишники» не слишком активно задают вопросы, на что получил ответ: «У нас рабочий день начинается в понедельник и заканчивается в субботу, а сегодня четверг». Зал рассмеялся.

Квантовая угроза

Третьим выступил заведующий лабораторией элементной базы квантовых коммуникаций НИТУ МИСИС Роман Шаховой с докладом «Квантовая угроза».

Тема оказалась одной из самых сложных за вечер, однако, Роман объяснил её максимально доступно. Он напомнил, что безопасность большинства современных цифровых сервисов — от банковских приложений до корпоративных систем — сегодня основана на алгоритмах асимметричной криптографии. Их надёжность определяется тем, что классическим компьютерам практически невозможно за разумное время решить математические задачи, лежащие в основе этих алгоритмов.

Роман Шаховой с темой «Квантовая угроза».

Именно здесь, по словам спикера, возникает квантовая угроза. Если будут созданы полноценные квантовые компьютеры, они смогут выполнять подобные вычисления значительно быстрее, поставив под угрозу привычные механизмы защиты информации.

Чтобы показать, как развивалась современная криптография, Роман Шаховой рассказал о протоколе Диффи–Хеллмана, который впервые позволил двум сторонам безопасно договориться о секретном ключе по открытому каналу связи, а затем объяснил принцип работы алгоритма RSA, до сих пор лежащем в основе многих систем защиты данных.

Отдельно эксперт остановился на распространенном заблуждении о квантовых технологиях: «Квантовое распределение ключей — это способ безопасно передать ключ. Но защиту информации после появления квантовых компьютеров должны обеспечить постквантовые криптографические алгоритмы».

Именно поэтому, заявил докладчик, сегодня активно развивается постквантовая криптография, включающая новые алгоритмы, устойчивые к атакам квантовых компьютеров. При этом в России такие технологии пока не сертифицированы, поэтому параллельно ведётся работа над созданием отечественных решений.

Интернет, каким его не помнят

По-настоящему вечер оживился во время финальной викторины «Операция "Энквайр"», которую провел основатель Центра игровых и киберспортивных коммуникаций Ярослав Мешалкин. Перед началом он пошутил, что ответить на сложные вопросы смогут либо самые умные, либо самые опытные.

«Мы и умные, и старые сразу», — отреагировали гости.

Ярослав Мешалкин представляет концепцию викторины «Операция "Энквайр"».

Участники не только проверили знания в области информационной безопасности, но и вспомнили малоизвестные факты о Сети. Вопросы касались первых интернет-фотографий и доменов, а также истории появления Всемирной паутины и вызвали у гостей не только азарт, но и ностальгию.

Когда ведущий спросил о первом российском сайте, из зала прозвучала версия «Анекдоты.ru». Конечно, это неправильный ответ, но как эпизод вечера — показательный. Также одним из самых интересных фактов викторины стало то, что любой пользователь мог изменить содержимое страниц первого браузера WorldWideWeb, однако, вскоре от этой идеи отказались.

Победители же получили тематическую настольную игру, посвященную информационной безопасности.