Форум «ИИ: режим доверия. Технологии и защита "черного ящика"», прошедший 13 апреля в Кибердоме, зафиксировал смену повестки вокруг искусственного интеллекта: ключевым становится не развитие технологий как таковых, а новая экономика кибербезопасности, в которой ИИ кратно ускоряет атаки, увеличивает стоимость защиты и требует пересмотра самой модели доверия.
В центре обсуждения оказались вопросы, выходящие за рамки технологий: как работать с непрозрачностью алгоритмов, где проходит граница ответственности и какие инструменты позволяют проверять реальность в условиях распространения генеративного ИИ. Эксперты обсудили риски, связанные с дипфейками и новыми типами киберугроз, и сошлись в том, что главный вызов сегодня — не остановить развитие технологий ИИ, а выстроить устойчивое пространство доверия вокруг него.
Открывал форум специальный технологический перформанс «Черный ящик» и доклад «Угроза прошла валидацию» от Олега Рогова, к.ф.-м.н., руководителя группы «Доверенные и безопасные интеллектуальные системы» AIRI, руководитель лаборатории «Безопасный ИИ» AIRI-МТУСИ.
Далее форум продолжился специальной сессией «Технологии детектирования и маркировки дипфейков: в чьих интересах создавать защиту против денежного и репутационного ущерба?». В обсуждении приняли участие Александр Шойтов, заместитель министра цифрового развития, связи и массовых коммуникаций Российской Федерации, Сергей Боярский, депутат Государственной думы, председатель комитета Государственной думы по информационной политике, информационным технологиям и связи; Антон Горелкин, первый заместитель председателя комитета Государственной Думы по информационной политике, информационным технологиям и связи, председатель правления РОЦИТ; Артем Шейкин, сенатор, первый заместитель председателя Комитета Совета Федерации по конституционному законодательству и государственному строительству; Сергей Маклаков, начальник управления по противодействию распространению недостоверной информации АНО «Диалог Регионы»; Дмитрий Марков, генеральный директор Vision Labs; Владимир Сакович, генеральный директор Sk Capital (Группа ВЭБ.РФ) и Дамир Салихов, руководитель направления сопровождения работы с регуляторными инициативами, Яндекс. Модератором панели выступила Александра Шадюк, заместитель генерального директора Кибердома.
Сессия продемонстрировала важный консенсус государства и технологического бизнеса в том, что крайне важно дать технологиям развитие, не замедлять его жесткой регуляторикой, чтобы, в том числе, в судах появилась экспертиза детекции. Провайдеры контента прежде чем платить штрафы, должны обладать технологиями маркировки и детектирования. Технологиям распознавания нужно время и инвестиционный буст. Все спикеры сессии согласились с тем, что регулирование в этой сфере должно быть риск-ориентированным: жестким только там, где есть угроза жизни или критической инфраструктуре и большому ущербу. Главная задача ближайших лет не построить рамки вокруг технологий ИИ, а создать юридически значимую методику экспертизы, без которой любые законы о наказании за дипфейки могут остаться просто декларацией.
«Сегодня важно не противопоставлять безопасность и развитие технологий. Напротив, доверие к российским решениям в сфере ИИ будет тем выше, чем лучше они смогут обеспечивать прозрачность происхождения контента, защиту прав граждан и устойчивость к злоупотреблениям. Задача государства здесь — не только установить правила, но и создать условия для появления доступных, надежных и единообразно применяемых технологий детекции и маркировки. Наша задача — создать такие правила, при которых добросовестные разработчики и платформы получают понятные условия работы, суды и правоохранительные органы — рабочие инструменты экспертизы, а граждане — реальные механизмы защиты», — прокомментировал Артем Шейкин, сенатор, первый заместитель председателя Комитета Совета Федерации по конституционному законодательству и государственному строительству.
В сессии «ИИ в информационных системах: возможности, риски и технологическая инфраструктура» модератором выступил Всеслав Соленик, CISO СберТех и амбассадор бизнес-клуба Кибердома. В числе участников — Максим Долгинин, руководитель направления развития продуктов кибербезопасности, Cloud.ru; Денис Полянский, директор по клиентской безопасности Selectel; Роман Панин, независимый эксперт по кибербезопасности и автор канала «Пакет Безопасности»; Кирилл Сорокин, директор департамента защиты приложений Билайн; Игорь Холопов, директор по маркетингу System Electric; Петр Метелкин, директор центра стратегического анализа ФГУП «Защита Ино Транс»; Павел Княгинин, директор по информационной безопасности ООО «Новая горная УК»; Алексей Титов, директор по управлению корпоративной архитектурой и аналитикой ФСК.
Сессия показала, что дискуссия об ИИ перешла из плоскости «а давайте попробуем» в плоскость суровой экономики и инфраструктурных ограничений. В результате обсуждения эксперты сделали вывод, что эффективное внедрение ИИ упирается не в алгоритмы, а в «физику» (электричество, охлаждение, чипы) и «химию» (готовность людей менять процессы). Тренд на строительство собственных гигантских ЦОДов под ИИ сменяется прагматичным гибридным подходом: потребление моделей как сервиса там, где это возможно, и строительство изолированных контуров только там, где это критично для безопасности или экономики.
В следующей дискуссии «CISO и генеративный ИИ: управление риском в эпоху доверия к алгоритмам» приняли участие Артем Сычев, первый заместитель генерального директора АО «РТ-Информационная безопасность» (Ростех); Олег Рыбченко, CAISO (Chief AI Security Officer) компании Headhunter; Дмитрий Тараненко, CISO Сберздоровье; Иван Шепелев, начальник управления информационной безопасности БЕ «Х5 Клиентский опыт». Модератором выступил Евгений Кокуйкин, сооснователь Raft и CEO HiveTrace. Спикеры обсудили переход управления рисками ИИ от стадии «хайпа» к стадии «суровой реальности». Главный конфликт сейчас заключается в том, что бизнес требует скорости и качества фронтир-моделей, а безопасность требует детерминизма и контроля. Компромисс здесь может быть найден в концепции «Copilot» и «Human in the Loop»: ИИ агрегирует, обогащает и ускоряет, но финальное решение всегда за человеком.
Завершающая сессия «Киберугрозы в эпоху ИИ: новый ландшафт безопасности» объединила экспертов в области анализа актуальных угроз. В обсуждении приняли участие Олег Скулкин, руководитель управления предупреждения внешних киберугроз, BI.ZONE; Виктор Бобыльков, директор по информационной безопасности MWS Cloud; Алексей Сидорюк, отраслевой технический директор Positive Technologies; Игорь Бирюков, СЕО Infera Security, амбассадор бизнес-клуба Кибердома; Юрий Шабалин, Chief AI Officer ГК Swordfish Security и Олег Рогов, к.ф.-м.н., руководитель группы «Доверенные и безопасные интеллектуальные системы» AIRI, руководитель лаборатории «Безопасный ИИ» AIRI-МТУСИ. Модератором выступил Алексей Лукацкий, бизнес-консультант по информационной безопасности в компании Positive Technologies, амбассадор Кибердома.
Спикеры пришли к выводу, что ландшафт киберугроз изменился не качественно, а количественно. Искусственный интеллект не изобрел новых уязвимостей, но радикально сжал время атаки и снизил порог входа для злоумышленников. Ключевая проблема для защиты кроется в асимметрии: хакеры не связаны комплаенсом, используют любые передовые модели и не боятся ошибиться. Защитники же ограничены бюджетом, регуляторикой и страхом перед вероятностной ошибкой. Единственный выход при таком положении дел — принятие остаточного риска и внедрение ИИ-ассистентов в SOC для обработки лавинообразного потока уведомлений. Главный вывод — тот, кто быстрее обновит версию своей ИИ-защиты и победит в этой гонке.
Форум завершился специальной вечерней программой от Кибердома и комьюнити Connect. Гости форума смогли пообщаться с Эрролом Маском, обсудили технологии будущего и важность их единой информационной защиты, создание secure by design технологий для космоса.
Партнером повестки форума стала компания Cloud.ru, специальный партнер — Selectel.
Информационные партнеры форума: SecurityLab.ru, Hi-Tech Mail, ICT2Go.ru, ICT Online, Global Digital Space, BIS Journal и телеграм-каналы «Сети и сигналы» и Sachok.
Подробная информация о прошедшем форуме — на сайте.
.jpg)
.png)
