Искусственный интеллект: 12 приоритетных направлений для обеспечения безопасности интернет-пользователей

Роскомнадзор и Главный радиочастотный центр совместно с аналитическим центром MindSmith и «Ростелекомом» выпустили исследование «Инструменты ИИ в руках злоумышленников — классификация угроз и способы противодействия». 

В ходе исследования эксперты выделили четыре существующих направления ИИ, каждое из которых представляет широкую предметную область, характеризующуюся форматом информации, с которым работает то или иное решение: компьютерное зрение, обработка естественного языка, распознавание и синтез речи, системы прогнозирования и поддержки принятия решений. 

Вторым параметром стала степень зрелости, отражающая разные стадии развития решений. Здесь выделено три уровня зрелости решения: «концепция», «прототип» и «внедрено».

Таким образом, получены 12 функциональных групп — приоритетных направлений применения ИИ, соответствующих технологическим интересам профильных организаций по мониторингу и обеспечению безопасности Интернета. Каждая группа объединяет решения, предназначенные для выполнения задач в конкретном направлении:

  • обнаружение дипфейков;
  • определение контекста происходящего на видео;
  • автоматизация мониторинга и модерации контента;
  • распознавание лиц;
  • извлечение смысла из текста;
  • поддержка проверки фактов;
  • распознавание символики;
  • извлечение и анализ метаданных;
  • распознавание эмоций;
  • поддержка решений при информационных атаках;
  • генерация контента;
  • рекомендация контента.

44-страничное исследование содержит подробный разбор каждого из направлений. При этом, несмотря на различия в технических особенностях работы решений в каждой группе, исследователи отметили ряд универсальных положений:

  • В России есть экспертиза для создания отечественных датасетов и моделей и качественные решения в области распознавания лиц и работы с информационными атаками, но не хватает вычислительных мощностей, мощного оборудования, инфраструктуры и кооперации между ключевыми стейкхолдерами.
  • Китай и США лидируют с большим отрывом в существенной части направлений развития ИИ. В этих странах развито сотрудничество государственных организаций с коммерческими.
  • Без внедрения ИИ будет крайне проблематично обеспечить когнитивную безопасность населения. 
  • Наличие отечественных моделей и их внедрение, использование отечественных датасетов — вопрос национальной безопасности.
  • Разработка процедур тестирования и оценки моделей — важная инфраструктурная задача. 
  • Значительная часть моделей ИИ представляет собой «чёрный ящик». Внедрение таких моделей иностранного производства представляет угрозу.
  • Регуляторика в большинстве стран не успевает за скоростью развития технологий ИИ.
  • Искусственный интеллект значительно обогнал человека в объёме и скорости обработки данных, работы с большими объёмами информации. Но на данный момент ИИ далек от идеала, чем нередко пользуются злоумышленники.

Государству необходимо разработать процедуры тестирования и оценки моделей ИИ, чтобы поддерживать перспективные проекты и их разработчиков, считают эксперты.

Вы интересуетесь искусственным интеллектом, планируете внедрение или уже используете ИИ в своей работе?

Вы хотите:

  • Понимать уязвимости и угрозы, связанные с ИИ;
  • Знать о построении доверенной работы технологий ИИ;
  • Уметь наладить корректную обработку данных;
  • Приготовиться к защите от атак на ИИ.

 

Станьте первым! Узнайте больше, получите практические советы и обсудите свои подходы к ИИ с экспертами 25 мая 2023 года на первом форуме о доверенном искусственном интеллекте.

25 апреля, 2023

Подписаться на новости BIS Journal / Медиа группы Авангард

Подписаться
Введите ваш E-mail

Отправляя данную форму вы соглашаетесь с политикой конфиденциальности персональных данных

17.05.2024
ЛК: Нежелание персонала соблюдать правила ИБ открывает дверь хакерам
17.05.2024
«Тинькофф Банк» приходит третьим в QR-зачёте
17.05.2024
Тянет на срок. ВТБ — о новой мошеннической схеме с «пластиком»
17.05.2024
Microsoft всё же начала отключать корпоративную Россию от «облаков»
16.05.2024
ИБ и ЕГЭ. Почему каждому абитуриенту нужно быть немного безопасником
16.05.2024
Продажа «симок» через «Госключ» и «Почту России». Что ещё в пакете?
16.05.2024
Ещё два российских финсервиса поделятся данными с властями
16.05.2024
В Британии запустили открытую платформу для тестирования ИИ
16.05.2024
Клиентов хостинг-провайдеров идентифицируют через «Госуслуги»
15.05.2024
«Важно выстроить единую систему подготовки кадров в области ИБ-образования»

Стать автором BIS Journal

Поля, обозначенные звездочкой, обязательные для заполнения!

Отправляя данную форму вы соглашаетесь с политикой конфиденциальности персональных данных