Минцифры разрабатывает проект требований в сфере ИИ-кибербеза

На Международном форуме «Технологии и Безопасность» участники обсуждают задачи и проекты внедрения в области цифровых технологий, технологий безопасности и защиты информации. Впервые одна из сессий ТБ Форума была посвящена вопросам развития искусственного интеллекта.

В настоящее время разрабатывается проект требований в сфере информационной безопасности искусственного интеллекта, в том числе затрагивающий вопросы надёжности и безопасности систем ИИ. 

«В 2024 году мы планируем дать проект требований как раз по информационной безопасности искусственного интеллекта», — сообщил Александр Шойтов, заместитель министра цифрового развития, связи и массовых коммуникаций РФ. Планируется, что документ будет готов и представлен для обсуждения на втором форуме «Технологии доверенного искусственного интеллекта» в мае этого года, добавил он.

Замглавы Минцифры выделил риски общего характера при работе с ИИ:

  • требования коду, его происхождению и открытости;
  • требования к данным, их происхождению и качеству, верификации. Важны и требования к обезличиванию данных;
  • специфические риски информационной безопасности, способность противостоять конкретным видам атак.

Жёсткое регулирование использования ИИ потребуется в области критической информационной инфраструктуры и медицинских данных, подчеркнул Шойтов. Ещё одна острая тема, которая может потребовать вмешательства регулятора — это недостоверные данные из поисковых систем, на основе которых ИИ выдаёт некое решение.

«Насколько оно достоверное — отдельное направление. Тонкая тема, которая должна получить нормативное регулирование», — заявил спикер.

«Где мы можем передать принятие решений непосредственно искусственному интеллекту? Например, это беспилотный транспорт, когда он просто помогает водителю, который продолжает отвечать за управление транспортом и в любой момент может перехватить управление у искусственного интеллекта», — уточнил замминистра.

Также Александр Шойтов отметил, что вопросы информационной безопасности искусственного интеллекта будут включены в национальную программу «Экономика данных» на 2025-2030 годы. Сейчас в Госдуме рассматриваются поправки к закону «О персональных данных», которые должны были определить принципы работы бизнеса с обезличенной личной информацией. В случае принятия поправок будет реализован первый этап предоставления доступа разработчика к обезличенным данным в закрытом контуре, заключил представитель Минцифры.

16 февраля, 2024

Подписаться на новости BIS Journal / Медиа группы Авангард

Подписаться
Введите ваш E-mail

Отправляя данную форму вы соглашаетесь с политикой конфиденциальности персональных данных

16.04.2024
Сайт просит вас отключить блокировщик рекламы? Не спешите
16.04.2024
Руководителям не хватает качественного общения друг с другом
16.04.2024
НКЦКИ представил свой трекер утечек персональных данных
16.04.2024
Где VPN, там и DDoS. В Госдуме заявили о неочевидной связи этих аббревиатур
16.04.2024
«Мы можем внести свой вклад в будущее и работаем над этим»
15.04.2024
«Мы начали внедрение искусственного интеллекта с самих себя»
15.04.2024
«Ростелеком»: Рынок должен вложиться в инфраструктуру связи
15.04.2024
Балканские инженеры добавили ярких красок в системы безопасности
15.04.2024
Расходы ИТ-компаний на продвижение в СМИ выросли в полтора раза
15.04.2024
Имейл — небезопасный канал для получения распоряжений на перевод

Стать автором BIS Journal

Поля, обозначенные звездочкой, обязательные для заполнения!

Отправляя данную форму вы соглашаетесь с политикой конфиденциальности персональных данных