Минцифры разрабатывает проект требований в сфере ИИ-кибербеза

На Международном форуме «Технологии и Безопасность» участники обсуждают задачи и проекты внедрения в области цифровых технологий, технологий безопасности и защиты информации. Впервые одна из сессий ТБ Форума была посвящена вопросам развития искусственного интеллекта.

В настоящее время разрабатывается проект требований в сфере информационной безопасности искусственного интеллекта, в том числе затрагивающий вопросы надёжности и безопасности систем ИИ. 

«В 2024 году мы планируем дать проект требований как раз по информационной безопасности искусственного интеллекта», — сообщил Александр Шойтов, заместитель министра цифрового развития, связи и массовых коммуникаций РФ. Планируется, что документ будет готов и представлен для обсуждения на втором форуме «Технологии доверенного искусственного интеллекта» в мае этого года, добавил он.

Замглавы Минцифры выделил риски общего характера при работе с ИИ:

  • требования коду, его происхождению и открытости;
  • требования к данным, их происхождению и качеству, верификации. Важны и требования к обезличиванию данных;
  • специфические риски информационной безопасности, способность противостоять конкретным видам атак.

Жёсткое регулирование использования ИИ потребуется в области критической информационной инфраструктуры и медицинских данных, подчеркнул Шойтов. Ещё одна острая тема, которая может потребовать вмешательства регулятора — это недостоверные данные из поисковых систем, на основе которых ИИ выдаёт некое решение.

«Насколько оно достоверное — отдельное направление. Тонкая тема, которая должна получить нормативное регулирование», — заявил спикер.

«Где мы можем передать принятие решений непосредственно искусственному интеллекту? Например, это беспилотный транспорт, когда он просто помогает водителю, который продолжает отвечать за управление транспортом и в любой момент может перехватить управление у искусственного интеллекта», — уточнил замминистра.

Также Александр Шойтов отметил, что вопросы информационной безопасности искусственного интеллекта будут включены в национальную программу «Экономика данных» на 2025-2030 годы. Сейчас в Госдуме рассматриваются поправки к закону «О персональных данных», которые должны были определить принципы работы бизнеса с обезличенной личной информацией. В случае принятия поправок будет реализован первый этап предоставления доступа разработчика к обезличенным данным в закрытом контуре, заключил представитель Минцифры.

16 февраля, 2024

Подписаться на новости BIS Journal / Медиа группы Авангард

Подписаться
Введите ваш E-mail

Отправляя данную форму вы соглашаетесь с политикой конфиденциальности персональных данных

10.07.2025
От айтишников всё чаще требуют развитых soft skills
10.07.2025
Хакер попытался украсть личность госсекретаря США с помощью ИИ
10.07.2025
Финрегулятор хочет раскрыть имена собственников банков
10.07.2025
«Большая часть компаний начинает инвестировать в ИБ только в ответ на требования извне»
10.07.2025
Telegram эволюционирует, скамеры — тоже
09.07.2025
Депутаты не одобрили деятельность «белых шляп»
09.07.2025
Командная игра в семь раз сократила объём NFC-хищений в России
09.07.2025
Trend Micro: У зловреда Bert — российские корни (вероятно)
09.07.2025
Только 5% компаний закладывает потери от кибератак в ИБ-бюджет
09.07.2025
В японские воды сойдёт дата-центр на 10000 тонн

Стать автором BIS Journal

Поля, обозначенные звездочкой, обязательные для заполнения!

Отправляя данную форму вы соглашаетесь с политикой конфиденциальности персональных данных