Минцифры разрабатывает проект требований в сфере ИИ-кибербеза

На Международном форуме «Технологии и Безопасность» участники обсуждают задачи и проекты внедрения в области цифровых технологий, технологий безопасности и защиты информации. Впервые одна из сессий ТБ Форума была посвящена вопросам развития искусственного интеллекта.

В настоящее время разрабатывается проект требований в сфере информационной безопасности искусственного интеллекта, в том числе затрагивающий вопросы надёжности и безопасности систем ИИ. 

«В 2024 году мы планируем дать проект требований как раз по информационной безопасности искусственного интеллекта», — сообщил Александр Шойтов, заместитель министра цифрового развития, связи и массовых коммуникаций РФ. Планируется, что документ будет готов и представлен для обсуждения на втором форуме «Технологии доверенного искусственного интеллекта» в мае этого года, добавил он.

Замглавы Минцифры выделил риски общего характера при работе с ИИ:

  • требования коду, его происхождению и открытости;
  • требования к данным, их происхождению и качеству, верификации. Важны и требования к обезличиванию данных;
  • специфические риски информационной безопасности, способность противостоять конкретным видам атак.

Жёсткое регулирование использования ИИ потребуется в области критической информационной инфраструктуры и медицинских данных, подчеркнул Шойтов. Ещё одна острая тема, которая может потребовать вмешательства регулятора — это недостоверные данные из поисковых систем, на основе которых ИИ выдаёт некое решение.

«Насколько оно достоверное — отдельное направление. Тонкая тема, которая должна получить нормативное регулирование», — заявил спикер.

«Где мы можем передать принятие решений непосредственно искусственному интеллекту? Например, это беспилотный транспорт, когда он просто помогает водителю, который продолжает отвечать за управление транспортом и в любой момент может перехватить управление у искусственного интеллекта», — уточнил замминистра.

Также Александр Шойтов отметил, что вопросы информационной безопасности искусственного интеллекта будут включены в национальную программу «Экономика данных» на 2025-2030 годы. Сейчас в Госдуме рассматриваются поправки к закону «О персональных данных», которые должны были определить принципы работы бизнеса с обезличенной личной информацией. В случае принятия поправок будет реализован первый этап предоставления доступа разработчика к обезличенным данным в закрытом контуре, заключил представитель Минцифры.

16 февраля, 2024

Подписаться на новости BIS Journal / Медиа группы Авангард

Подписаться
Введите ваш E-mail

Отправляя данную форму вы соглашаетесь с политикой конфиденциальности персональных данных

18.07.2025
Половина SolidSoft перешла под крышу «Яндекса»
18.07.2025
В США арестовали китайского хакера, обвиняемого в краже результатов исследований COVID-19
18.07.2025
Wildberries превращается в целую ягодную экосистему
18.07.2025
«Макс» готовит Марка к уходу с российского рынка?
18.07.2025
NCSC призывает предприятия перейти на Windows 11, чтобы избежать киберугроз
18.07.2025
В Госдуме предложили ввести обязательную верификацию ПДн в кредитных заявках
17.07.2025
Банковский ID как гарант обеспечения безопасности интернет-соединений
17.07.2025
«Важным шагом государства стало бы применение новой цифровой валюты в госзакупках»
17.07.2025
«Историки» и «социологи» борются с айтишниками за внимание робота
17.07.2025
Исследователи Forescout советуют готовиться к эпохе «вайб-хакинга»

Стать автором BIS Journal

Поля, обозначенные звездочкой, обязательные для заполнения!

Отправляя данную форму вы соглашаетесь с политикой конфиденциальности персональных данных