Минцифры разрабатывает проект требований в сфере ИИ-кибербеза

На Международном форуме «Технологии и Безопасность» участники обсуждают задачи и проекты внедрения в области цифровых технологий, технологий безопасности и защиты информации. Впервые одна из сессий ТБ Форума была посвящена вопросам развития искусственного интеллекта.

В настоящее время разрабатывается проект требований в сфере информационной безопасности искусственного интеллекта, в том числе затрагивающий вопросы надёжности и безопасности систем ИИ. 

«В 2024 году мы планируем дать проект требований как раз по информационной безопасности искусственного интеллекта», — сообщил Александр Шойтов, заместитель министра цифрового развития, связи и массовых коммуникаций РФ. Планируется, что документ будет готов и представлен для обсуждения на втором форуме «Технологии доверенного искусственного интеллекта» в мае этого года, добавил он.

Замглавы Минцифры выделил риски общего характера при работе с ИИ:

  • требования коду, его происхождению и открытости;
  • требования к данным, их происхождению и качеству, верификации. Важны и требования к обезличиванию данных;
  • специфические риски информационной безопасности, способность противостоять конкретным видам атак.

Жёсткое регулирование использования ИИ потребуется в области критической информационной инфраструктуры и медицинских данных, подчеркнул Шойтов. Ещё одна острая тема, которая может потребовать вмешательства регулятора — это недостоверные данные из поисковых систем, на основе которых ИИ выдаёт некое решение.

«Насколько оно достоверное — отдельное направление. Тонкая тема, которая должна получить нормативное регулирование», — заявил спикер.

«Где мы можем передать принятие решений непосредственно искусственному интеллекту? Например, это беспилотный транспорт, когда он просто помогает водителю, который продолжает отвечать за управление транспортом и в любой момент может перехватить управление у искусственного интеллекта», — уточнил замминистра.

Также Александр Шойтов отметил, что вопросы информационной безопасности искусственного интеллекта будут включены в национальную программу «Экономика данных» на 2025-2030 годы. Сейчас в Госдуме рассматриваются поправки к закону «О персональных данных», которые должны были определить принципы работы бизнеса с обезличенной личной информацией. В случае принятия поправок будет реализован первый этап предоставления доступа разработчика к обезличенным данным в закрытом контуре, заключил представитель Минцифры.

16 февраля, 2024

Подписаться на новости BIS Journal / Медиа группы Авангард

Подписаться
Введите ваш E-mail

Отправляя данную форму вы соглашаетесь с политикой конфиденциальности персональных данных

03.09.2025
В Госдуме заявили об интересе «людей в костюмах» к FaceTime
03.09.2025
TenChat внедряет сертификацию ИТ-специалистов на базе платформы РОКИС
03.09.2025
«Образовательный сектор — настоящий кладезь конфиденциальной информации»
03.09.2025
В китайском интернете ввели обязательную маркировку ИИ-контента
03.09.2025
За большинством эксплойтов уязвимостей стоят госхакеры
03.09.2025
Клиенты банков претерпевают от нашествия «помогаторов»
03.09.2025
Утечка данных TransUnion затронула 4,5 млн клиентов в США
02.09.2025
В России вступили в силу антифрод-поправки от «связистов»
02.09.2025
«Звёздные врата» откроются и над Индией. OpenAI строит ЦОД в Азии
02.09.2025
ИИ-факультет — имиджевый и стратегический проект МГУ

Стать автором BIS Journal

Поля, обозначенные звездочкой, обязательные для заполнения!

Отправляя данную форму вы соглашаетесь с политикой конфиденциальности персональных данных