ИИ-вендоры договорились ограничивать технологию, когда это необходимо

На прошедшем в Южной Корее AI Safety Summit 16 лидеров рынка ИИ-разработок (Google, Microsoft, OpenAI, IBM и другие) приняли новые обязательства по безопасности передовых технологий искусственного интеллекта. Среди прочего, документ предполагает обязательства подписантов деактивировать собственные ИИ-решения в случае потенциального опасного воздействия последних.

Компании договорились публиковать свои методики оценки рисков, связанных с их ИИ-моделями, описывать допустимые уровни потенциальной опасности и принимаемые меры при превышении этих уровней. В ситуации, когда снижение рисков ниже установленного порога невозможно, участники договора должны будут прекратить разработку и внедрение соответствующих моделей и систем.

Также подписанты обязались:

  • делиться друг с другом информацией;
  • проводить тестирование своих передовых ИИ-моделей;
  • инвестировать в ИБ и предотвращать внутренние угрозы для не выпущенных технологий;
  • поощрять обнаружение уязвимостей независимыми исследователями;
  • маркировать созданный с помощью нейросетей контент;
  • приоритизировать исследования социальных рисков, связанных с ИИ.

Остальные детали соглашения обсудят на ИИ-саммите в начале 2025 года.

В рамках того же AI Safety Summit вендорами, чиновниками стран G7, Сингапура и Австралии, а также представителями международных организаций — ООН и ОЭСР — была принята Сеульская декларация. В ней говорится о важности обеспечения совместимости между системами управления искусственным интеллектом, основываясь на риск-ориентированном подходе — для максимизации преимуществ технологии и нивелирования рисков, сопряжённых с ней.

22 мая, 2024

Подписаться на новости BIS Journal / Медиа группы Авангард

Подписаться
Введите ваш E-mail

Отправляя данную форму вы соглашаетесь с политикой конфиденциальности персональных данных

23.06.2025
Европол: Подпольная экономика данных «работает как часы»
23.06.2025
Сбер и Security Vision объединяют усилия для защиты российского бизнеса от киберугроз
23.06.2025
Россельхозбанк модернизировал сети корпоративной телефонии банка в рамках программы «Цифровой суверенитет»
23.06.2025
Летний рейтинг скамерских «масок» от Киберполиции
23.06.2025
IMEI совесть. Закон «О связи» помешает перепрошивать устройства
23.06.2025
NIST выпустил новое руководство по внедрению концепции Zero Trust
23.06.2025
Ветераны CISA и NCSC предостерегают от гламуризации хак-групп
20.06.2025
NFC станет дальше. И одновременно ближе...
20.06.2025
Снова о «крупнейшей утечке в истории»
20.06.2025
Кузнецов: Разделённое внимание снижает бдительность

Стать автором BIS Journal

Поля, обозначенные звездочкой, обязательные для заполнения!

Отправляя данную форму вы соглашаетесь с политикой конфиденциальности персональных данных