Самыми актуальными внутренними рисками при внедрении в процессы искусственного интеллекта финучреждения считают риски в области кибербезопасности. Такая оценка содержится в отчёте об итогах обсуждения доклада Банка России по применению ИИ-технологий.
 
«Среди наиболее актуальных внутренних рисков для финансовых организаций респонденты назвали риски в области оборота данных и информационной безопасности (утечка персональных данных и иной конфиденциальной информации, кибератаки, цифровое мошенничество), риски разработки и искажения работы моделей ИИ ("галлюцинации" ИИ, ошибки в тестировании и валидации, отсутствие должного контроля при разработке моделей, неверная интерпретация полученных результатов), этические риски и риски нарушения прав потребителей», – гласит документ.

Отдельно участники рынка отметили риски, связанные с применением генеративного ИИ, в том числе риск использования дипфейков мошенниками. Например, при применении тактики социальной инженерии или для манипулирования информацией.

К значимым внешним рискам респонденты отнесли риски злоупотребления доминирующим положением и риски монополизации технологий крупными участниками рынка, макроэкономические риски и риски финансовой стабильности.

Кроме того, были рассмотрены вопросы технологического аутсорсинга и риски, связанные с прекращением деятельности разработчика, нехваткой оборудования и необходимостью в некоторых случаях использовать иностранные технологические решения.

23 мая, 2024

Подписаться на новости BIS Journal / Медиа группы Авангард

Подписаться
Введите ваш E-mail

Отправляя данную форму вы соглашаетесь с политикой конфиденциальности персональных данных

14.06.2024
Два попадания из ста — такое себе сафари. Официальный «яблочный» браузер не смог в рыбалку
14.06.2024
Матвеев: Россия может захватить технологическое лидерство в области внутренней ИБ
14.06.2024
ЛК: Кибермошенники добрались до персонала гостиниц
14.06.2024
Использование генеративного ИИ в разработке ПО медленно, но растёт
14.06.2024
Указ о новых мерах по обеспечению кибербезопасности России подписан
14.06.2024
Роскомнадзор активно модернизирует всю антискам-систему
14.06.2024
Работающие без выходных безопасники готовы увольняться
13.06.2024
Летний санкционный комбо-сет: Мосбиржа, «Точка» и техкомпании
13.06.2024
«Ростелеком» создаст ещё один фонд для инвестиций в ИТ-сектор
13.06.2024
Ляпунов: Сосредоточение функций ИБ-надзора в новой госструктуре усилит киберустойчивость страны

Стать автором BIS Journal

Поля, обозначенные звездочкой, обязательные для заполнения!

Отправляя данную форму вы соглашаетесь с политикой конфиденциальности персональных данных