Проблема уязвимости глубокого обучения к «состязательным атакам» пока не решена. Добавление к вводным системы ИИ случайной или скрытой информации может привести к сбою в работе. Системам распознавания изображений уделяется большое внимание, но системы реконструкции изображений, основанные на глубоком обучении, не менее уязвимы.

Это создаёт большие риски в сфере здравоохранения: такие системы используются для восстановления снимков КТ, МРТ и рентгена. То есть кибератака, к примеру, может привести к тому, что система покажет опухоль там, где её быть не должно.

В Иллинойском университете предложили новый метод обучения глубоких нейронных сетей, снижающий число ошибок и повышающий надёжность в критических ситуациях. Он основан на сопоставлении нейронных сетей, ответственных за реконструкцию изображений, и сетей, генерирующих примеры состязательных атак, по типу GAN алгоритмов.

Через повторяющиеся циклы состязательная сеть попытается обмануть сеть, отвечающую за реконструкцию изображений – чтобы та генерировала элементы, не являющиеся частью оригинальных данных. Сеть реконструкции же будет модифицироваться с тем, чтобы не дать себя обмануть, таким образом повышая свою надежность.

Хотя на этапе теста в плане восстановления оригинальных данных обученная сеть оказалась эффективнее по сравнению с прочими «отказоустойчивыми» системами, она всё еще требует доработки.

14 июля, 2020

Подписаться на новости BIS Journal / Медиа группы Авангард

Подписаться
Введите ваш E-mail

Отправляя данную форму вы соглашаетесь с политикой конфиденциальности персональных данных

28.03.2024
Аитов: Ограничения Samsung Pay на использование карт «Мир» можно обойти
28.03.2024
Киберпреступления — 35% всех преступлений в России
28.03.2024
Почему путешествовать «налегке» не всегда хорошо
28.03.2024
«Тинькофф»: Несколько платёжных систем лучше, чем одна
28.03.2024
В РФ готовят базу для «усиленной блокировки» незаконного контента
28.03.2024
Термин «риск ИБ» некорректен по своей сути
27.03.2024
Samsung Pay перестанет дружить с «мировыми» картами
27.03.2024
Канадский университет восстанавливает работу после ИБ-инцидента
27.03.2024
Crypto Summit 2024. Трейдинг, майнинг и перспективы развития рынка ЦФА
27.03.2024
РКН начал работу по контролю за «симками» иностранцев

Стать автором BIS Journal

Поля, обозначенные звездочкой, обязательные для заполнения!

Отправляя данную форму вы соглашаетесь с политикой конфиденциальности персональных данных