«Понятно, что когда у тебя чужой код, в нём могут быть закладки»

Существует ряд рисков и негативных последствий использования open source, заявил президент АО «Крибрум» Игорь Ашманов на XX Международном банковском Форуме, выступая на сессии «Кибербезопасность в новых реалиях: Защищённый искусственный интеллект и квантовые технологии». 

Казалось бы, что плохого в том, что крупные транснациональные компании предлагают использовать открытые источники, фреймворки, задаётся вопросом эксперт. На самом деле эти все компании контролируются американской разведкой и ВПК, и отрицательные моменты здесь заключаются в следующем.

Первый — это наше вечное отставание, вторичность, потому что Google, Facebook и прочие внутри себя не используют данные фреймворки.

Эксперт рассказал, что много раз общался с западными компаниями и спрашивал, зачем они всё это выкладывают в открытый доступ. Основная причина — рекрутинг: когда они создают сообщества, смотрят, кто там более активен, и этих людей нанимают в свои компании.

«Все, кто когда-либо писал нейронные сети или статьи о нейронных сетях, наняты Google или Facebook», — отметил Ашманов.

Второй риск — это отсутствие реальных компетенций у российских разработчиков. Эти разработчики — просто сборщики, выполняющие крупную узловую сборку, они не погружаются в то, как реально работает нейронная сеть.

«Да, конкретную задачу бизнеса так можно решить, но человек, который её таким образом решает, реальных рисков не понимает. И он подвержен наркомании скачивания обновлений, он непрерывно скачивает чужие обновления, потому что сам не может написать ничего нового. Более того, очень часто — это вообще ужасная история — скачивают ещё и так называемые дата-сеты, то есть наборы данных для обучения», — добавил спикер.

Понятно, что когда у тебя чужой код, в нём могут быть закладки, внешнее управление, перехват управления и т. д. Поскольку часто берут большие языковые модели для обучения, а это терабайты данных, то просмотреть их глазами вообще невозможно, констатирует эксперт.

 

BIS Journal — главный медиапартнёр XX Международного банковского Форума.

28 сентября, 2023

Подписаться на новости BIS Journal / Медиа группы Авангард

Подписаться
Введите ваш E-mail

Отправляя данную форму вы соглашаетесь с политикой конфиденциальности персональных данных

19.06.2024
Технологический суверенитет: инновации, импортозамещение, кадры
19.06.2024
Мнение: Контроль чужих данных до их безопасной передачи подрывает саму суть шифрования
19.06.2024
Мошенники могут получать ПДн россиян из слитых медицинских баз
18.06.2024
ИИ в «Авроре»? Либо внутри устройства, либо в отечественном «облаке»
18.06.2024
ФНС автоматизирует присвоение налогового резидентства
18.06.2024
Сразу два приложения «Сбера» появилось в App Store. Выбирай мудро
18.06.2024
«При отсутствии просрочек по кредиту человек может ещё и потерять
17.06.2024
Скамерские новинки: «таможенный сбор» и «расследование мошенничества»
17.06.2024
Минэк — о порядке раскрытия данных госведомств для обучения нейросетей
17.06.2024
Релокация не спасает. Slack блокирует даже тех, кто «связан с Россией»

Стать автором BIS Journal

Поля, обозначенные звездочкой, обязательные для заполнения!

Отправляя данную форму вы соглашаетесь с политикой конфиденциальности персональных данных