«Понятно, что когда у тебя чужой код, в нём могут быть закладки»

Существует ряд рисков и негативных последствий использования open source, заявил президент АО «Крибрум» Игорь Ашманов на XX Международном банковском Форуме, выступая на сессии «Кибербезопасность в новых реалиях: Защищённый искусственный интеллект и квантовые технологии». 

Казалось бы, что плохого в том, что крупные транснациональные компании предлагают использовать открытые источники, фреймворки, задаётся вопросом эксперт. На самом деле эти все компании контролируются американской разведкой и ВПК, и отрицательные моменты здесь заключаются в следующем.

Первый — это наше вечное отставание, вторичность, потому что Google, Facebook и прочие внутри себя не используют данные фреймворки.

Эксперт рассказал, что много раз общался с западными компаниями и спрашивал, зачем они всё это выкладывают в открытый доступ. Основная причина — рекрутинг: когда они создают сообщества, смотрят, кто там более активен, и этих людей нанимают в свои компании.

«Все, кто когда-либо писал нейронные сети или статьи о нейронных сетях, наняты Google или Facebook», — отметил Ашманов.

Второй риск — это отсутствие реальных компетенций у российских разработчиков. Эти разработчики — просто сборщики, выполняющие крупную узловую сборку, они не погружаются в то, как реально работает нейронная сеть.

«Да, конкретную задачу бизнеса так можно решить, но человек, который её таким образом решает, реальных рисков не понимает. И он подвержен наркомании скачивания обновлений, он непрерывно скачивает чужие обновления, потому что сам не может написать ничего нового. Более того, очень часто — это вообще ужасная история — скачивают ещё и так называемые дата-сеты, то есть наборы данных для обучения», — добавил спикер.

Понятно, что когда у тебя чужой код, в нём могут быть закладки, внешнее управление, перехват управления и т. д. Поскольку часто берут большие языковые модели для обучения, а это терабайты данных, то просмотреть их глазами вообще невозможно, констатирует эксперт.

 

BIS Journal — главный медиапартнёр XX Международного банковского Форума.

28 сентября, 2023

Подписаться на новости BIS Journal / Медиа группы Авангард

Подписаться
Введите ваш E-mail

Отправляя данную форму вы соглашаетесь с политикой конфиденциальности персональных данных

04.07.2025
Конгрессмен рассказал агентам ФБР про кибербез (не наоборот)
04.07.2025
«Это ускорит развитие национальной платёжной инфраструктуры»
04.07.2025
«Пар»? «Ростелеком» строит свой Steam
04.07.2025
«Не будет никакой остановки». Европейский AI Act — на марше
04.07.2025
В России всё же создадут базу биометрии мошенников
03.07.2025
В Госдуме продолжают намекать на преимущества импортозамещения
03.07.2025
Котята отрастили щупальца. Kraken целится в Apple издалека?
03.07.2025
DLBI: До конца года стилеры могут парализовать поиск «удалёнки» в РФ
03.07.2025
Международный уголовный суд подвергается атакам хакеров
03.07.2025
17% компаний выбирает ноутбуки с предустановленными отечественными ОС

Стать автором BIS Journal

Поля, обозначенные звездочкой, обязательные для заполнения!

Отправляя данную форму вы соглашаетесь с политикой конфиденциальности персональных данных