Существует ряд рисков и негативных последствий использования open source, заявил президент АО «Крибрум» Игорь Ашманов на XX Международном банковском Форуме, выступая на сессии «Кибербезопасность в новых реалиях: Защищённый искусственный интеллект и квантовые технологии».
Казалось бы, что плохого в том, что крупные транснациональные компании предлагают использовать открытые источники, фреймворки, задаётся вопросом эксперт. На самом деле эти все компании контролируются американской разведкой и ВПК, и отрицательные моменты здесь заключаются в следующем.
Первый — это наше вечное отставание, вторичность, потому что Google, Facebook и прочие внутри себя не используют данные фреймворки.
Эксперт рассказал, что много раз общался с западными компаниями и спрашивал, зачем они всё это выкладывают в открытый доступ. Основная причина — рекрутинг: когда они создают сообщества, смотрят, кто там более активен, и этих людей нанимают в свои компании.
«Все, кто когда-либо писал нейронные сети или статьи о нейронных сетях, наняты Google или Facebook», — отметил Ашманов.
Второй риск — это отсутствие реальных компетенций у российских разработчиков. Эти разработчики — просто сборщики, выполняющие крупную узловую сборку, они не погружаются в то, как реально работает нейронная сеть.
«Да, конкретную задачу бизнеса так можно решить, но человек, который её таким образом решает, реальных рисков не понимает. И он подвержен наркомании скачивания обновлений, он непрерывно скачивает чужие обновления, потому что сам не может написать ничего нового. Более того, очень часто — это вообще ужасная история — скачивают ещё и так называемые дата-сеты, то есть наборы данных для обучения», — добавил спикер.
Понятно, что когда у тебя чужой код, в нём могут быть закладки, внешнее управление, перехват управления и т. д. Поскольку часто берут большие языковые модели для обучения, а это терабайты данных, то просмотреть их глазами вообще невозможно, констатирует эксперт.
BIS Journal — главный медиапартнёр XX Международного банковского Форума.
