Защитить ИИ, чтобы он защитил нас. Ответ на вызовы — криптоанклав

Защитить ИИ, чтобы он защитил нас. Ответ на вызовы — криптоанклав

Технологии искусственного интеллекта (ИИ), получившие стремительное развитие в последние годы, в ряде отраслей кардинально меняют подходы к ведению бизнеса. Например, в продажах они способствуют появлению новых более эффективных методов анализа поведения клиента и его потребностей, а следовательно, возможности своевременного предложения ему релевантных продуктов и услуг. В том числе в формате уникального предложения. 

Однако не стоит забывать о вкладе ИИ в развитие технологий обеспечения безопасности. Причём как физической, так и информационной: интеллектуальные камеры с трекингом по лицам и возможностью распознавания опасного поведения, а также различные системы, направленные на выявление мошеннических действий с последующей автоматической блокировкой счетов и невозможностью списания денежных средств. 

Таким образом, де-факто технологии ИИ уже обеспечивают нашу безопасность, помогают предотвращать и раскрывать преступления. Ключевым препятствием для их повсеместного внедрения являются опасения относительно приватности данных, что справедливо порождает этические и регуляторные ограничения. Например, камера видеонаблюдения может помочь найти злоумышленника, но одновременно может знать маршрут ваших передвижений в те моменты, когда вы совершенно этого не хотите. 

В этой связи на первое место по важности выходит безопасность данных, находящихся в информационных системах. И если безопасно хранить и передавать данные в рамках одной организации — это вполне посильная задача, то их вывод вовне — вопрос совершенно иного уровня сложности. 

ЗАЧЕМ ОБМЕНИВАТЬСЯ ДАННЫМИ?

Если принять во внимание гипотезу, что большинство крупных розничных компаний уже затратили 20% усилий для получения 80% результата от анализа собственных данных, а также то, что ключевую роль в развитии технологий ИИ играет объём доступных для исследователей выборок данных, то можно прийти к логическому выводу, что наиболее перспективным направлением в области анализа данных являются партнёрства, в рамках которых будет происходить обмен данными. 

Именно наличие больших объёмов данных, требуемых для обучения ML-моделей, способствует развитию современной индустрии машинного обучения и появлению высокоэффективных ИИ-систем. В том числе тех, которые обеспечивают нашу информационную и физическую безопасность. Таким образом, обеспечение безопасности данных становится первостепенной задачей для всех участвующих в процессе сторон. 

Для большинства компаний всё это стало весьма непростой задачей. Обычно для каждого источника данных требуется обучение специализированных моделей Deep Learning либо проработка нетривиальных подходов к обезличиванию данных, а это связано с организацией наукоёмкого и трудоёмкого процесса на стороне каждого партнёра по обмену данными. 

КАК БЕЗОПАСНО ОБМЕНИВАТЬСЯ ДАННЫМИ?

Для того чтобы снять вышеуказанные препятствия, необходима синергия технологий ИИ и информационной безопасности. Одним из решений может стать создание криптоанклавов — некоторой криптозащищённой области, в которую партнёры передают данные для хранения и анализа. При этом доступ к данным не имеет никто из партнёров, а их анализ осуществляет программный робот, реализованный внутри анклава — ИИ. Только он может обрабатывать имеющиеся данные и строить модели. На выходе доступны только результаты применения модели на данных участников, но не сами данные (рис. 1).

Рисунок 1. Криптоанклав — криптозащищённая область, в которую партнёры передают данные для хранения и анализа. При этом доступ к данным партнёры не имеют, а анализ данных осуществляет ИИ

Современный уровень развития ИИ позволяет полностью автоматизировать процесс построения, внедрения и проверки качества моделей и при этом снять любые этические и регуляторные ограничения. У ИИ нет сознания в человеческом понимании. Он не склонен к мошенничеству и злому умыслу. И ему можно доверить любые данные. Более того, он умеет контролировать качество данных в рамках этого слепого обучения и может стать тем инструментом, который повышает уровень безопасности без нарушения приватности. Единственное, его самого необходимо защитить от взломов и внешних воздействий. Для этого мы предусмотрели механизмы защиты анклава как на физическом уровне, так и с точки зрения информационной безопасности — от прямых и косвенных утечек. 

Стоит отметить, что объединение данных происходит на низком уровне таким образом, чтобы алгоритмы машинного обучения и искусственного интеллекта могли использовать их максимально эффективно. 

Кроме того, в современных реалиях важным аспектом предлагаемого нами подхода является его импортонезависимость. Решение разработано нами совместно с МФТИ и может быть сертифицировано. У нас нет ограничений на использование оборудования, а область его применения шире, чем у аналогичных западных решений, — от анализа рисков и CRM-моделирования до информационной безопасности. В настоящее время мы работаем над созданием программно-аппаратного комплекса (ПАК), обеспечивающего защиту на программном и физическом уровнях и предполагающего возможность масштабирования. 

На наш взгляд, криптоанклав — это адекватный технологический ответ на вызовы современности, в которой, с одной стороны, нужно всё больше данных для развития ИИ; с другой стороны, необходимо соблюсти все этические и нормативные ограничения. Особенно когда речь заходит об объединении данных коммерческих и государственных информационных систем.