Что такое доверие в ИИ? Когда «я сам всё сделал»?

Как можно оценить обеспечение доверия в разрабатываемых и внедряемых сегодня ИИ-системах, рассказал заместитель министра цифрового развития, связи и массовых коммуникаций РФ Александр Шойтов на Форуме «Технологии искусственного интеллекта», который проходит 27 мая в Москве.

«Что такое доверие [в система ИИ — прим ред.]? Сейчас есть варианты таких стандартов, они очень верхнеуровневые и удовлетворяют требованиям, которые предъявляют разработчики, потребители и регулятор. Понятие «доверие» есть ещё во ФСТЭК. Активно обсуждается доверие и в КИИ — в разрезе технологической независимости», — отметил спикер.

При этом под «доверием» понимается всё: это надежность, функциональная корректность, технологическая независимость, информационная безопасность, устойчивость, констатировал Шойтов.

«Если говорить о разработчиках ИИ, то у меня такое впечатление сейчас, что доверие — это когда я сам всё сделал. Например, я взял Open Sourse и сам его обучил на этих моделях, на этих данных. То есть доверенный потому, что я сам приложил к нему такие усилия. Наверное, этот уровень зрелости будет разный с точки зрения доверия ИИ», — поделился своим мнением замглавы Минцифры.