«Яндекс» ответственно создаёт и применяет ИИ — утверждено

Компания «Яндекс» подтвердила соответствие международному стандарту ответственной разработки ИИ, став первым российским вендором, получившим сертификат ISO/IEC 42001.

Независимые аудиторы проверили семейство больших языковых моделей YandexGPT, но исследовали не сами продукты, а вопросы этики, прозрачности и безопасности, непосредственно касающиеся процессов создания и внедрения нейросетей (что собственно и описывает стандарт ISO/IEC 42 001:2023).

Эксперты протестировали защиту пользовательских данных, работу мониторинга ошибок и аномалий, контроль качества и этичности ответов, изучили методику сбора обратной связи и ведения документации, а также установили, что компания учитывает связанные с ИИ социальные риски и обучает сотрудников правилам ответственной разработки.

Модели YandexGPT используются в 20 сервисах и продуктах «Яндекса», а свои принципы работы с нейросетями вендор публикует в открытом доступе. В прошлом марте компания подписала декларацию об ответственной разработке ИИ в составе профильного Альянса; с этого года — подключила «белых хакеров» для поиска уязвимостей в ИИ-решениях.