Достаточно ли ваша нейросеть духовно‑нравственна?

Источники «Ведомостей» утверждают, что российские ИТ‑компании смогут передавать свои авторские нейросети в независимые испытательные лаборатории для проверки на соответствие профильному законодательству.

Принятый 26 июля закон об ИИ вводит два специальных статуса для больших фундаментальных моделей: суверенная и национальная. Для их получения разработчик должен подтвердить соответствие LLM «традиционным духовно‑нравственным ценностям». Документ носит рамочный характер, и основные правила легитимного использования ИИ в России ещё предстоит установить подзаконными актами (в их разработке принимают участие Минцифры, ФСБ и ФСТЭК).

При этом, по словам одного из собеседников журналистов, отдельно прописывать духовно‑нравственные ценности  не планируется — их перечень уже содержится в президентском указе №809. Вместо этого регуляторы, опираясь на накопленную бизнесом экспертизу, разработают бенчмарки, с помощью которых и будут тестироваться российские нейросети. А собственно испытательная лаборатория может быть учреждена правкомиссией по цифровизации.

При подаче заявления на проверку своей ИИ-модели вендору понадобится приложить сведения о самой компании, документы с описанием архитектуры LLM, данные о механизмах фильтрации и так далее, а эксперты — используя вышеупомянутые бенчмарки — изучат ответы нейросети и протестирует возможности обхода внутренних ограничений с помощью промпт‑инъекций. Заключение направят в правкомиссию.

Положительный отзыв в данном случае, как подчеркнул источник «Ведомостей», — один из этапов присвоения модели статуса суверенной или национальной. Это повышает шансы разработчика получить господдержку, доступ к данным госинформсистем и возможность приоритетного использования его продукта в отдельных отраслях, но финальное решение остаётся за теми же Минцифры, ФСБ и ФСТЭК.