BSI предупреждает о надвигающемся кризисе управления ИИ

Британский институт стандартов (BSI) предупредил о растущем «разрыве в управлении ИИ», поскольку руководители компаний спешат внедрить новую технологию изолированно от необходимых механизмов контроля. Организация провела исследование на основе минимум сотни годовых отчётов транснациональных корпораций и двух глобальных опросов более чем 850 топ-менеджеров.

С одной стороны, 62% руководителей планирует увеличить инвестиции в нейросети в следующем году для повышения производительности, эффективности и снижения затрат (59% заявило, что считает их критически важными для будущего роста). С другой стороны, лишь четверть сообщила о наличии в их компаниях программы управления ИИ. Добровольные кодексы практики использует 34% респондентов, а протоколы оценки рисков и их снижения имеет 30%.

В BSI уверены, что управление данными, используемыми для обучения больших языковых моделей, является ключевым источником риска. При этом только 28% опрошенных менеджеров знает, откуда берётся эта информация (ещё в феврале таких было 35%). 40% при этом заверило, что внедрило процессы управления конфиденциальными данными, отправляемыми в LLM.

Лишь треть организаций сообщила экспертам о выстраивании процесса регистрации проблем или неточностей, связанных с нейросетями, и ещё меньше (29%) о том, что инициировало его для своевременного управления инцидентами.

Генеральный директор BSI Сьюзан Тейлор Мартин выразила обеспокоенность таким пробелом: «Хотя ИИ может быть силой добра, он не станет панацеей от вялого роста, низкой производительности и высоких затрат без стратегического контроля и чётких границ. Более того, без этого могут возникнуть новые риски для бизнеса. Излишняя самоуверенность в сочетании с фрагментарными и непоследовательными подходами к управлению рискует сделать многие организации уязвимыми к предотвратимым сбоям и репутационному ущербу. Крайне важно, чтобы компании перешли от реактивного соответствия к проактивному, комплексному управлению нейросетями».

Усам Оздемиров