Издание «Коммерсант» сообщило, что «Лаборатория Касперского» обратилась к Рабочей группе открытого состава по вопросам безопасности в сфере использования ИКТ при ООН с предложением разработать принципы развития ИИ в контексте кибербезопасности.
В документе говорится, что ИИ-технологии имеют значительный ИБ-потенциал — они помогают выявлять угрозы, отвечать на них и анализировать нетипичные активности в системах организаций. Однако применение ИИ «не только положительно влияет на кибербезопасность, но и создает риски» — авторы заявили, что системы, основанные на машинном обучении, могут некорректно функционировать при резких изменениях входных данных.
Эксперты ЛК отметили, что краеугольным камнем концепции использования ИИ в области кибербезопасности должен стать человеческий контроль, включая доступ специалиста в реальном времени ко всем процессам. Плюс, было предложено минимизировать вовлечение ПДн в процесс обучения робота, максимально обезличивая их.
В рамках международного же регулирования ИИ безопасники предлагают обучение систем на «обширных данных из открытых источников».
(1).png)