ООН, ЛК, ИИ. О чём безопасник может поговорить с дипломатом?

Издание «Коммерсант» сообщило, что «Лаборатория Касперского» обратилась к Рабочей группе открытого состава по вопросам безопасности в сфере использования ИКТ при ООН с предложением разработать принципы развития ИИ в контексте кибербезопасности.

В документе говорится, что ИИ-технологии имеют значительный ИБ-потенциал — они помогают выявлять угрозы, отвечать на них и анализировать нетипичные активности в системах организаций. Однако применение ИИ «не только положительно влияет на кибербезопасность, но и создает риски» — авторы заявили, что системы, основанные на машинном обучении, могут некорректно функционировать при резких изменениях входных данных.

Эксперты ЛК отметили, что краеугольным камнем концепции использования ИИ в области кибербезопасности должен стать человеческий контроль, включая доступ специалиста в реальном времени ко всем процессам. Плюс, было предложено минимизировать вовлечение ПДн в процесс обучения робота, максимально обезличивая их.

В рамках международного же регулирования ИИ безопасники предлагают обучение систем на «обширных данных из открытых источников».