В новом отчёте SquareX Labs указано на несколько уязвимостей архитектуры безопасности в браузерах с искусственным интеллектом, включая Comet от Perplexity. По мере внедрения нейросетей для автоматизации пользовательских задач они способны создавать новые формы киберрисков.
ИИ-помощники включают непосредственно в процесс просмотра веб-страниц, что позволяет выполнять поиск, обобщение информации и даже онлайн-действия с помощью подсказок на естественном языке. С момента релиза Comet в июле другие компании, среди которых OpenAI, The Browser Company и Fellou AI, последовали примеру и выпустили аналогичные продукты. Крупные платформы, такие как Chrome и Edge, тоже объявили о планах добавить функции на основе нейросетей.
Меж тем эксперты SquareX полагают, что текущая архитектура браузеров может ещё не учитывать возникающие проблемы безопасности. Так, злоумышленники могут:
- обмануть языковые модели с помощью фишинга или атак на основе OAuth, которые запрашивают избыточные разрешения доступа;
- встроить скрытые инструкции в доверенные приложения: SharePoint или OneDrive;
- направить ИИ-браузеры на загрузку замаскированного вредоноса посредством манипуляции результатами поиска;
- использовать легитимные бизнес-инструменты для отправки несанкционированных команд, взаимодействуя с искусственным интеллектом.
Исследователи SquareX подчеркнули необходимость сотрудничества между разработчиками браузеров, компаниями и поставщиками ИБ-решений. Поскольку возможности нейросетей становятся стандартной частью веб-браузинга, непосредственное внедрение средств обеспечения кибербезопасности в эти системы будет иметь решающее значение для предотвращения непреднамеренного раскрытия конфиденциальных данных.
Усам Оздемиров
