SquareX предупреждает о недостатках безопасности в ИИ-браузерах

В новом отчёте SquareX Labs указано на несколько уязвимостей архитектуры безопасности в браузерах с искусственным интеллектом, включая Comet от Perplexity. По мере внедрения нейросетей для автоматизации пользовательских задач они способны создавать новые формы киберрисков.

ИИ-помощники включают непосредственно в процесс просмотра веб-страниц, что позволяет выполнять поиск, обобщение информации и даже онлайн-действия с помощью подсказок на естественном языке. С момента релиза Comet в июле другие компании, среди которых OpenAI, The Browser Company и Fellou AI, последовали примеру и выпустили аналогичные продукты. Крупные платформы, такие как Chrome и Edge, тоже объявили о планах добавить функции на основе нейросетей.

Меж тем эксперты SquareX полагают, что текущая архитектура браузеров может ещё не учитывать возникающие проблемы безопасности. Так, злоумышленники могут:

• обмануть языковые модели с помощью фишинга или атак на основе OAuth, которые запрашивают избыточные разрешения доступа;
• встроить скрытые инструкции в доверенные приложения: SharePoint или OneDrive;
• направить ИИ-браузеры на загрузку замаскированного вредоноса посредством манипуляции результатами поиска;
• использовать легитимные бизнес-инструменты для отправки несанкционированных команд, взаимодействуя с искусственным интеллектом.

Исследователи SquareX подчеркнули необходимость сотрудничества между разработчиками браузеров, компаниями и поставщиками ИБ-решений. Поскольку возможности нейросетей становятся стандартной частью веб-браузинга, непосредственное внедрение средств обеспечения кибербезопасности в эти системы будет иметь решающее значение для предотвращения непреднамеренного раскрытия конфиденциальных данных.

Усам Оздемиров