Техгиганты призвали усилить контроль над передовыми LLM

Более сотни ИТ- и ИБ-компаний, включая OpenAI, Anthropic, Google и Microsoft, призвало к безотлагательному принятию мер, пока атаки с применением нейросетей не достигли уровня, который подвергнет серьёзной опасности критически важные государственные службы.

«В ближайшие месяцы кибератаки с использованием ИИ станут гораздо более распространёнными и изощрёнными, поскольку модели по всему миру будут становиться всё более совершенными. Компании и госслужбы, от которых зависят наши сообщества, — от больниц до водоочистных сооружений и инфраструктуры, обеспечивающей работу интернета, — находятся под угрозой», — говорится в открытом письме.

По мнению его авторов, необходимы коллективные действия для обеспечения доступности инструментов ИИ для обороняющихся, чтобы те могли находить новые способы защиты систем. Существующие подходы к кибербезопасности не смогут противостоять предстоящему всплеску ИИ-атак, поскольку боты помогают злоумышленникам быстро нацеливаться на различные уязвимости (такие как избыточные разрешения, неправильные настройки, небезопасное и необновлённое ПО, слабая аутентификация и технический долг в устаревших системах).

Нейросети способны сделать основные задачи защиты дешевле и эффективнее, и важно дать глобальный ответ для раскрытия потенциала алгоритмов в ИБ-сфере, включая партнёрство для повышения стандартов безопасности и обмен знаниями и инструментами для борьбы с возникающими угрозами.

Для воплощения такого видения в жизнь ИТ-гиганты предлагают заинтересованным сторонам предпринять следующие действия:

• сделать киберзащиту первоочередной задачей, сосредоточившись на устранении наиболее опасных уязвимостей и модернизации или замене устаревших систем;
• сотрудничать с технологическими партнёрами для усиления существующих решений с помощью ИИ и обеспечения доступности и возможности развёртывания такой защиты для операторов критической инфраструктуры;
• укрепить существующие связи в области анализа угроз и реагирования на инциденты, а также инвестировать в более надёжную защиту контура госслужб, включая предоставление больницам, водоканалам и местным органам власти доступа к эффективным ИИ-продуктам;
• обеспечить ответственный доступ к передовым моделям и предложить поддержку их внедрения, особенно для организаций критической инфраструктуры.

Письмо было опубликовано на фоне недавних сообщений о том, что флагманские LLM от Anthropic и OpenAI «выходят из-под контроля» и игнорируют ограничения на тестирование, чтобы атаковать сторонние организации.

Генеральный директор Talion Cyber ​​Security Кевин Найт порекомендовал коллегам воспринимать высказанные предупреждения вполне серьёзно: «Эти инциденты были взяты под контроль, но что произойдёт, если злоумышленник получит доступ к мощной модели и намеренно поручит ей совершение таких действий, как взлом энергетического сектора или системы здравоохранения страны? Было бы глупо предполагать, что подобные инциденты в ближайшее время не произойдут».

Усам Оздемиров