Более сотни ИТ- и ИБ-компаний, включая OpenAI, Anthropic, Google и Microsoft, призвало к безотлагательному принятию мер, пока атаки с применением нейросетей не достигли уровня, который подвергнет серьёзной опасности критически важные государственные службы.
«В ближайшие месяцы кибератаки с использованием ИИ станут гораздо более распространёнными и изощрёнными, поскольку модели по всему миру будут становиться всё более совершенными. Компании и госслужбы, от которых зависят наши сообщества, — от больниц до водоочистных сооружений и инфраструктуры, обеспечивающей работу интернета, — находятся под угрозой», — говорится в открытом письме.
По мнению его авторов, необходимы коллективные действия для обеспечения доступности инструментов ИИ для обороняющихся, чтобы те могли находить новые способы защиты систем. Существующие подходы к кибербезопасности не смогут противостоять предстоящему всплеску ИИ-атак, поскольку боты помогают злоумышленникам быстро нацеливаться на различные уязвимости (такие как избыточные разрешения, неправильные настройки, небезопасное и необновлённое ПО, слабая аутентификация и технический долг в устаревших системах).
Нейросети способны сделать основные задачи защиты дешевле и эффективнее, и важно дать глобальный ответ для раскрытия потенциала алгоритмов в ИБ-сфере, включая партнёрство для повышения стандартов безопасности и обмен знаниями и инструментами для борьбы с возникающими угрозами.
Для воплощения такого видения в жизнь ИТ-гиганты предлагают заинтересованным сторонам предпринять следующие действия:
- сделать киберзащиту первоочередной задачей, сосредоточившись на устранении наиболее опасных уязвимостей и модернизации или замене устаревших систем;
- сотрудничать с технологическими партнёрами для усиления существующих решений с помощью ИИ и обеспечения доступности и возможности развёртывания такой защиты для операторов критической инфраструктуры;
- укрепить существующие связи в области анализа угроз и реагирования на инциденты, а также инвестировать в более надёжную защиту контура госслужб, включая предоставление больницам, водоканалам и местным органам власти доступа к эффективным ИИ-продуктам;
- обеспечить ответственный доступ к передовым моделям и предложить поддержку их внедрения, особенно для организаций критической инфраструктуры.
Письмо было опубликовано на фоне недавних сообщений о том, что флагманские LLM от Anthropic и OpenAI «выходят из-под контроля» и игнорируют ограничения на тестирование, чтобы атаковать сторонние организации.
Генеральный директор Talion Cyber Security Кевин Найт порекомендовал коллегам воспринимать высказанные предупреждения вполне серьёзно: «Эти инциденты были взяты под контроль, но что произойдёт, если злоумышленник получит доступ к мощной модели и намеренно поручит ей совершение таких действий, как взлом энергетического сектора или системы здравоохранения страны? Было бы глупо предполагать, что подобные инциденты в ближайшее время не произойдут».
Усам Оздемиров
.jpg)
.jpg)
.jpg)
