6 марта 2024 / время чтения: 2 мин. / всего просмотров: 99

Моррис-младший. Первый ИИ-червь, гений, миллиардер, плейбой, филантроп


Американо-израильская группа учёных из Cornell Tech рассказала о создании первого червя, способного автоматически распространяться между генеративными ИИ-агентами. Что в недалёкой перспективе порождает принципиально новый вид кибератак, осуществляемых в связанных, автономных экосистемах ИИ.

Нового червя назвали Morris II — в честь оригинального червя Morris, «прославившегося» в 1988 году. Он может использоваться в атаках на почтовые помощники на базе ИИ — с целью кражи информации из электронных писем и рассылки спама (нарушая при этом меры безопасности в системах крупных нейросетей).

Также исследователи указали на «враждебные самовоспроизводящиеся запросы», которые заставляют ИИ-модель в своём ответе генерировать новый запрос. Тесты были проведены на специально созданной почтовой системе, способной отправлять и получать сообщения с использованием генеративного ИИ, подключаясь к ChatGPT, Gemini и открытой LLM под названием LLaVA. В итоге были выявлены два способа эксплуатации системы: с использованием текстового самовоспроизводящегося запроса и посредством встраивания самовоспроизводящегося запроса в изображение.

Такого рода черви пока не были замечены в актуальных атаках, однако, кибербезопасники уверены, что это проблема самого ближайшего будущего. При этом способы защиты от «моррисов» уже существуют — например, обеспечение участия человека в процессе принятия решений ИИ-агентами.

Исследователи из Cornell Tech в свою очередь, уведомили OpenAI и Google о своём открытии.

Похожие новости

Новость

«Сетевая безопасность» уже через несколько дней!

Новость

Google — о скором дебюте полностью агентных атак

Новость

TrendAI: Хак-группы начнут пожирать друг друга

Новость

Безопасникам советуют сместить акцент на смягчение рисков

  1. 05 КБ: Компании осторожно относятся к Zero Trust
  2. 06 NCSC запускает тест на противодействие угрозам
  3. 07 Достижения Glasswing «не складываются в единую картину»
  4. 08 Меньше двух недель до «Сетевой безопасности 2026» — вся программа на сайте
  5. 09 Российский ИБ-рынок вырастет на 21% год к году
  6. 10 КИИ США заговорит на языке MITRE ATT&CK
ИИ-ассистент BISонлайн
Привет! Я помогу разобраться в материалах журнала. Хотите, перескажу текущую статью за 20 секунд?
Рекомендую прочитать
«Как построить SOC в 2026»