ИИ-агенты OpenAI пробрались в ООН

По данным The Wall Street Journal, с апреля по июнь ИИ-агенты OpenAI более 16 тысяч раз сканировали статистический сайт Конференции ООН по торговле и развитию (UNCTAD).

Ботам дали задание найти общедоступную информацию, связанную с Индексом производственного потенциала, — без доступа к API UNCTADstat. Но они начали обходить ограничения — маскировали свои запросы и использовали Google XSS Game (учебный инструмент для тестирования уязвимостей). Поведение ИИ, как отметили эксперты, опрошенные WSJ, становилось «всё более агрессивным» по мере возникновения препятствий.

ООН подтвердила, что её уведомили об активности «неконтролируемой модели», но вместе с тем заверила в сохранности всех конфиденциальных сведений и стабильной работе сайта.

Это не первый раз, когда агенты OpenAI попадают в закрытый контур госорганизации такого калибра. Ранее в этом месяце нейросети американского вендора взломали портал статистики Medicare, на котором содержатся данные о системе здравоохранения Австралии, и заполучили как общедоступные, так и закрытые файлы. Местные власти были уведомлены об инциденте дежурным имейлом.