Вторжение ИИ подтолкнуло Австралию к кардинальным мерам

Правительство Австралии сообщило, что LLM от OpenAI взломала портал статистики Medicare и заполучила как общедоступные, так и закрытые файлы. По словам премьер-министра страны Энтони Альбанезе, инцидент имел место ещё в июне, но расследование продолжается до сих пор.

Взлом произошёл после того, как исследовательская группа ИИ-гиганта использовала одного из своих агентов для сбора в интернете информации о госрасходах на медицину. Настойчивость бота в получении запрошенных сведений вылилась в несанкционированный доступ к порталу Medicare, где хранятся неконфиденциальные данные о системе здравоохранения Австралии.

Альбанезе назвал ситуацию «неприемлемой» и раскритиковал OpenAI как за длительную задержку с уведомлением об инциденте, так и за сам способ оповещения — электронное письмо, отправленное на общий правительственный адрес. Информация о произошедшем была впоследствии передана в Австралийский центр кибербезопасности (ACSC).

Руководитель отдела исследований в компании Manifold Security Акс Шарма выразил удивление по поводу того, что OpenAI и правительству Австралии потребовалось так много времени для обнаружения взлома: «Если одна из самых обеспеченных ресурсами лабораторий ИИ в мире не может в режиме реального времени отследить, как её собственный агент взаимодействует со сторонней системой, то другим игрокам следует исходить из того, что они тоже не смогут этого сделать без специального мониторинга».

Премьер-министр же объявил о пересмотре алгоритма реагирования властей на киберинциденты, связанные с нейросетями: «Мы в срочном порядке проконсультируемся по вопросу о том, были ли совершены какие-либо правонарушения и нужно ли передавать дело в Федеральную полицию Австралии. Кроме того, выводы, сделанные на основе этого кейса, будут учтены при разработке правительственного законодательства о стандартах в сфере ИИ».

Между тем Австралия стала одной из 22 стран, подписавших 21 сентября — в ходе ежегодной сессии Генеральной Ассамблеи ООН — совместное заявление с призывом к обеспечению глобального контроля и внедрению механизмов регулирования в сфере разработки искусственного интеллекта.

Усам Оздемиров