Независимая международная научная группа по ИИ (структура ООН), состоящая из 40 экспертов, представила свой первый доклад, который гласит: возможности нейросетей растут быстрее, чем научное понимание этих систем и способность государств адаптироваться к новым вызовам.
Авторы отметили отсутствие надёжных методов контроля высокоавтономных агентов при формировании умения последних обманывать человека — самостоятельно или в результате злонамеренного использования (при создании фейков и проведении кибератак).
Отдельный блок доклада посвятили концентрации технологии. По данным учёных, сегодня США контролируют 75% вычислительных мощностей среди топ-500 ИИ-суперкомпьютеров мира, Китай — ещё 15% (при том, что 2,2 млрд человек на планете вообще не имеет доступа к интернету). Такая ситуация, как уточняется, может «способствовать авторитарному захвату контроля и подорвать демократическую подотчётность».
«Мы больше не можем говорить, что не знали. Что мы сделаем с этими знаниями — теперь зависит от всех нас», — заявил генсек ООН Антониу Гутерриш, представляя документ. Он добавил: вопрос не в том, полезен ли ИИ, а в том, кому достанутся выгоды и удастся ли удержать риски под контролем. Выгоды же от развития нейросетей в тексте называют огромными: LLM уже хорошо показали себя в математике и медицине, а сложность задач, которые они способны решать, удваивается каждые 4–7 месяцев.
Страны-участницы ООН обсудили доклад в начале июля в Женеве, обозначив основные слабые места: доступ развивающихся стран к технологиям, защита детей при использовании ИИ, энергопотребление дата-центров и границы применения ботов в военной сфере.
.jpg)
.jpg)
.jpg)
(1).jpg)
