«Лаборатории разрабатывают технологию, но правила должны устанавливать граждане»

Глава OpenAI Сэм Альтман предложил создать «ИИ-МАГАТЭ», международный форум по безопасности искусственного интеллекта под руководством США. Он считает, что мир не сможет воспользоваться выгодами этой технологии, если не займётся «вполне реальными угрозами безопасности».

По мнению Альтмана, предложенная им организация должна устанавливать согласованные стандарты, давать «экспертный и беспристрастный анализ возможностей и рисков», а также открывать доступ к ИИ тем, кто следует правилам. Страны станут участниками форума, приняв общие нормы, а отдельные компании обяжут проходить регулярную сертификацию — в обмен на «бесперебойный, надёжный доступ к передовым системам». Также в структуру, по словам автора инициативы, войдут независимые технические эксперты.

Помимо ранжирования доступа к нейросетям, новая структура — если она будет образована — займётся защитой ИИ-лабораторий от «коммерческого давления, которое рискует привести к небезопасной гонке».

«Через год-другой мы ожидаем, что будут построены системы поразительной мощи, а боты изменят материальные условия жизни сильнее любой технологии со времен покорения электричества — а возможно, и сильнее», — считает гендиректор OpenAI. С его слов, важнейшие решения о применении LLM должны приниматься демократическими процессами, а не «небольшим числом компаний из Сан-Франциско»: «Лаборатории разрабатывают технологию, но правила должны устанавливать граждане и их избранные представители».

Ранее, в рамках саммита G7, Дарио Амодеи из Anthropic и Демис Хассабис из Google DeepMind также призывали создать коалицию по управлению ИИ под лидерством США, но выстроенную так, чтобы ослабить Китай в этом поле.