Свыше 1100 исследователей, инженеров и предпринимателей подписали открытое письмо к ИИ-разработчикам с просьбой «выйти из опасной гонки» и «как минимум на полгода приостановить обучение ИИ-систем, более производительных, чем GPT-4».
Среди них, например, Илон Маск, Стив Возняк и сооснователи Skype, Pinterest и Ripple (конкурент Bitcoin и Ethereum) — Яан Таллинн, Эван Шарп и Крис Ларсен соответственно. Инициативу также поддержали сотрудники Google и Microsoft и учёные из Йельского, Оксфордского, Гарвардского, Кембриджского, Стэнфордского, Массачусетского технологического и других университетов.
По мнению подписантов, решения с интеллектом, «сопоставимым с человеческим, могут представлять серьёзную угрозу обществу и человечеству», но в последнее время все пытаются выпустить «всё более мощные модели, действия которых сами не могут до конца понять, предсказать и проконтролировать».
В обращении также говорится, что системы нужно создавать тогда, когда есть уверенность, что те будут полезны, а риски при этом управляемы. До тех пор имеет смысл доработать уже выпущенные продукты, чтобы сделать их точнее, безопаснее и прозрачнее. А если потребуется, то и подключить власти — чтобы они следили за утечками ИИ-моделей.
.png)