OpenAI ищет того, кто сможет обуздать суперавтономный ИИ

OpenAI открыла вакансию исследователя безопасности ИИ — с зарплатой до 445 тысяч долларов в год. Соискатель должен проявить «тактическое и стратегическое мышление» и быть готовым работать со сценариями, которые ранее были лишь «предметом научной фантастики». 

Будущий сотрудник будет изучать риски рекурсивного самосовершенствования — когда ИИ‑модели окажутся способны самостоятельно создавать и обучать свои же более мощные версии (стремительное развитие ботов для программирования заметно повысило уровень автономности нейросетей, и подобные позиции, очевидно, скоро появятся у основных конкурентов OpenAI).

Также описание вакансии гласит: кандидату потребуется принимать решения в условиях высокой неопределённости с различными командами в структуре компании. Фактически вендор ищет не столько инженера, сколько эксперта, умеющего переводить абстрактные угрозы уровня «а что если» в конкретные технические меры.

Отдельно указано, что ИИ-безопаснику придётся оперативно собирать «грязные прототипы» и работать в условиях слабой обратной связи. То есть иметь дело с проблемами, для которых пока нет ни стандартов, ни проверенных практик.