Герман Греф заявил, что ИИ начинает работать «на пределе возможностей», если использовать «специальные инструкции». Например, убеждать нейросеть, что от выполнения задачи зависит жизнь пользователя, или даже угрожать ей.
Греф рассказал, что сейчас специалисты «Сбера» пробуют расширить возможности LLM, сохраняя контроль над ними. В частности пытаются настроить диалог самих моделей (без участия человека). Глава банка подчеркнул, что современные нейросети — в том числе в банкинге — становятся всё более автономными и «рассудительными»: в каждую встроен механизм «ризонинг», позволяющий отслеживать цепочку выводов и видеть, как робот меняет путь решения при возникновении ошибки.
Актуальный промпт‑инжиниринг, добавил Герман Греф, как раз и формирует условия для взаимодействия систем по принципу «машина — машина». В этом случае наиболее сильные аргументы отбирает крупная LLM и на их основе выдаёт итоговое решение.
И хотя, по словам главы «Сбера», ограничения мешают работе и развитию подобных инструментов, в банке не забывают о факторе кибербезопасности: в настоящее время «несколько тысяч» сотрудников занимаются созданием ИИ, а «около пятидесяти» — его анализом. Отставание в разработке от основных мировых вендоров Греф оценивает всего в «полгода — год».
