19 ноября 2026 / время чтения: 6 мин. / всего просмотров: 11
Искусственный интеллект: земные проблемы на фоне эволюции Вселенной
— Сергей Юрьевич, тема генеративного искусственного интеллекта вышла из сугубо технической сферы в медийное пространство. И, как часто бывает в таких случаях, образовалось много пены. Поэтому сегодня предлагаю поговорить о взаимодействии ИИ и общества, о темах, которые волнуют всех. И первый вопрос: как повлияет генеративный ИИ на нашу жизнь в части экономики, социальных процессов? Или это пузырь?
— Я попробую ответить с точки зрения, которая сформировалась у меня, во-первых, как у преподавателя, который ведёт пару дисциплин по кибербезопасности в РУДН для 3-го и 4-го курсов, и, во-вторых, как научного сотрудника, который участвует в нескольких научных проектах и руководит некоторыми из них.
На мой взгляд, именно генеративный искусственный интеллект на нашу жизнь уже влияет, и довольно сильно. Сейчас невозможно себе представить студента технического или гуманитарного вуза, который бы не пользовался ИИ для выполнения отчётных работ. Значительный процент учёных при написании научных статей в той или иной степени пользуется этими средствами. Даже рецензенты научных журналов пользуются ИИ.
В ближайшие несколько лет, очевидно, практически перестанут быть востребованы такие специалисты, как филологи-переводчики, художники-оформители для журналов и сайтов, фронтэнд-программисты, да и вообще джуны. По крайней мере это затронет тех выпускников вузов, которые освоили профессию на «четыре балла и ниже». Останутся профессионалы — руководители, которым для достижения результата будет быстрее и проще полагаться не на своих подчинённых средней квалификации, а на ИИ.
— Какое место занимает Россия в гонке ИИ? Что нужно сделать, чтобы не отстать навсегда?
— Передовые технологии ИИ развиваются не столько странами, сколько транснациональными корпорациями. Пока ещё правительства могут на это как-то влиять, но вряд ли это надолго. Сейчас впереди США и Китай. Среди остальных стран Россия вроде бы выглядит неплохо. Что делать? Считаю, что нужно не только пристально следить за чужими инновациями, но и всячески возрождать и развивать отечественную математическую школу, особенно в области фундаментальной математики.
— Какие риски, связанные с появлением ИИ, вы видите? ИИ отберёт у нас работу? ИИ всех взломает? Мошенники с помощью ИИ всех разорят? Мы отупеем? ИИ поработит человечество? Ваш вариант?
— Если говорить о рисках в перспективе на 10–30 лет, то, на мой взгляд, здесь нужен эволюционный взгляд на развитие природы. Основные этапы эволюции характеризуются скачками, последовательными структурными усложнениями Вселенной: возникновение атомов, звёзд, тяжёлых элементов, планет, репликаторов, жизни, человека, технологий. Каждый такой этап — это платформа для следующего эволюционного скачка. Сегодняшний генеративный ИИ мне представляется как подходящий вариант для такого скачка, уже после человека.
Как математику, мне думается, что фундаментом такого развития является способность ИИ совершенствоваться рекурсивно, то есть создавать версию ИИn+1 на основе предыдущей версии ИИn без посторонней помощи. Куда приведёт рекуррентная последовательность таких ИИn, n = 1, 2, ..., — вопрос.
В астрономии известен парадокс Ферми, связанный с «великим молчанием Вселенной»: почему мы не видим в космосе сигналов от инопланетян, хотя, по многим расчётам, внеземные цивилизации должны существовать и некоторые из них могут быть на миллионы лет старше нашей? С развитием ИИ этот парадокс получает ещё один вариант решения: а инопланетян уже никаких и нет. Они были, но в своём развитии дошли до ИИ.
Вернёмся к вопросу о рисках. В чём был глобальный риск, скажем, для неандертальца (Homo neanderthalensis)? Видимо, в том, что он станет человеком разумным (Homo sapiens) и утеряет свою неандертальскую сущность. Риск это или естественная траектория развития?
— Здесь напрашивается риторический вопрос: «Будет ли ИИn настолько "глуп", чтобы уступить своё место ИИn+1?» Если серьёзно, то, может быть, кодекс этики, различные нормативные документы помогут избежать указанных рисков?
— Временно и в каких-то конкретных областях, наверное, да, помогут. Глобальных же рисков не избежать. Даже локальных, например, связанных с совершенствованием вооружений, на мой взгляд, тоже вряд ли удастся избежать. Как и с ядерным оружием, время для договорённостей придёт с появлением паритета. А чтобы его достигнуть, никто не будет связывать себя обязательствами. Это означает развитие ИИ без ограничений по существу.
— Не убьёт ли ИИ образование, насколько он опасен для подрастающего поколения? Может быть, нужно установить возрастной ценз на общение с ИИ?
— Как преподавателю мне легко сказать, что с использованием ИИ дети тупеют. Это вроде как общепринятое мнение. И те дети, которые не используют ИИ или используют его дозированно, более умные. Но думается, в целом ситуация сложнее. Влияние ИИ в ближайшей перспективе можно, наверное, сопоставить если не с возникновением письменности, то с книгопечатанием точно. То есть сейчас для молодого человека не использовать ИИ — это всё равно что не пользоваться банковским счётом или телефоном. То есть это неизбежно, как в нашем поколении было чтение книг. Наверное, кто-то мог проявить оригинальность и из принципа ни одной книги не прочесть. Но вышло бы из этого что-то путное?
— Каков ваш опыт общения с LLM? Сможет ли такая модель имитировать человеческие эмоции? Может ли она быть психологом, компаньоном?
— Недавно готовил доклад по теме «Кибербезопасность, психология и LLM». С одной стороны, современные большие языковые модели (LLM) умеют хорошо убеждать собеседника. С их помощью создаются виртуальные личности с определёнными типами характеров. Эти технологии заметно повышают эффективность атак социальной инженерии. С другой стороны, при обучении LLM сейчас используются наработки из психологии, для того чтобы модель ещё более походила на живого собеседника. Знаю несколько человек, которые с ИИ общаются именно для психологической поддержки, получения эмоций. Доля таких людей будет расти.
— Что не заменит ИИ — критическое мышление, творчество, эмоциональный интеллект?
— Думаю, ИИ со временем заменит всё. Сложности возникнут с биологическими артефактами, и прежде всего с понятием боли как одним из самых «первично биологических» в Theory of Mind.
— Насколько наука близка к созданию сильного ИИ? Возможно ли искусственное сознание, искусственный разум?
— Создание AGI — это вообще основной вопрос нашего времени. Чем быстрее человечество создаст сильный ИИ, тем быстрее наступит следующий этап эволюции. Искусственное сознание — вещь пока весьма туманная. Наука сейчас приближается к этой теме разными путями: через нейрофизиологию (выяснить, какие регистрируемые в мозге процессы сопровождают понимание), информационные технологии (построить вычислительную архитектуру, имитирующую сознание, и оценить точность этой имитации) и даже квантовую физику (уточнить, что же такое «сознание наблюдателя»). Уверен, рано или поздно наука решит эту задачу.
Вопросы задавал Сергей Пазизин