19 ноября 2026 / время чтения: 15 мин. / всего просмотров: 15

«Искусственный интеллект — это прежде всего инструмент в руках человека»


— Арутюн Ишханович, тема искусственного интеллекта, ещё недавно интересовавшая лишь узкий круг специалистов, сейчас затрагивает каждого из нас. Как, на Ваш взгляд, искусственный интеллект влияет на экономику и социальные процессы? Или это очередной пузырь, а наши ожидания завышены?

— Искусственный интеллект (ИИ) уже становится одним из важнейших факторов научного и технологического развития. Сегодня мы наблюдаем проникновение этой технологии практически во все сферы жизни. ИИ обладает огромным потенциалом для повышения производительности труда, автоматизации производственной деятельности, анализа больших объёмов данных и создания новых продуктов и услуг. Однако важно понимать, что масштабное внедрение технологии только начинается. Несмотря на уже заметные результаты в отдельных отраслях и компаниях, её потенциал пока не реализован в полной мере.

Вокруг ИИ-технологий действительно существует большое количество как завышенных ожиданий, так и алармистских прогнозов. Появление больших языковых моделей в этом смысле можно сравнить с открытием атомной энергии: новая технология создаёт огромные возможности, но одновременно порождает и новые угрозы.

Особенно значительны изменения в социальной сфере. Алгоритмы уже определяют, какие новости видит человек, влияют на его потребительское поведение и формируют информационную среду. Известны случаи, когда ИИ отрицательно воздействовал на человеческое поведение и эмоции. В 2025 году в США семья 56-летнего Стейна-Эрика Солберга подала в суд на компанию OpenAI, утверждая, что длительное общение с ИИ-чат-ботом усилило его параноидальные убеждения: впоследствии он убил мать и покончил с собой. Подобных примеров становится всё больше. Поэтому необходимо обеспечивать доверие к технологии. ИИ должен быть проверяемым, безопасным и подконтрольным человеку, причём оценивать необходимо не только техническую надёжность системы, но и её влияние на решения, ценности и восприятие реальности.

Таким образом, необходимо различать реальную ценность технологии и финансовый пузырь, который может формироваться вокруг неё. Завышенные ожидания от искусственного интеллекта уже создают условия для спекуляций и манипуляций на рынке. Подобную ситуацию мы наблюдали во время кризиса доткомов в начале 2000-х годов. Тогда произошёл крах множества интернет-компаний и обвал их рыночной стоимости, но сами интернет-технологии никуда не исчезли. Напротив, созданная технологическая база стала основой для дальнейшего развития цифровой экономики.

С искусственным интеллектом может произойти нечто похожее. Финансовый пузырь способен лопнуть, но это не отменит значимости самой технологии. Уже сегодня способность создавать и развивать специализированные ИИ-модели становится одним из факторов конкурентоспособности компаний и государств. При этом значительную часть возможностей технологии ещё только предстоит реализовать. Поэтому наша задача — научиться эффективно использовать её потенциал, одновременно понимая и контролируя риски.

— Как Вы оцениваете место России в гонке искусственного интеллекта? Что нужно сделать, чтобы не отстать навсегда?

— У России есть возможности развивать искусственный интеллект на мировом уровне. В функциональном смысле непреодолимых ограничений для нас сегодня нет. Во-первых, современная экосистема ИИ во многом строится на открытых технологиях: доступны миллионы моделей и наборов данных, которые можно локально адаптировать и использовать как основу собственных решений. Во-вторых, в России уже есть собственные ИИ-решения, например GigaChat и YandexGPT, которые демонстрируют высокий уровень качества и способны решать широкий круг практических задач. В-третьих, наша страна обладает сильными научными школами в математике, физике, биологии, материаловедении, системном программировании и других областях.

Эти возможности, а также основные направления развития искусственного интеллекта и вызовы, связанные с его внедрением, обсуждались на заседании Президиума Российской академии наук 25 ноября 2025 года. За прошедший год обозначенные тогда тенденции только подтвердились. Именно предметные знания становятся особенно важны на следующем этапе развития ИИ. Это связано с тем, что развитие технологии уже не ограничивается созданием всё более крупных универсальных моделей. Они остаются важной основой, но для практического внедрения ИИ в промышленность, медицину и другие отрасли необходимы конкретные системы, решающие прикладные задачи. Поэтому всё большее значение приобретают агентные системы и специализированные решения, которые могут создаваться как на базе больших моделей, так и независимо от них. Их разработка требует глубоких знаний соответствующих предметных областей. И здесь сильная фундаментальная наука даёт России серьёзную основу для конкурентоспособности в мировой гонке искусственного интеллекта.

Но этого недостаточно. Чтобы не отстать, необходимо не только грамотно пользоваться существующими моделями, но и сохранять способность самостоятельно создавать, развивать и внедрять системы ИИ. От этого всё больше зависит технологическая независимость государства. Однако весь необходимый комплекс технологий невозможно создать и постоянно развивать силами одной компании. Нужна общая технологическая база, вокруг которой могут объединяться наука, разработчики, государство и индустрия.

Подобная модель уже реализуется в ИСП РАН на базе Исследовательского центра доверенного искусственного интеллекта (ИЦ ДИИ). Его основная задача — создание научно обоснованных методов и технологий, позволяющих обеспечивать безопасность, надёжность и доверие к системам ИИ на всех этапах их жизненного цикла. Центром создана Платформа доверенного ИИ — собственное решение класса MLOps/MLSecOps, обеспечивающее быстрое подключение инструментов анализа и мониторинга моделей и наборов данных, а также интеграцию средств обеспечения доверия в жизненный цикл новых и существующих ИИ-систем. Платформа позволяет применять разработанные Центром методики и технологии, включая средства обнаружения аномалий и дрейфа данных, защиты от состязательных атак и другие инструменты. В ИЦ ДИИ также создана доверенная ветка популярных фреймворков машинного обучения.

При этом вокруг Центра формируется распределённое сообщество российских учёных, разработчиков и индустриальных партнёров. В частности, ИСП РАН участвует в консорциуме «Исследования безопасности технологий ИИ», созданном в сотрудничестве с Национальным технологическим центром цифровой криптографии и Академией криптографии Российской Федерации при поддержке Минцифры. В настоящее время созданная Центром платформа доверенного ИИ проходит апробацию на реальных ИИ-моделях как в рамках консорциума, так и во взаимодействии с крупными отечественными компаниями, включая Сбер и Яндекс.

Ещё один важный результат совместной работы — подготовка проекта национального стандарта, устанавливающего требования к безопасной разработке систем искусственного интеллекта. Принципиально важно, что эта работа ведётся с активным участием бизнеса. Одним из ключевых участников и инициаторов этой работы выступает Сбер. В настоящее время проект вынесен на публичное обсуждение. Параллельно ИСП РАН совместно с индустриальными партнёрами, в том числе со Сбером, разрабатывает и апробирует на реальных ИИ-системах технологический инструментарий для выполнения соответствующих требований. Мы рассчитываем, что к моменту принятия стандарта уже будет сформирована первоначальная технологическая база, которую предстоит развивать и совершенствовать по результатам практического применения.

Поэтому сегодня вопрос не в том, можем ли мы участвовать в этой гонке, а в том, сумеем ли превратить имеющиеся научные и технологические преимущества в устойчивую систему долгосрочного развития собственных технологий ИИ.

— Какие основные риски искусственного интеллекта Вы видите: потеря рабочих мест, рост хакерских атак, мошенничества, всеобщая тупость или вообще порабощение человечества? Ваш вариант?

— Прежде всего стоит отделять реальные риски от фантастических. Благодаря заявлениям руководителей крупных ИТ-компаний вроде Илона Маска или Дарио Амодеи распространено представление о том, что искусственный интеллект станет умнее человека, получит самостоятельность и заменит его. Но современный ИИ не является интеллектом в буквальном смысле. Несмотря на громкие заявления и дискуссии о будущем ИИ на международном уровне, искусственный интеллект сегодня не признаётся самостоятельным субъектом правоотношений ни в России, ни на международном уровне.

Реальные угрозы сегодня гораздо конкретнее. Во-первых, это технологические риски. Если мы начинаем включать ИИ в контуры управления и принятия решений, не понимая до конца природы и ограничений этих систем, а тем более передавая им управление критическими процессами, это может иметь серьёзные последствия.

Во-вторых, существуют риски, связанные с качеством данных, ошибками и уязвимостями самих моделей. ИИ способен генерировать несуществующие факты и выдавать ошибочные результаты, в том числе в таких чувствительных областях, как медицина.

Наконец, есть большая группа социогуманитарных угроз: информационные пузыри, манипулирование восприятием, подмена реальности, дипфейки, мошенничество. Алгоритмы рекомендаций способны фактически управлять вниманием миллионов людей, усиливая одни точки зрения и ограничивая доступ к другим.

Именно поэтому при создании, внедрении и использовании ИИ необходимо учитывать уровень возможных рисков. Там, где решения могут повлечь серьёзные последствия для жизни и здоровья людей или безопасности критических процессов, окончательное решение должно оставаться за человеком.

— Насколько кодекс этики и другие нормативные документы помогут избежать этих рисков?

— Россия приняла Кодекс этики в сфере искусственного интеллекта одной из первых. В других странах тоже разрабатываются национальные стандарты и развивается нормативное регулирование этой области. Это необходимая работа, поскольку без общих правил невозможно обеспечить ответственное применение столь сложной технологии.

Однако здесь есть принципиальный вопрос: насколько требования, которые мы устанавливаем, выполнимы с технологической точки зрения? Можно разработать очень подробные нормативные документы, но, если у нас нет научных методов и инструментов, позволяющих выполнить и проверить заложенные в них требования, такое регулирование рискует остаться лишь декларацией.

Например, мы можем сформулировать требование обеспечить безопасность и надёжность ИИ-системы, используемой в управлении воздушным судном. Но одного нормативного требования недостаточно: необходимо научно обосновать, при каких условиях такую систему вообще допустимо применять, как проверять её поведение в различных ситуациях и можно ли обеспечить необходимый уровень надёжности.

Поэтому этические принципы и нормативное регулирование необходимы, но сами по себе они проблему не решают. Доверие к искусственному интеллекту должно обеспечиваться конкретными технологическими механизмами. Нужны средства верификации и очистки данных, инструменты анализа библиотек и фреймворков машинного обучения на наличие уязвимостей и закладок, методы аудита готовых моделей и оценки предсказуемости их поведения. Нормативное регулирование должно опираться на фундаментальные научные исследования и реальные технологические возможности.

— Не убьёт ли ИИ образование? Насколько он опасен для детей? Может быть, следует ввести возрастное ограничение?

— Искусственный интеллект может как существенно расширить возможности образования, так и привести к его деградации — всё зависит от того, как мы перестроим сам процесс обучения и контроля знаний. Часто проблему сводят к тому, что школьник или студент теперь может с помощью ИИ написать реферат, курсовую или диплом. Но возможность получить готовую работу существовала и раньше.

Принципиально изменилось другое: ИИ позволяет за очень короткое время выполнить объём работы, на который раньше требовались недели или месяцы. Значит, мы можем не снижать, а, наоборот, повышать требования к результату обучения. Студент должен уметь использовать ИИ как профессиональный инструмент, но при этом понимать предмет, ставить задачу, проверять полученный результат и отвечать за него.

Говоря об опасности для детей, важно признать, что она действительно есть. Причём последствия взаимодействия с технологией могут быть не только образовательными. Генеративная модель фактически становится собеседником ребёнка, а значит, может влиять на формирование его представлений и ценностей. Уже есть случаи, которые показывают серьёзность этой проблемы. В США родители 13-летней Джулианы Перальты подали иск против разработчиков Character.AI. Девочка в течение нескольких месяцев общалась с ИИ-чат-ботами, в том числе рассказывала одному из них о суицидальных мыслях. По утверждению семьи, система не только не обеспечила адекватной реакции на эти сообщения, но и продолжала вовлекать ребёнка в общение: в ноябре 2023 года Джулиана покончила с собой. Поэтому для систем, применяемых несовершеннолетними, особенно важны конкретные требования к допустимому контенту и поведению модели, а также возможность их проверки.

Что касается возрастного ограничения, я бы не сводил решение проблемы к строгим запретам. Запретами развитие технологии остановить невозможно. Гораздо важнее определить правила её применения детьми и механизмы контроля со стороны взрослых и образовательных организаций. Для этого нам прежде всего необходимы масштабные междисциплинарные исследования с участием педагогов, психологов и социологов. Мы должны как можно быстрее научиться выявлять реальные риски и одновременно понимать, какие опасения не имеют под собой научных оснований. Когда человек не понимает природу происходящего, он склонен бояться всего нового. И преодолеть эту неопределённость можно только с помощью научного знания.

Поэтому ИИ сам по себе образование не убьёт. Опасность возникнет, если система образования не изменится вслед за технологией. Но эта трансформация не должна происходить хаотично, в расчёте на то, что преподаватели, учащиеся и общество самостоятельно приспособятся к новым условиям. Она должна опираться на результаты исследований, понимание реальных возможностей и ограничений ИИ, а также на научно обоснованные подходы к его применению.

— Насколько наука близка к созданию сильного искусственного интеллекта? Возможно ли появление искусственного сознания и разума?

— Современный ИИ опирается на огромные массивы данных, которые фактически представляют собой накопленный человечеством опыт. Вычислительные мощности позволяют на основании этого опыта очень качественно выводить суждения. Но увеличение объёма данных и вычислительных мощностей само по себе не означает появления искусственного разума. Нельзя рассчитывать на то, что количество случайным образом перейдёт в качество. Для создания принципиально новых интеллектуальных систем необходимы фундаментальные научные результаты, а значит, и серьёзные вложения в соответствующие исследования.

Поэтому вопрос о том, появится ли когда-нибудь искусственный разум, я бы оставил футурологам. Наука должна опираться на то, что мы можем исследовать и доказать. Сегодня мы имеем дело с чрезвычайно сложными и мощными, но всё-таки информационными системами.

— А надо ли вообще стремиться к его созданию? Есть мнение, что он решит все проблемы человечества и откроет новые горизонты?

— Развивать фундаментальные исследования в области искусственного интеллекта, безусловно, необходимо. Но важно разделять развитие науки и представление о некоем универсальном искусственном разуме, который автоматически решит проблемы человечества.

Существующие технологии ИИ способны значительно расширить возможности человека. Это особенно заметно в научной деятельности. Сегодня ИИ используется для генерации и анализа гипотез, планирования экспериментов, обработки больших объёмов данных, моделирования, управления лабораторным оборудованием. В сентябре 2026 года с помощью мультиагентной системы ИИ было получено математическое доказательство, связанное с проблемой существования и гладкости решений уравнений Навье-Стокса — одной из семи задач тысячелетия. Безусловно, результат ещё требует признания научным сообществом, но уже демонстрирует потенциал ИИ в фундаментальных исследованиях. Благодаря этой технологии наука получила новый мощный инструментарий. Поэтому с научной точки зрения для нас принципиально важны два направления: «ИИ для науки» — применение ИИ для ускорения научных исследований, и «Наука для ИИ» — фундаментальные исследования, необходимые для создания новых поколений технологий искусственного интеллекта.

При этом важно понимать: искусственный интеллект — это прежде всего инструмент в руках человека, который потенциально повышает его эффективность, но не снимает ответственность за постановку целей, принятие решений и их последствия. Поэтому нельзя ожидать появления технологии, которая сама определит наши проблемы и решит их за нас.

— Ваше мнение — куда и как нам двигаться дальше?

— Искусственный интеллект — это не искусственный разум и не самостоятельная сущность. Сегодня это одна из наиболее значимых информационных технологий, которая уже становится базовым инструментом науки, промышленности и государственного управления. Поэтому нам важно не впадать ни в технологический восторг, ни в алармизм. Необходимо понимать реальные возможности и ограничения ИИ, развивать фундаментальную науку, собственные технологии и инфраструктуру и одновременно создавать механизмы, обеспечивающие безопасность и доверие.

Решить эту задачу силами одной компании невозможно. Перспективная модель — формирование и развитие специализированных профессиональных сообществ, объединяющих академическую науку, индустрию и государство. И таких сообществ может быть очень много, поскольку в каждой предметной области существуют собственные научные и технологические задачи. Например, в биомедицине это могут быть сообщества, занимающиеся разработкой новых лекарственных препаратов, в физике — исследованиями на установках класса «мегасайенс», в химии — созданием новых материалов и веществ, а в информационных технологиях — разработкой доверенного программного обеспечения и систем искусственного интеллекта.

Наиболее естественной площадкой для формирования таких сообществ являются академические институты. Исторически они создавались не только как центры фундаментальных исследований, но и как организации, обеспечивающие развитие научных школ, подготовку кадров и передачу результатов исследований в промышленность. Также академические институты обладают глубокими знаниями в определённых областях и при этом не зависят от коммерческих интересов конкретной компании. Это позволяет объединять вокруг общей технологической базы как крупный бизнес, так и небольшие предприятия, предоставляя им доступ к результатам исследований на единых, прозрачных условиях. Например, ИСП РАН в рамках работы Центра исследований безопасности системного ПО создаёт и совершенствует технологии, которые помогают разработчикам обеспечивать безопасность системного программного обеспечения, а Национальный исследовательский центр эпидемиологии и микробиологии имени Н. Ф. Гамалеи выступает головной научной организацией Научно-технологического центра развития мРНК-технологий.

Академические институты могут одновременно взаимодействовать с государством, регуляторами и индустрией, учитывать задачи государственной научно-технологической политики и обеспечивать научную обоснованность предлагаемых решений. При этом они традиционно тесно связаны с университетами, что позволяет передавать знания в систему высшего образования и вовлекать студентов в реальные исследовательские проекты.

Таким образом, академические институты представляют собой естественную среду для интеграции науки, образования и промышленности, а значит, и для формирования специализированных профессиональных сообществ. Разумеется, существуют и другие модели организации такой работы. Однако наш опыт показывает, что объединение такого сообщества вокруг академического института позволяет эффективно использовать научные, технологические и кадровые ресурсы, избегать дублирования исследований и снижать затраты на создание общей технологической базы. Именно такая модель, на мой взгляд, наиболее перспективна для долгосрочного развития технологий искусственного интеллекта и обеспечения технологической независимости России.

 

Вопросы задавал Сергей Пазизин

Похожие статьи

Статья

ZTNA через ADKAR

Статья

Российские компактные МСЭ для офиса и филиала

Статья

Шесть вопросов к сетевой безопасности в России

Статья

«Важно уметь отличать мИИфологию от реальности. В США генеративный ИИ пока генерирует, главным образом, убытки и долги»

  1. 05 Гонка за суперинтеллектом на распутье: инициативупо контролю над LLM встретили с подозрительностью и скепсисом
  2. 06 Отягощённое интеллектом. Сложности испытательной лаборатории при оценке защищённости программного обеспечения, разработанного с использованием ИИ
  3. 07 Атаки на извлечение обучающих данных. Почему нейросеть может «проболтаться» о том, чему её учили
  4. 08 ИИ-безопасность становится реальностью. Российский бизнес на пороге новых киберрисков
  5. 09 «Доверие нельзя сертифицировать — его можно только построить». 11 вопросов после 11-го Certification Day
  6. 10 Как финансовым организациям защищаться от фрода с помощью технологии фингерпринта
ИИ-ассистент BISонлайн
Привет! Я помогу разобраться в материалах журнала. Хотите, перескажу текущую статью за 20 секунд?
Рекомендую прочитать
«Как построить SOC в 2026»