«Пора заменить расшифровку аббревиатуры LLM на Logic-Linguistic Model»

«Пора заменить расшифровку аббревиатуры LLM на Logic-Linguistic Model»

Сегодня даже среди учёных и специалистов в области ИИ нет единого мнения, что такое искусственный интеллект. Определение подменяется различными прилагательными: слабый, узкий, сильный, универсальный, общий, генеративный (GenAI). По моему мнению, необходимо отличать понятие «искусственный интеллект» в смысле имитации поведения и свойств человека, а также компьютерной реализации его когнитивных способностей и возможностей, от понятия «прикладной искусственный интеллект», которое подразумевает прагматические аспекты применения технологий ИИ для решения прикладных задач (рис. 1).

Рис. 1. Разновидности искусственного интеллекта

ИИ и безопасность: объективность или управление?

Сильный ИИ аккумулирует работы по всем направлениям, относящимся к различным вариантам узкого ИИ, решающего конкретные задачи. Конечно, новый скачок в создании сильного ИИ стал возможен благодаря технологиям, которые позволяют обучать нейронную сеть на неразмеченном тексте. На первый взгляд, потрясающий прорыв очевиден: аккумулируя всю совокупность знаний интернет-ресурсов, сильный ИИ становится эрудитом, способным правдоподобно ответить на любой вопрос и решить с допустимой степенью точности любую задачу. Но за всеми этими успехами, которые греют душу и будоражат естественный интеллект учёных, скрываются угрозы, которые уже сейчас начинают осознаваться, — посягательство на психологическую, когнитивную, эмоциональную, интеллектуальную, социальную безопасность. Первый закон робототехники должен рассматриваться сегодня шире, чем во времена, когда об этом размышлял Айзек Азимов, и формализация понятия «вред человеку» должна охватывать все аспекты, а не ограничиваться нанесением физического ущерба.

Нейронная сеть может обучаться на заведомо ложной информации, имеющей определённое целевое назначение. И распознать заложенную в ИИ модель мира, поведения, принятия решений гораздо сложнее, чем её создать. Скажем, ресурс «Википедия» на английском, китайском или русском языке так или иначе задаёт свою модель мира, связанную с национальными ценностями, чертами характера, интерпретацией исторических событий, культурой и языковыми особенностями. Вряд ли можно рассчитывать когда-нибудь создать универсальный сильный ИИ: с ним произойдёт то же самое, что и с попыткой создания универсального языка Эсперанто.

Сильный ИИ может быть объектом и инструментом управления. Отсюда, собственно, вытекают все проблемы, связанные с реализацией объяснительной функции LLM. И в этом смысле уже  важны не столько миллиарды и триллионы словесных токенов, которыми оперирует LLM, сколько та картина мира, которые они формируют в представлении пользователя большой языковой модели. А значит, на повестке дня два больших вопроса: первый — сосуществование/конкуренция/противостояние на глобальном уровне национальных сильных LLM. Второй — системный подход к созданию модели мира, на базе которой функционируют лидирующие LLM. 

Малообразованные, хотя и большие LLM

Большая языковая модель не оперирует системой знаний. Она оперирует сверхбольшим объёмом информации, достоверность, актуальность, непротиворечивость которой может быть под вопросом. Можно сказать, что нынешняя LLM — это «невоспитанная» модель с ворохом несистемных знаний обо всём на свете, и ей, действительно, ещё нужно дать «образование» и «воспитание», привести в соответствие накопленную информацию. Более того, отсутствие системного подхода — это как раз та самая проблема, которая не даёт говорить о знаниях больших языковых моделей, потому что знание — системно. Нужна структура знаний, механизмы разделения знаний и данных, инструменты проверки истинности и определения прагматики знаний в рамках заданной модели мира, нужны механизмы интерпретации знаний. В общем, необходим формальный системный подход к представлению знаний.

Надо сказать, что соответствующие исследования на высоком международном уровне шли в нашей стране ещё в 80-х годах прошлого века: разработки логико-лингвистических моделей для создания интеллектуальных систем связаны в первую очередь с именами двух выдающихся советских учёных — д. т. н. Д. А. Поспелова и академика Г. С. Поспелова, которые фактически стояли у истоков ИИ в нашей стране. В силу известных причин работы по формальному подходу к представлению знаний, созданию баз знаний и онтологий затормозились, и к началу XXI века системы, в которых был реализован логико-лингвистический подход, стали классифицироваться как символьные системы, основанные на правилах, причём для представления знаний в основном рассматривались продукционные модели. Надо с сожалением отметить, что такая узкая интерпретация логико-лингвистических моделей оказала вред всему направлению отечественного ИИ, поскольку фактически прекратилось развитие формальной логико-лингвистической модели — семиотической системы, которая интегрирует формальную систему и продукционные модели для представления знаний о предметной области. 

Но эволюция ИИ сделала очередной виток, и сегодня индустрия искусственного интеллекта вновь оказалась перед тем же самым вызовом. Думаю, пора заменить расшифровку аббревиатуры LLM на Logic-Linguistic Model и акцентировать внимание на работах в этом направлении.

Специалисты по созданию онтологий хорошо знакомы с треугольником Фреге, где понятию сопоставляется знак, концепт (смысл понятия) и денотат (множество примеров, значений понятия), к которым Д. А. Поспелов добавил четвёртый аспект — прагматика понятия. Именно такое многоаспектное описание понятий должно храниться на онтологическом уровне базы знаний. А сегодня нейронные сети, пусть даже очень большие и с глубоким обучением, оперируют только синтаксическими правилами и вряд ли сортируют информацию, заложенную в неё, на знания и данные, на экстенсионалы и интенсионалы понятий, выделяя прагматические свойства понятий.

Что касается онтологий, то соответствующие технологии к настоящему моменту только-только достигли такого уровня, что можно замахнуться на создание универсальной онтологии или, по крайней мере, способной охватить широкий спектр предметных областей и решаемых задач. Но главное, что становится возможным сейчас и не было возможным в 80-х, — это работа с многомодальностью. Звуковой, визуальный, динамический образ понятия не только обогатит его символьное (знаковое) представление, но и позволит делать всё более точной семантику и прагматику понятия. 

ИИ и автоматизация управления предприятием

Если перейти на уровень автоматизации управления в корпоративных информационных системах, а это именно то, что интересует бизнес в первую очередь, мы опять сталкиваемся с компонентами, в основе которых лежит нейросетевой интеллект, но отсутствует системный подход к пониманию самого процесса управления. Под управлением привычно понимаются отдельные задачи, например контроль состояния технических систем, прогнозирование потребительского спроса, анализ эффективности бизнес-процессов. Системный подход отсутствует не только в представлении знаний интеллектуальной системы, но и в понимании управления как целостного процесса… 

А проблемные точки нынешнего нейросетевого интеллекта — создание контролируемого, объяснимого, понятного ИИ — становятся ещё более критичными в области корпоративного управления, поскольку при его использовании для автоматизации управления предприятием возникает не только право на принятие решений, но и ответственность за принятое решение, причём на каждом шаге цикла управления. И здесь нейросетевой интеллект — увы! — существенно уступает тем самым символьным системам, основанным на правилах. Но не в том узком понимании символьных систем, который сложился в «нулевые» и фактически позволил им уступить место нейросетевому интеллекту. Необходимо развитие формального аппарата, создание инструментальных средств работы с формальным аппаратом, а главное — создание адаптивных онтологий, связанных с включением в них и формализацией не только статических, но динамических знаний. 

По большому счёту, мир ещё только подходит к созданию по-настоящему интеллектуальных систем, способных стать помощниками человека. Задача этого этапа формулируется достаточно просто: создание искусственного интеллекта, который реализует формализованную деятельность человека

Действительно, вначале надо чётко понять, что, как и для чего делается (формализовать деятельность), а уже потом создавать инструменты, автоматизирующие или имитирующие её. Очевидно, что осознанная передача ИИ функций (прежде всего производственных), требующих выполнения либо рутинных операций, либо операций, связанных с уровнем повышенной опасности или требующих моментального принятия решений и обработки больших массивов информации, выходящих за рамки возможностей человека, служит на благо человека. При этом ИИ может имитировать и сенсорные способности человека, и его каналы получения и передачи информации (голос, зрение, тактильные органы). Но мозг (если так можно выразиться) ИИ должен быть под контролем человека! Человек должен понимать, какой системой знаний обладает ИИ, какие задачи он перед собой ставит, как их решает и какие цели при этом преследует и достигает. 

Время «интеллектуального перекоса»

Да, именно так: сегодня мы переживаем период «интеллектуального перекоса»: акцент сделан скорее на имитацию деятельности человека, его творческих и умственных способностей, чем на осознанное наполнение «мозга» ИИ знаниями. Конечно, нейросетевой интеллект уже хорошо работает в частных задачах прогнозирования, распознавания, диагностики, контроля. Однако стержнем интеллектуальной системы, её базы знаний должна быть формализованная, логико-лингвистическая модель предметной области, в который существуют интерфейсы между символьной информацией и информацией, представленной другими модальностями, а также реализованы механизмы поддержки сложноструктурированных информационных сущностей, получения новых знаний и проверки их на достоверность, полноту и непротиворечивость.

Думаю, что нейросетевой интеллект может помочь извлекать из текстовых данных новые смысловые модели, открывать новые законы и закономерности в различных предметных областях. И этот «метод познания мира» вполне можно назвать индуктивным выводом, когда из множества фактов формируется новое знание. Однако не нужно генерализировать этот частный случай формирования новых знаний. Иначе мы получим дальнейшее углубление сегодняшнего противоречия: не ИИ — для человека, а для ИИ. И тогда активизация работ в области создания многоагентных систем, где интеллектуальные агенты заменяют человека в различных сферах экономики, может привести к тому, что интеллектуальные агенты начнут создавать профсоюзы и бороться за свои права, например, для получения большего ресурса с целью восстановления после рабочего дня?! Конечно, это шутка. Но всё же пора привести в соответствие наши взаимоотношения с создаваемой искусственной сущностью, чтобы направить интеллектуальные технологии на нужное дело — создание прикладных интеллектуальных систем, полезных человеку, предприятию, государству вместо усилий по имитации человека и его жизнедеятельности.