12 октября, 2021

Эти звёзды зажгли задолго до нас…

Комментарий к тексту Павла Никифорова ««Если звёзды зажигаются, значит, это кому-то нужно!» Форум «Банки России — XXI век» — о киберфизической безопасности «искусственного интеллекта» про Круглый стол на тему «Человек и искусственный интеллект».

 

Уважаемый Павел Никифоров!

Давайте оставим воздыхания по поводу «непостижимого и неописуемого» искусственного интеллекта культурологам и прочим гуманитариям из числа адептов секты Харари. Для математиков, работающих с конкретными задачами и ИТ-системами, нет никаких проблем с определением ИИ. Оно существует уже десятки лет: ИИ = база знаний+логический вывод. И у него есть мощная развивающаяся теоретическая база, в частности, математическая логика и теории алгоритмов, теория предикатов, автоматическое доказательство теорем и т.д. (Есть ученые, исследующие междисциплинарные вопросы ИИ, см., например, сборник научных трудов «Искусственный интеллект: междициплинарный подход». Под ред. Д.И. Дубровского, В.А. Лекторского-М.: ИИнтеЛЛ, 2006).

Нет ничего сверхъестественного, а есть работоспособное определение, которое переводит работу математиков и программистов с уровня обработки данных на уровень обработки знаний. И что характерно, здесь по-прежнему работают алгоритмы, только алгоритмы обработки знаний. И по-другому быть не может в силу специфики принятой сегодня фон Неймановской компьютерной архитектуры. Она предполагает наличие ячеек памяти, в которых хранятся данные, и отдельного обрабатывающего устройства – центрального процессора. Все многообразие современных программных систем сводится в конечном итоге к простому алгоритму: взять содержимое одной ячейки памяти, передать на обработку в центральный процессор, поместить результат в другую ячейку памяти.

Так что алгоритмичность – это родовое свойство, присущее всем прикладным программам, написанным для компьютеров нынешней архитектуры. И искусственный интеллект тоже работает на основе алгоритмов – для задач ИИ давно созданы специальные языки программирования, например, PROLOG. Программы, написанные на нем, тоже реализуют определенные алгоритмы – алгоритмы обхода дерева логического вывода на заданном множестве объектов и связывающих их отношений (предикатов).

Таким образом, знания получаются из данных с помощью добавления к ним свойств и отношений. Для описания знаний (в математическом смысле – подчеркну) используются различные семантические формализмы – семантические сети, онтологии, деревья решений, нечеткие множества, эволюционные и генетические алгоритмы и т.д. Все это давно существует и развивается.

Сам термин «искусственный интеллект» подразумевает вполне конкретную вещь: на множестве знаний о какой-либо предметной области автоматически делается некоторое заключение, которое в явном виде нигде не записано заранее. Вот это и есть то, что Вы называете «актом мыслительной деятельности». Никаких принципиально новых знаний в этой ситуации не порождается, но практическую ценность имеет способность ИИ-системы проанализировать все множество сущностей и связей между ними, которых может быть огромное количество (тысячи, десятки тысяч, миллионы взаимосвязей в больших системах), и найти неявные взаимоотношения. Классический пример – медицинская экспертная система: на всем множестве данных о состоянии здоровья человека система находит, какая патология (или несколько) соответствуют ситуации и с какой вероятностью.

И вот что интересно: нейросетевые модели никогда не относились к ИИ. Не относились именно потому, что там нет никакого логического вывода – чистая вычислительная математика, теория математической оптимизации. Только на волне ML-хайпа, поднявшегося несколько лет назад, машинное обучение начали называть искусственным интеллектом или даже подменять ИИ машинным обучением. Именно об этом говорил Игорь Ашманов на том Круглом столе, который Вы упоминаете. Он говорил вовсе не про сомнительность самого ИИ –он-то как раз все знает досконально, потому что много лет занимается вопросами семантики естественного языка – это самый что ни на есть искусственный интеллект. Ашманов буквально сказал следующее: «ИИ сегодня – это, в первую очередь, медийный пузырь. Через 4-5 лет про ИИ будут говорить меньше, на нем свет клином не сошелся. ИИ давно здесь. Любая система, анализирующая данные и принимающая решения – это ИИ. ИИ окружает нас в быту» и т.д. Он говорил о том, что нынешний хайп вокруг ИИ, особенно, когда искусственным интеллектом стали называть нейронные сети, – вот это медийный пузырь, который сдуется через 4-5 лет. А настоящий ИИ, который с логикой, останется и будет дальше  развиваться, только без медийного шума и крика.

Как минимум, исчезнет безудержный хайп по поводу «безграничных» возможностей ML. Эти границы есть, и все отчетливее ощущаются.

Надо сказать, что в развитии ИИ уже были периоды хайпа. Первый пришелся на 70-80 гг. прошлого века, и был связан с бурным развитием экспертных систем, активными исследованиями в области формальных логик, созданием инструментов для разработки баз знаний. И были символы этого периода – «инженеры по знаниям», которые владели специальными компетенциями «извлечения знаний» из экспертов в предметных областях. С ними тогда носились примерно так же, как сегодня с дата-сайентистами: и мало их, и как их готовить? Дежавю, одним словом. Тот период завершился. Проблемы с инженерами по знаниям канули в Лету, а системы ИИ, нацеленные на  решение конкретных аналитических задач, «поселились» в специализированном  умном оборудовании, в первую очередь, медицинском.

Создание автономных систем, которые не способны встраиваться в конкретные бизнес-процессы, не могло стать стратегическим направлением развития сферы ИИ. В определенной мере с этим аспектом, как мне кажется, связан нынешних хайп нейросетей – они пытаются встраиваться в цепочки принятия бизнес-решений на конкретных предприятиях. Но это только хайп. Для того, чтобы ИИ-алгоритмы действительно смогли стать частью бизнес-процессов, нужно, чтобы сами хранилища данных поддерживали семантическую архитектуру. Этот процесс уже начался в крупных компаниях, и его поддерживают наиболее визионерские вендоры корпоративных ИТ-систем. И он, думаю, сформирует третью волну хайпа ИИ – тогда, когда накопится некая «критическая масса» осмысления тенденций, вендоры внедрят новые семантические технологии в свои продукты, тут и корпоративные клиенты подтянутся. 

Смотрите также