«Искусственный интеллект», исправление имени. Опыт борьбы с вредоносной гуманитарной закладкой

BIS Journal №2(45)/2022

29 апреля, 2022

«Искусственный интеллект», исправление имени. Опыт борьбы с вредоносной гуманитарной закладкой

С 24 февраля 2022 года остро встал вопрос о реальном, а не декларативном суверенитете цифровизации, об отечественных прорывных разработках так называемого искусственного интеллекта. «Копирующей локализации» зарубежных решений не получится, придётся критически переосмыслить зарубежные подходы, выявить и устранить вредоносные «закладки».

 

РИСКИ ЛИХОРАДОЧНОЙ ЦИФРОВИЗАЦИИ

Так называемый искусственный интеллект считается центральной «сквозной технологией», локомотивом «ускоренной цифровизации», лихорадочно начатой в России несколько лет назад. Вопрос, что теперь с этим делать, не менее актуален, чем приостановка в России работы международных платёжных систем Visa и MasterCard, всё более серьёзные угрозы отключения отечественных банков от SWIFT.

Под вопросом не только перспективы «цифровизации», но и просто дальнейшее функционирование российских автоматизированных информационных систем и сервисов, государственных и банковских. Можно ли по-прежнему говорить о «цифровой экономике» в финансовой сфере или же «не до жиру, быть бы живу»? Лишь бы обеспечить устойчивость того, что есть? Перед лицом угрозы ограничений или полной блокировки использования привычных зарубежных решений российскими государственными органами, корпоративными и индивидуальными пользователями?

Развилка, на которой мы оказались, требует непростых решений и долгого тяжёлого труда. Ускоренное обеспечение цифрового суверенитета и импортозамещение не могут быть сведены к копированию зарубежных решений и созданию их локальных аналогов. Необходим критический пересмотр наличных подходов для альтернативных отечественных разработок, способных обрести опережающий характер.

Пересмотр базовых подходов к «искусственному интеллекту» открывает перспективы решений, «перпендикулярных» по отношению к имеющимся разработкам в нормативной и организационно-технической сферах, вплоть до принципов архитектуры и прикладных решений. Зарубежным подходам к разработкам так называемого искусственного интеллекта присущи базовые критические ошибки, подобные смысловым вредоносным закладкам. Двусмысленные основные понятия, начиная с некорректного термина «искусственный интеллект», способны дезориентировать и ввести в заблуждение кого угодно.

Авторы термина «искусственный интеллект» изначально заложили в него не просто двусмысленность, а многозначность, включая противоречащие друг другу смыслы. «Искусственный» − это и рукотворный, и имитационный (создающий всего лишь иллюзию), и поддельный (обманный).

Специфика переживаемого переломного момента, как и в сказке Г. Х. Андерсена про голого короля, помогает внезапно узреть излишний балласт изначально неверных, ошибочных подходов. Сразу обратим внимание на неверность, метафоричность, вводящую в заблуждение формулировку понятия «искусственный интеллект». В отличие от отечественной формулировки «автоматизированные системы управления технологическими процессами» −прямой, однозначной и конструктивно-рациональной.

 

ОТ САМООБМАНА ДО МОШЕННИЧЕСТВА

Разработчики «искусственного интеллекта» не только сами путают человека с машиной и сетевыми решениями, но и вносят лишнюю сумятицу в нормативное регулирование, техническое и правовое. Или же наводят тень на плетень в простом вопросе отличия людей от других людей, от живых организмов − животных и растений, от неживых предметов и процессов, механизмов. Некорректное использование двусмысленного термина «искусственный интеллект» можно разделить на невольное, по общей инерции − и злонамеренное.

Добросовестно заблуждаются создатели, разработчики практических направлений автоматизации: перевода с одного языка на другой, цифровизации физических параметров и аналоговых образов предметов и процессов, продвинутой робототехники. Чего стоит приписывание машинам без каких-либо оговорок человеческих умений!

Не более чем метафорический характер носит обозначение функциональности программно-аппаратных устройств «зрением», «слухом», «речью», «распознаванием», «обучением», «решением задач». Для описания работы машин, автоматизированных механизмов лишь весьма условны формулировки таких способностей биологических организмов, как ощущения и чувства.

Весьма сомнителен и термин «нейронные сети», как и «нейротехнологии». Приставка «нейро…» означает вовсе не мыслительные способности и даже не мозг, а нервное волокно − ткань, её клетку-нейрон. «Подобие» электронно-вычислительных сетей нервной системе, тем более мозгу, носит более чем условный характер. «Моделирование» мышления на них не более похоже на оригинал, чем работа на экскаваторе напоминает копание лопатой или конструкция самолёта − бионику птицы или летающего насекомого.

«Копируется» недействительная функциональная работа человеческого организма, включая нервно-мышечную систему и мозг. «Воспроизводится»… обратная проекция на человека архаической схематики, механистической традиции в западной науке и технике.

Те, кто создали и употребляют термин «искусственный интеллект», могут просто добросовестно заблуждаться. Но изначальная двусмысленность может использоваться и как орудие мошенничества, как коммерческого, так и политического. Учитывая, что обманывать других легче всего неподдельной искренностью, когда мошенник искренне впадает в сладостный самообман.

«Вёсны» искусственного интеллекта выражались в инвестиционных бумах на волне очередной версии обещаний создать «сверхразум, способный решить все проблемы». Тема столь же регулярно обновляющаяся, как и «таблетка бессмертия» от фармацевтов, а также различные версии «решений» от трансгуманизма, создателей киборгов, генных инженеров и биотехнологов.

Финансовые спекулянты, используя учёных и разработчиков высоких технологий, регулярно провозглашали очередные утопические посулы: создать «добрый сверхразум», способный принести инвесторам невиданные прибыли. С другой стороны − антиутопические угрозы, что такие разработки раньше создадут конкуренты – коммерческие или политические. Финансовый пузырь надували, играя на повышение, а потом тихо схлопывали, уводя на время отыгранную тему в тень.

Западному праву исторически присуща дискриминация: ограничение прав групп граждан на основе ошибочных и лженаучных теорий. Правовые системы колониализма обосновывались социал-дарвинизмом и расовыми концепциями о якобы неполноценных расах и «сверхлюдях». Современное движение BLM (Black Lives Matter), по сути, является расизмом наизнанку.

Аналогичные псевдонаучные конструкции положены в основу движения ЛГБТК+ – деструктивного переформатирования гражданского права на основе замены мужского и женского полов десятками «гендеров» − произвольных «социальных конструктов». Подобным образом «бракосочетание» может быть распространено не только с однополыми гражданами, но также с животными и предметами − тем же «искусственным интеллектом».

Попытки превратить «искусственный интеллект» в субъект права совершаются для выстраивания серых схем оптимизации налогообложения, снятия ответственности за ущерб его применения с разработчиков, производителей и эксплуатирующих лиц. Есть «позиция» и для политиков – уйти от ответственности за негативные последствия собственных решений и действий путём ссылок на «правосубъектность» программно-аппаратных комплексов, обеспечивающих «машиночитаемый» и «машиноисполняемый» деловой документооборот.

 

ФИЛОСОФСКАЯ АРХАИКА И ТЕХНОСУЕВЕРИЯ

Механистический подход к жизни и человеку − одна из стародавних тенденций западноевропейского мировоззрения. Философ-математик Рене Декарт считал животных механизмами-автоматами, способными лишь на «рефлексы», и немногим выше он ценил человека. В основе современного понятия «искусственный интеллект», совершенно нестрогого, если не сказать ошибочного, лежит вульгарное «картезианство». Дополненное тем, что можно назвать «техносуевериями», схожими с первобытным фетишизмом − наделением предметов воображаемыми сверхъестественными качествами.

Людям первобытной культуры свойственно обожествление стихий природы, животных. Подобные архаичные формы сознания могут воспроизводиться и в нашу технотронную эру, когда современную технику называют «умной» не в фигуральном смысле. Тогда легко представить, что появятся машины «умнее человека», которые будут ему «служить», а потом «захотят поработить».

Можно воспринимать автоматизированное автономное программно-аппаратное устройство как «умное», подобно тому, как человеку первобытной культуры с непривычки может показаться, что внутри «говорящего» радио спрятан другой человек.

Проверочный вопрос на засыпку: способен ли телеграфный столб мыслить, переживать эмоции, чувствовать? Наверное, да: для богатого воображением ребёнка, в детской сказке или юмореске. Возможны и другие варианты: для адепта секты техносуеверий или человека, у которого не всё в порядке с головой.

Пойдём дальше: может ли мыслить шагающий экскаватор или роботизированная линия пошива изделий нижнего белья? В состоянии ли ощущать и чувствовать государственная публичная библиотека, архив документов? Какие человеческие возможности присущи манекену для одежды на витрине магазина?

Эти детские вопросы с очевидными ответами подводят к теме, отчего и зачем в наши дни сложные программно-аппаратные решения называют «искусственным интеллектом». В том числе там, где наиболее точно звучит обозначение АСУ ТП − автоматизированные системы управления технологическими процессами.

 

ПРИВЕТ ИЗ СССР

Понятие «искусственного интеллекта» является философско-идеологической метафорой, маскирующей неприглядные социально-политические аспекты развития автоматизации технологических процессов с помощью программно-аппаратных средств. Современные концепции «искусственного интеллекта» ведут отсчёт с 1940-1950-х годов, включая дискуссии в СССР о кибернетике, которые разграничили, с одной стороны, действительный потенциал электронно-вычислительного и роботизированного оборудования, с другой − необоснованные претензии на создание технотронного «сверхчеловека».

Преднамеренное и невольное смешивание человека и машины, путаница понятий и терминов − черта глобального научно-технического мышления. Далеко не только в научной фантастике и массовой культуре, но также в философии и методологии науки, в нормативно-правовом регулировании вплоть до научно-исследовательских и опытно-конструкторских разработок. Остаётся размытым, неопределённым ответ на вопрос, в чём отличие людей друг от друга, от животных, от неодушевлённых предметов.

Манипуляции с понятием «интеллект» крайне обманчивы: человеческое мышление можно свести к одному из его узкоспециализированных проявлений. Если свести интеллект к навыку счёта или раскапыванию земли, его нетрудно «воспроизвести» и «победить» с помощью механических орудий. Тех же простых бухгалтерских счётов, не говоря о логарифмической линейке, арифмометре. Несомненно, что в выполнении вычислений, формализованных и алгоритмизированных операций электронно-вычислительные устройства более производительное орудие, чем человек. Точно так же, как экскаватор в выкапывании больших объёмов грунта заменяет сотни землекопов.

Многие действия человека можно выполнять с помощью инструментов, орудий труда. Однако не все: человеку приходится выполнять как собственно человеческие, так и не обязательно свойственные ему функции. Критерием неотъемлемо человеческих действий служит невозможность их алгоритмизации, «неисчислимость».

Действия человека, которые можно формализовать, свести к набору заранее заданных правил, шаблонов, можно выполнять при помощи автоматизированного орудия труда − машины. Но и в этом случае действующим лицом остаётся человек − создатель и пользователь машины.

Самого человека можно свести к «говорящему орудию труда», так в Древнем мире называли рабов. Лбом можно забивать гвозди вместо молотка, кость выдержит; но не наоборот: молотком нельзя думать. Можно усовершенствовать компьютерные алгоритмы так, чтобы выигрывать партии в шахматы у чемпионов мира. Однако будущие гроссмейстеры смогут побеждать сегодняшние шахматные алгоритмы и базы данных; это извечное состязание щита и меча.

 

ИСПРАВЛЕНИЕ ИМЁН

Некритически перенесённые из-за рубежа в высшей степени неточные термины широко используются в национальных нормативных актах, начиная с самого высокого уровня. Например, в «Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года», утверждённой Правительством РФ Распоряжением от 19 августа 2020 г. № 2129-р.

Между тем в этой сфере называть вещи своими именами − значит говорить об автоматизированных системах управления технологическими процессами при помощи компьютерно-телекоммуникационных технологий. Называть это традиционное для отечественных научно-технических разработок направление «искусственным интеллектом» не только ошибочно, но и вредно.

Рациональное содержание «искусственного интеллекта» подразделяется на следующие направления автоматизации систем управления технологическими процессами.

  1. Самообслуживание работы с базами данных (экспертные системы, поддержка принятия решений, перевод), включая возможности предварительной обработки (упорядочивания и «аналитики»).
  2. «Оцифровка» и перекодировка в разные форматы чувственно воспринимаемых характеристик объектов (статических и динамических изображений; звуков и речи; формы, размеров и взаимного расположения; других физических параметров − температуры, влажности, свойств поверхности, упругости и т. п.).
  3. Программирование и контроль работы роботизированных устройств, комплексов и систем.
  4. Отдельная тема − внешний дизайн, «имитация», «человекообразность» робота в зависимости от исполнения: в объёме (металл и пластик), как изображения (статического или видео), в голосовом или текстовом исполнении ввода-вывода.

Путаница в понятиях, зачастую преднамеренная, снижает эффективность создания новых решений и облегчает ловлю рыбки в мутной воде. «Исправление имён» в ходе импортозамещения и цифровой суверенизации поможет повышению не только эффективных разработок и нормативно-правового регулирования, но и восприятию гражданской общественностью. Чтобы избежать самообмана, напрасной траты времени и ресурсов, разработчикам лучше использовать верный и однозначный понятийно-терминологический аппарат.

Очистка при помощи правильной методологии нормативной документации от вредоносных концептуальных «закладок» так называемого искусственного интеллекта поможет эффективной оптимизации нормативного технического и правового регулирования в России. «Исправление имён», коррекция двусмысленностей и ошибок в понятийно-терминологическом аппарате поможет эффективному развитию отечественных АСУ ТП, в том числе их конкурентному преимуществу на международных рынках.

 

Представлены 43 проекта национальных стандартов в области ИИ

На сайте Технического комитета по стандартизации № 164 «Искусственный интеллект» (ТК 164) опубликованы первые редакции 43 проектов национальных стандартов в области применения искусственного интеллекта.

Напомним, Технический комитет «Искусственный интеллект» создан в 2019 году по инициативе РВК при поддержке Минпромторга РФ и Росстандарта. Работы по стандартизации в области ИИ в ключевых отраслях экономики проводятся ТК 164 в соответствии с Национальной стратегией развития искусственного интеллекта на период до 2030 года.

Документы сгруппированы по темам: «Информационные технологии. Искусственный интеллект»; «Системы искусственного интеллекта в естественных и искусственных источниках излучения»; «Системы искусственного интеллекта в клинической медицине» и т. д. Их разработкой занимались различные коллективы, среди них НИУ ВШЭ, МГУ, Научно-практический клинический центр диагностики и телемедицины ДИТ Москвы и пр.

Как говорится на сайте комитета, ТК 164 является «зеркальным» по отношению к международному подкомитету SC 42 «Artificial Intelligenсе» объединённого технического комитета ISO/IEC JTC 1 «Information Technologies» и выполняет функции постоянно действующего национального органа в ISO.

Принятая в декабре 2020 года перспективная программа стандартизации по приоритетному направлению «Искусственный интеллект» на период 2021–2024 годов, утверждённая Росстандартом и Минэкономразвития, предусматривает разработку 217 стандартов в области ИИ.

Смотрите также

25.09.2022
Модели угроз, выстроенные ФСТЭК, в целом оправдали себя
25.09.2022
Банк России строит свой подход от рисков
24.09.2022
Эволюция технологий, единство людей. Открыта регистрация на SOC-Форум 2022
24.09.2022
«Стать перед зеркалом, признаться и покаяться»
23.09.2022
Узбекистан приостановил обслуживание карт «Мир». Не всех и временно
23.09.2022
«Чтобы финансовая система продолжила работать бесперебойно»
23.09.2022
Хакеры по сравнению с производителями зарубежного ПО — это безобидная история
23.09.2022
ФСТЭК России в ближайшее время выпустит методики оценки критичности уязвимостей и тестирования обновлений
23.09.2022
«Газпромбанк» на очереди?
22.09.2022
Целью HR-мошенников может быть включение устройства соискателя в ботнет-сеть