Искусственный интеллект в законе, или к чему приводит хайп

Искусственный интеллект в законе, или к чему приводит хайп

В связи с появлением комментария Елены Покатаевой на пост «Если звёзды зажигаются, значит это кому-то нужно!» Форум «БАНКИ РОССИИ – XXI ВЕК» о киберфизической безопасности «искусственного интеллекта» уместно обратить внимание на следующие обстоятельства:

• тема комментария (технологии ИИ и история хайпа вокруг них) существенно смещена в сторону от ключевой проблемы, поднятой в посте «Если звёзды зажигаются…» (ИИ и право);
• стилистика комментария может создать искажённое представление о содержании и аргументации комментируемого поста.

Тщательней надо товарищи!

Для начала о стилистике комментария.

Елена Покатаева пишет: «Уважаемый Павел Никифоров! Давайте оставим воздыхания по поводу «непостижимого и неописуемого» искусственного интеллекта культурологам и прочим гуманитариям из числа адептов секты Харари».

Неприятно, что процитированный фрагмент может создать ложное впечатление, что упомянутый в нём Павел Никифоров «воздыхал» по поводу искусственного интеллекта, а, может быть, даже называл его «непостижимым и неописуемым» (ведь два последних слова поставлены в кавычки, и их можно принять за цитату).

Конечно, может случиться так, что читатели комментария Елены Покатаевой обратятся к первоисточнику. А если не обратятся? В таком случае процитированный зачин комментария дезинформирует читателя о содержании и интонациях комментируемого поста Павла Никифорова.

Далее,

Елена Покатаева пишет: «Сам термин «искусственный интеллект» подразумевает вполне конкретную вещь: на множестве знаний о какой-либо предметной области автоматически делается некоторое заключение, которое в явном виде нигде не записано заранее. Вот это и есть то, что Вы называете «актом мыслительной деятельности».

Процитированный фрагмент прямо создаёт ложное впечатление о том, что Павел Никифоров в своём посте обсуждал технологии работы систем т.н. «искусственного интеллекта» и употреблял словосочетание «акт мыслительной деятельности» применительно к искусственному интеллекту.

Хочется верить, что фраза «Вот это и есть то, что Вы называете "актом мыслительной деятельности"» – это лишь следствие состояния творческого подъёма при написании комментария. Но, как говорится, «Александр Македонский великий человек, но зачем же...»

О чём на самом деле говорил Павел Никифоров, и чего не смогла разглядеть Елена Покатаева в хайпе вокруг ИИ

Комментарий Елены Покатаевой свидетельствует о её глубоком погружении в тему «искусственного интеллекта» (о понимании этого термина позже), и она щедро делится своими знаниями с читателем. Каковой читатель, к сожалению, может предположить, что центральной темой комментируемого поста Павла Никифорова были вопросы технологий т.н. «искусственного интеллекта» и хайпа вокруг этих технологий.

Однако автор комментируемого поста ставил перед собой иную задачу.

Павел Никифоров проанализировал конкретные комментарии и реплики экспертов Круглого стола «Человек и искусственный интеллект: единство и борьба противоположностей» на сочинском форуме «БАНКИ РОССИИ – XXI ВЕК» в контексте совершенствования представлений о безопасности применения систем искусственного интеллекта и отражения этих представлений в законодательстве. Тем более, что изначальной целью Круглого стола было названо обсуждение перспектив введения в оборот правосубъектности ИИ.

Прямым следствием обобщения комментариев и реплик экспертов стал вывод о том, что «назрел вопрос о правовом закреплении ограничений использования продуктов на основе машинного обучения в практической деятельности.В пользу этого говорят первые человеческие жертвы автономных транспортных средств на дорогах. И уже не единичные жертвоприношения в экономике из-за работы, например, биржевых роботов».

Уместно заметить, что перед этим Павел Никифоров корректно упомянул о том, что «Предложение одного из экспертов считать ИИ чем-то, связанным с технологиями машинного обучения на основе Больших Данных, не встретило возражений».

В связи с этим,

К ТЕМЕ ПОСТА Павла Никифорова НЕ ИМЕЮТ НИКАКОГО ОТНОШЕНИЯ РАЗМЫШЛЕНИЯ Елены Покатаевой о том, что:

«нынешний хайп вокруг ИИ, особенно, когда искусственным интеллектом стали называть нейронные сети, – вот это медийный пузырь, который сдуется через 4-5 лет. А настоящий ИИ, который с логикой, останется и будет дальше  развиваться, только без медийного шума и крика».

Ведь Павла Никифорова НЕ ВОЛНУЕТ ни «нынешний хайп вокруг ИИ»,

ни то, что «это медийный пузырь, который сдуется через 4-5 лет».

ОЗАБОЧЕННОСТЬ ВЫЗЫВАЕТ то обстоятельство, что годом ранее подписан и опубликован Закон № 123-ФЗ «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации – городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона "О персональных данных"», согласно которому с 1 июля 2020 г. в Москве начнет действовать специальный правовой режим для более эффективного использования искусственного интеллекта.

Законом к ведению Правительства Москвы отнесено определение порядка и случаев передачи собственниками средств и систем фото- и видеонаблюдения изображений, полученных в публичных интересах, а также при съемке в открытых для свободного посещения местах или на публичных мероприятиях.

В ЭТОЙ СИТУАЦИИ ВИДЯТСЯ ПОТЕНЦИАЛЬНЫЕ УГРОЗЫ ИНФОРМАЦИОННОЙ БЕЗОПАСНОСТИ ПЕРСОНАЛЬНЫХ ДАННЫХ И НАРУШЕНИЯ ПРАВ ГРАЖДАН при «передаче собственниками средств и систем фото- и видеонаблюдения изображений, полученных в публичных интересах, а также при съемке в открытых для свободного посещения местах или на публичных мероприятиях».

В законе также наличествует определение т.н. «искусственного интеллекта»:

«под искусственным интеллектом понимается комплекс технологических решений, позволяющий имитировать когнитивные функции человека и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека. Такой комплекс технологических решений включает в себя информационно-коммуникационную инфраструктуру, программное обеспечение, а также процессы и сервисы по обработке данных и поиску решений».

В связи с этим уместно коснуться темы определения ИИ.

Елена Покатаева пишет; «Для математиков, работающих с конкретными задачами и ИТ-системами, нет никаких проблем с определением ИИ. Оно существует уже десятки лет: ИИ = база знаний + логический вывод».

С одной стороны, это утверждение столь же верно, как и утверждение о том, что «электрон также неисчерпаем, как и атом». И столь же продуктивно для использования в практической сфере.

С другой стороны, как утверждают специалисты IBM, «в последние несколько десятилетий появилось множество самых разных определений искусственного интеллекта».

Мнение IBM и ещё одно определение ИИ в упомянутом Законе № 123-ФЗ подтверждает тезис поста Павла Никифорова о том, что «даже не существует канонического определения «искусственный интеллект» (ИИ). И возможно его просто так и не будет, если в недалёком будущем исчезнет благодаря лезвию Оккама само понятие ИИ».