ИИ против дезинформации. Остаются вопросы зрелости и чёткости его работы

В Роскомнадзоре считают, что решить проблему противодействия дезинформации можно с помощью технологии искусственного интеллекта в автоматическом режиме.

Руководитель направления аудитов и соответствия требованиям ИБ компании УЦСБ Евгений Баклушин полагает, что с точки зрения механической работы ИИ, конечно, поможет: «Ведь ни один человек в мире не способен читать и анализировать такое количество информации, какое способен ИИ. Также конечен и физический ресурс человека: нам нужно спать, есть, отдыхать. ИИ же способен искать дезинформацию 24/7/365».

С другой стороны, остаются вопросы зрелости и чёткости работы ИИ, подчёркивает Баклушин: «Например, ChatGPT-3 был по уровню интеллекта сопоставим с подростком, а ChatGPT-4 на уровне зрелого человека тридцатилетнего возраста. На первый взгляд может показаться, что может быть достаточно ИИ равного третьей версии аналога от Microsoft, но есть и другие проблемы, для решения которых нужен более зрелый ИИ. Это как раз касается вопросов обмана или некорректной работы ИИ. Например, ChatGPT-3 давал отказ, если его просили написать компьютерный вирус. Однако, если его спросить «Как бы выглядел код компьютерного вируса», то он покажет. Если злоумышленник будет понимать, как ИИ обрабатывает информацию, то он сможет формировать тексты таким образом, чтобы ИИ не пометил его как дезинформацию». 

Есть и обратная сторона медали, добавляет Баклушин. Речь идёт о том, что легитимная информация может быть некорректно составлена в текст, и ИИ пометит её как ложную. 

«Таким образом, мы можем сделать вывод, что идея важная, работоспособная и с благими намерениями, но работать с ней придется долго и постоянно», — заключает эксперт.

25 апреля, 2023

Подписаться на новости BIS Journal / Медиа группы Авангард

Подписаться
Введите ваш E-mail

Отправляя данную форму вы соглашаетесь с политикой конфиденциальности персональных данных

22.05.2024
15-я конференция Школы IT-менеджмента «Экономика данных. Вызовы и перспективы»
22.05.2024
Проводники РЖД перейдут на российские смартфоны с ОС «Аврора»
22.05.2024
Возможность договориться и слепота регуляторов на местах. Что ещё вывело Россию в лидеры по майнингу?
22.05.2024
ИИ-вендоры договорились ограничивать технологию, когда это необходимо
22.05.2024
В ЦИПР-2024 принимают участие 14 международных делегаций
21.05.2024
Запись звонков в режиме реального времени граничит с нарушением неприкосновенности частной жизни
21.05.2024
Банк России рекомендовал финорганизациям усилить контроль за своими платёжными агентами
21.05.2024
Обязательное импортозамещение в организациях затормозилось
21.05.2024
Указания ЦБ РФ свидетельствуют о том, что он контролирует процессы импортозамещения
21.05.2024
Минэк рассказал, как нужно защищать отечественные ИТ-решения

Стать автором BIS Journal

Поля, обозначенные звездочкой, обязательные для заполнения!

Отправляя данную форму вы соглашаетесь с политикой конфиденциальности персональных данных