ИИ против дезинформации. Остаются вопросы зрелости и чёткости его работы

В Роскомнадзоре считают, что решить проблему противодействия дезинформации можно с помощью технологии искусственного интеллекта в автоматическом режиме.

Руководитель направления аудитов и соответствия требованиям ИБ компании УЦСБ Евгений Баклушин полагает, что с точки зрения механической работы ИИ, конечно, поможет: «Ведь ни один человек в мире не способен читать и анализировать такое количество информации, какое способен ИИ. Также конечен и физический ресурс человека: нам нужно спать, есть, отдыхать. ИИ же способен искать дезинформацию 24/7/365».

С другой стороны, остаются вопросы зрелости и чёткости работы ИИ, подчёркивает Баклушин: «Например, ChatGPT-3 был по уровню интеллекта сопоставим с подростком, а ChatGPT-4 на уровне зрелого человека тридцатилетнего возраста. На первый взгляд может показаться, что может быть достаточно ИИ равного третьей версии аналога от Microsoft, но есть и другие проблемы, для решения которых нужен более зрелый ИИ. Это как раз касается вопросов обмана или некорректной работы ИИ. Например, ChatGPT-3 давал отказ, если его просили написать компьютерный вирус. Однако, если его спросить «Как бы выглядел код компьютерного вируса», то он покажет. Если злоумышленник будет понимать, как ИИ обрабатывает информацию, то он сможет формировать тексты таким образом, чтобы ИИ не пометил его как дезинформацию». 

Есть и обратная сторона медали, добавляет Баклушин. Речь идёт о том, что легитимная информация может быть некорректно составлена в текст, и ИИ пометит её как ложную. 

«Таким образом, мы можем сделать вывод, что идея важная, работоспособная и с благими намерениями, но работать с ней придется долго и постоянно», — заключает эксперт.

25 апреля, 2023

Подписаться на новости BIS Journal / Медиа группы Авангард

Подписаться
Введите ваш E-mail

Отправляя данную форму вы соглашаетесь с политикой конфиденциальности персональных данных

04.07.2025
Конгрессмен рассказал агентам ФБР про кибербез (не наоборот)
04.07.2025
«Это ускорит развитие национальной платёжной инфраструктуры»
04.07.2025
«Пар»? «Ростелеком» строит свой Steam
04.07.2025
«Не будет никакой остановки». Европейский AI Act — на марше
04.07.2025
В России всё же создадут базу биометрии мошенников
03.07.2025
В Госдуме продолжают намекать на преимущества импортозамещения
03.07.2025
Котята отрастили щупальца. Kraken целится в Apple издалека?
03.07.2025
DLBI: До конца года стилеры могут парализовать поиск «удалёнки» в РФ
03.07.2025
Международный уголовный суд подвергается атакам хакеров
03.07.2025
17% компаний выбирает ноутбуки с предустановленными отечественными ОС

Стать автором BIS Journal

Поля, обозначенные звездочкой, обязательные для заполнения!

Отправляя данную форму вы соглашаетесь с политикой конфиденциальности персональных данных