Горелкин: База всех манипуляций — это рекомендательная система фильтрации контента

В отношении российской политики и общественных настроений применяются методы воздействия на умы с помощью настройки рекомендательных систем в социальных сетях. Такое мнение высказал депутат Госдумы, член Комитета по информационной политике, информационным технологиям и связи Антон Горелкин на Cyber Security Day 2021.

«Сейчас, когда у нас наконец-то определено законодательно, что такое социальные сети, что такое аудиовизуальные сервисы, можем заняться рекомендательными системами. На мой взгляд, это основа информационного обмена веществ нашего общества. Актуальность намерения, на мой взгляд, особо доказывать не нужно. Достаточно вспомнить недавние репортажи из США про захват административных зданий, стрельбу на улицах, погромы магазинов и массовые беспорядки. Я не склонен демонизировать манипулятивные технологии, но все мы понимаем, что и здесь это имело место быть. А база всех этих манипуляций — это рекомендательная система фильтрации контента», — отметил он.

При этом Антон Горелкин добавил, что в данный момент речь не идёт о законопроекте, это всё ещё на стадии обсуждения. Но он уверен, что в течение ближайших нескольких лет, здесь регулирование продвинется.

 

Немного истории и теории

Рекомендательные системы возникли довольно рано. Изначально их применяли для выбора товара на маркетплейсе. И основаны они были на простых алгоритмах контент-анализа и фильтрации выдачи. Когда счёт товаров на маркетплейсах пошёл на миллионы, такие алгоритмы уже не годились и стала применяться коллаборативная фильтрация, то есть метод прогнозирования, который позволяет на основе анализа предпочтений группы пользователей предсказывать интересы других пользователей. Этот метод не является идеальным, у него есть свои недостатки. Тем не менее сейчас он самый применяемый, его активно исследуют, разрабатывают. Пока речь идёт о товарах, покупках, продажах, в принципе, всё это нормально. Проблемы начинаются, когда рекомендательные системы начинают применяться в общественно-политической сфере.

Как отметил Антон Горелкин, главный пример — лента новостей в соцсетях. Она содержит посты тех аккаунтов и сообществ, на которые подписан пользователь. Но если этих аккаунтов и сообществ много, как это часто сегодня бывает, и они активны, человек физически не сможете просмотреть всё, что они публикуют. Тогда на основе гибридных методов коллаборативной фильтрации система предсказывает предпочтения и даёт увидеть пользователю только те записи, которые, как она считает, ему интересны.

«Возникает таким образом, в моём понимании, петля усиливающейся прямой связи. Например, чем больше вы читаете, лайкаете, обсуждаете поданные вами лентой посты про, например, зелёные китайские мотоциклы, тем больше постов про зелёные китайские мотоциклы вам будет предложено. Со временем начнет казаться, что все ваши знакомые в вашей социальной сети только этими мотоциклами и интересуются. Это, например, объясняет уверенность представителей маргинальный политических движений в том, что все разделяют их взгляды: алгоритм предлагает им только ту информацию, которая им нравится», — пояснил депутат.

 

ВКонтакте vs. Facebook

Антон Горелкин сравнил новостные ленты социальных сетей ВКонтакте и Facebook. Так, ВК предлагает вам решить самому хотите вы смотреть все подряд публикации источников, на которые подписаны, или желаете включить рекомендательную систему. «Это, на мой взгляд, честная позиция социальной сети, открытая и ответственная. Тем более, в ВК за этим даже в настройки лезть не надо — кнопка переключения расположена рядом с лентой новостей», — отметил депутат.

Вместе с тем, Facebook несколько лет назад включил рекомендательную систему фильтрации контента для всех без исключения пользователей. С этого момента вы не можете видеть всё, что пишут ваши друзья на Facebook в своей ленте, вы видите только то, что вам готова показать соцсеть.

«Алгоритм, на мой взгляд, крайне непрозрачен. И как мы теперь знаем, в него постоянно вносятся коррективы, связанные с текущей политической ситуацией и политическими взглядами владельца и руководства социальной сети», — рассказал Антон Горелкин.

В качестве примера он привёл ситуацию с недавними президентскими выборами в США. По его словам, публикации сторонников Трампа пессимизировались в Facebook, исчезали даже из лент самих сторонников Трампа. Часто опубликованный пост невозможно было найти, даже зайдя на страницу автора поста — он скрывался даже оттуда. И здесь речь не идёт о бане автора или удалении постов, просто таким образом работала настроенная рекомендательная система Facebook. Аналогичным образом фильтровался и поиск.

«На деле мы видим совершенно циничную манипуляцию общественным мнением в политических целях. Можно нисколько не сомневаться, что если бы не целенаправленные искажения массовых общественных предпочтений в Facebook, YouTube и Twitter, я уверен, что президентские выборы в США могли бы пойти по другому сценарию. Я, конечно, не могу утверждать это, но я не исключаю, что такие сценарии вполне могли бы быть», — сказал Антон Горелкин.

 

«Что же делать?» или Планы на будущее

По словам депутата Госдумы, предупреждение подобного в России должно заключаться в двух основных моментах. Первое — необходимо создать четкие, ясные и прозрачные правила функционирования рекомендательных сервисов, с обязательным регулярным публичным отчетом площадок по работе таких систем фильтрации контента. И второе — необходимо предусмотреть эффективный механизм общественного и государственного контроля над соблюдением соцсетями и аудиовизуальными площадками правил работы рекомендательных сервисов. Отдельно спикер подчеркнул, что здесь не идёт речь о контроле за работой социальных сетей или общением граждан.

«На сегодняшний день это, объективно, одни из главных требований общества и власти к социальным сетям и аудиовизуальным сервисам. Их выполнение позволит исключить преднамеренные манипуляции политической сферой или даже заподозрит социальные сети в таких манипуляциях. Ведь сегодня, по сути, часто все претензии к социальным сетям и аудиовизуальным сервисам сводятся именно к этому моменту. Если эту проблему каким-то образом решить, то и придраться по каждому политическому поводу к социальным сетям не будет никакого смысла, ведь ответом будет вполне себе очевидный — «рекомендательный механизм прозрачен», — сказал Антон Горелкин.

Он также добавил, что очень хотел бы, чтобы «все-таки мы с социальными сетями, у которых сегодня я вижу в этом очевидную непрозрачность работы, мы все-таки нашли точки соприкосновения и сообща нашли нормальный адекватный механизм взаимодействия».

12 февраля, 2021

Подписаться на новости BIS Journal / Медиа группы Авангард

Подписаться
Введите ваш E-mail

Отправляя данную форму вы соглашаетесь с политикой конфиденциальности персональных данных

28.03.2024
Аитов: Ограничения Samsung Pay на использование карт «Мир» можно обойти
28.03.2024
Киберпреступления — 35% всех преступлений в России
28.03.2024
Почему путешествовать «налегке» не всегда хорошо
28.03.2024
«Тинькофф»: Несколько платёжных систем лучше, чем одна
28.03.2024
В РФ готовят базу для «усиленной блокировки» незаконного контента
28.03.2024
Термин «риск ИБ» некорректен по своей сути
27.03.2024
Samsung Pay перестанет дружить с «мировыми» картами
27.03.2024
Канадский университет восстанавливает работу после ИБ-инцидента
27.03.2024
Crypto Summit 2024. Трейдинг, майнинг и перспективы развития рынка ЦФА
27.03.2024
РКН начал работу по контролю за «симками» иностранцев

Стать автором BIS Journal

Поля, обозначенные звездочкой, обязательные для заполнения!

Отправляя данную форму вы соглашаетесь с политикой конфиденциальности персональных данных