В конце февраля Facebook сообщил, что запускает два новых инструмента для предупреждения пользователей о рисках поиска и обмена контентом, эксплуатирующим детей, включая возможные правовые последствия этого.

«Использование наших приложений во вред детям отвратительно и неприемлемо. Наши ведущие в отрасли усилия по борьбе с эксплуатацией детей сосредоточены на предотвращении жестокого обращения, обнаружении и сообщении о контенте, нарушающем наши правила, а также на работе с экспертами и властями для обеспечения безопасности детей. Сегодня мы объявляем о новых инструментах, которые мы тестируем, чтобы люди не могли делиться контентом, в котором жертвами становятся дети, и о недавних улучшениях, которые мы внесли в наши инструменты обнаружения и отчетности», — говорится в сообщении. 

Первый инструмент — это всплывающее окно, которое будет показано пользователям, которые ищут в приложениях Facebook термины, связанные с эксплуатацией детей.

«Всплывающее окно предлагает способы получить помощь от организаций, занимающихся отвлечением правонарушителей, и предоставляет информацию о последствиях просмотра незаконного контента», — написала  глобальный руководитель службы безопасности Facebook Антигона Дэвис в блоге, посвященном новым инструментам.

Между тем, второй инструмент — это предупреждение о безопасности, которое будет отображаться для людей, которые поделились вирусным мемом, эксплуатирующим детей. Предупреждение проинформирует пользователя о том, к какому ущербу может привести распространение такого контента, а также добавит предупреждение о юридических последствиях распространения таких материалов.

«Аккаунты, продвигающие этот контент, будут удалены. Мы используем выводы из этого предупреждения о безопасности, чтобы помочь нам определить поведенческие сигналы тех, кто может подвергаться риску поделиться этим материалом, чтобы мы также могли объяснить им, почему он вреден, и побудить их не публиковать его на какой-либо поверхности — публичной или частной», — добавил Антигона Дэвис.

Перед тем как ввести новые инструменты, Facebook работал с экспертами по эксплуатации детей, в том числе с Национальным центром США по пропавшим и эксплуатируемым детям (NCMEC), над разработкой основанной на исследованиях таксономии для классификации намерений человека, связанного с распространением такого контента. После оценки 150 аккаунтов Facebook обнаружил, что примерно более 75% людей делали это не со злым умыслом. Скорее, они пытались вызвать возмущение или поделились контентом с плохим юмором. Тем не менее, компания добавила, что результаты не следует воспринимать как «точную меру» экосистемы безопасности детей.

Социальная сеть также внесла поправки в свою политику безопасности детей, чтобы уточнить, что она продолжит удалять профили Facebook, страницы, группы и учетные записи Instagram, которые делятся невинными изображениями детей или сопровождаются комментариями, хэштегами или подписями, содержащими неприемлемые признаки привязанности за детьми на фотографиях.

«Мы всегда удаляли контент, который явно сексуализировал детей, но контент, который не является явным и не изображает детскую наготу, определить труднее. В соответствии с этой новой политикой, хотя сами по себе изображения не могут нарушать наши правила, сопроводительный текст может помочь нам лучше определить, сексуализирует ли контент детей и следует ли удалить связанный профиль, страницу, группу или учетную запись», — пояснили в компании.

Кроме того, чтобы упростить сообщение о контенте, нарушающем политику Facebook в отношении эксплуатации детей, гигант социальных сетей добавил в категорию сообщений «Нагота и сексуальная активность» вариант «вовлекает ребенка».

Социальные сети активизировали свои усилия по пресечению контента о жестоком обращении с детьми и использовали различные инструменты и меры для достижения этой цели. Например, в прошлом году Facebook расширил родительский контроль для Messenger Kids, а TikTok представил функцию Family Pairing.

9 марта, 2021

Подписаться на новости BIS Journal / Медиа группы Авангард

Подписаться
Введите ваш E-mail

Отправляя данную форму вы соглашаетесь с политикой конфиденциальности персональных данных

01.12.2023
Из магазинов ПО продолжают пропадать приложения российских банков
01.12.2023
RePlay теперь позволяет создавать рекомендательные end-to-end-системы
01.12.2023
Контроль индикаторов — важный этап мониторинга атак на подрядчиков
01.12.2023
«Сегодня ломают всех, даже компании в области безопасности»
01.12.2023
Банкиры заплатят 1% капитала за SMS-коды и «пуши»?
30.11.2023
Эволюция кибератак, угроз и инцидентов неразрывно связана с геополитикой
30.11.2023
Тренд сменился: злоумышленники аккумулируют информацию для последующего использования
30.11.2023
Злоумышленники активно проникают в инфраструктуру заказчиков через подрядчиков
30.11.2023
Лукацкий: Мониторинг атак на подрядчиков — тема непростая и многосторонняя
30.11.2023
Компрометация систем удалённого управления при использовании услуг внешнего провайдера

Стать автором BIS Journal

Поля, обозначенные звездочкой, обязательные для заполнения!

Отправляя данную форму вы соглашаетесь с политикой конфиденциальности персональных данных