Широкое внедрение генеративного ИИ в прошлом сопровождалось потоком вводящего в заблуждение контента в Интернете. Стремясь восстановить целостность цифровой информации, Национальный центр кибербезопасности Великобритании (NCSC) и Канадский центр кибербезопасности (CCCS) опубликовали новый отчёт о природе происхождения общедоступных материалов.
Как отмечается в тексте, для укрепления доверия внешней аудитории организациям необходимо тщательнее подходить к вопросу прозрачности происхождения данных. И такие усилия в отрасли предпринимаются. Например, была основана структура Coalition for Content Provenance and Authenticity (C2PA), которая пользуется поддержкой генеративного ИИ и крупных техкомпаний, таких как Google, OpenAI и Microsoft.
В настоящее время существует потребность в совместимых стандартах для различных типов медиа, включая видео, изображения и текстовые документы. Несмотря на наличие технологий определения происхождения контента, эта область остаётся незрелой. Ключевыми среди них являются доверенные временные метки и криптографически защищённые метаданные, помогающие подтвердить, что материалы не были подделаны. Однако существуют проблемы, связанные с их разработкой, включая способы и сроки внедрения.
Современные технологии также возлагают несправедливое бремя на конечного пользователя, предполагая то, что он сам должен понимать природу происхождения той или иной информации. Человек должен иметь возможность читать и просматривать метаданные полученного контента, чтобы оценить его легитимность, вместо того, чтобы делать оценку по водяным знакам или аналогичным признакам. Система определения происхождения должна позволять пользователю проверять, кто и когда создал материал, и были ли в него внесены какие-либо изменения.
Поскольку киберпреступники всё чаще используют изображения, видео и тексты, созданные ИИ, возможность отслеживать происхождение и историю правок цифровых медиафайлов представляет собой критически важную меру защиты. Отчёт NCSC и CCCS призван помочь другим уверенно и чётко ориентироваться в этой сложной области.
Усам Оздемиров
.png)