ICO потребовало от ИИ-вендоров повысить прозрачность

Десять крупных ИИ-компаний внесло изменения в свои политики защиты данных для Великобритании (или пообещало сделать это) после того, как Управление комиссара по информации (ICO) призвало их повысить транспарентность процессов обработки.

Google, Microsoft, Amazon, Apple, OpenAI, Anthropic, Cohere, DeepSeek, StabilityAI и признанная в России экстремистской Meta приняли на себя обязательства, которые варьируются от предоставления более чёткой и понятной информации о методах работы с данными до внедрения надёжных механизмов, позволяющих пользователям реализовывать свои права, а также проведения более строгой оценки защитных мер.

Ранее в своём отчёте, касающемся работы ИИ-агентов, регулятор буквально потребовал, чтобы вендоры в процессе обучения моделей брали в расчёт законные основания для обработки данных, реальную прозрачность процессов и права пользователей.

Эти шаги предприняты на фоне запуска ICO шестинедельной процедуры сбора мнений среди представителей сообщества о том, как организации управляют ИБ-рисками при использовании автономных агентов. Ведомство уже направило запросы компаниям OpenAI, Anthropic и Meta, а также британскому Институту безопасности ИИ (AISI) касательно недавних испытаний и внедрения таких систем.

Управление отметило, что по мере развития ботов меняется и характер сопутствующих угроз: от моментов, относящихся к обучению LLM, до проблем, связанных с их самостоятельным поведением после интеграции. Ричард Невинсон, директор ICO по вопросам регулирования технологий, подчеркнул: хотя ИИ обладает «огромным потенциалом для блага общества», реализация этого потенциала «зависит от доверия и прозрачности».

И, как отмечают в ведомстве, это доверие находится под угрозой, поскольку всё чаще появляются сообщения о возможности извлечения данных, использованных для обучения моделей. Они могут быть получены из интернета и содержать конфиденциальную информацию — например, подписи в электронных письмах, API-ключи и пароли, создавая предпосылки для несанкционированного доступа к закрытым системам.

Собранный в ходе этого процесса материал ляжет в основу будущих рекомендаций ICO, призванных «внести больше ясности для организаций» и «помочь им внедрять инновации ответственно», обеспечивая при этом защиту прав граждан. Это также поспособствует разработке готовящегося официального свода правил ведомства, касающегося ИИ-сферы и систем автоматизированного принятия решений.

На этом фоне регулятор подтвердил старт официальных расследований в отношении компаний X Internet Unlimited Company (XIUC) и X.AI LLC (X.AI) на предмет обработки ПДн в рамках работы чат-бота Grok, а также риска создания им вредоносного контента сексуального характера (как изображений, так и видео).

Ещё одним приоритетным направлением для ICO стала растущая персонализация ИИ-сервисов, ориентированных на массового потребителя, — в частности, популярных нейросетей общего назначения, а также LLM, предназначенных для ролевых игр и общения.

Усам Оздемиров