Signal: Агентный ИИ плохо совместим со сквозным шифрованием

Президент Signal Мередит Уиттакер в интервью Bloomberg призналась, что использует чат-ботов только для того, чтобы «отформатировать документ время от времени». «Это не ваши друзья. Это не разумные существа. Это не чувствующие собеседники», — заявила она.

Помимо сохранения уникальности собственных мыслей Уиттакер заботит повсеместное превращение ботов в агентов. Поводом для этого в том числе стало обещание главы Microsoft AI Мустафы Сулеймана уже в этом году поручить Copilot закрыть вопрос рождественского шопинга. Это означает купить всем подарки, например, прослушав семейный групповой чат с целью выявить предпочтения.

Глава Signal увидела здесь потенциальную проблему: чтобы реализовать подобную модель, ассистенту нужен доступ к банковской карте, домашнему адресу, календарю, браузеру и мессенджеру, а также право писать родственникам пользователя от его имени. «Это система с очень широким доступом сразу к множеству приложений и сервисов, — подчеркнула эксперт. — В контексте Signal это было бы чем-то вроде бэкдора».

Под бэкдором здесь, вероятно, подразумевается плохая совместимость агентного ИИ со сквозным шифрованием. Если ассистент читает сообщения до того, как они зашифрованы, или после расшифровки, то шифрование переписки теряет смысл — она, так или иначе, обрабатывается в открытом виде прямо на устройстве.

Несмотря на то, что отрасль делает большую ставку на агентов, Мередит Уитакер не видит этот сценарий развития ИИ-технологий основным или тем более неизбежным. И ставит во главу угла приватность.