Регулятор предостерёг юристов от злоупотребления ИИ

Управление по регулированию деятельности солиситоров Великобритании (Solicitors Regulation Authority/SRA) напомнило представителям юридического сектора об их обязанностях по безопасному и ответственному использованию нейросетей, выразив обеспокоенность по поводу возможных ИИ-галлюцинаций и утечек данных.

Регулятор опубликовал обращение с предупреждением в адрес юристов, которые «не выполняют свои обязательства перед судами, клиентами и третьими лицами и не всегда соблюдают все соответствующие правила и положения».

SRA обратило внимание на уже выявленные ИИ-галлюцинации в судебных документах — включая как самоотчёты адвокатов, так и сообщения о потенциальных нарушениях Кодекса поведения со стороны высокопоставленных членов судебной системы. Кроме того, наблюдались случаи, когда конфиденциальная информация подзащитных вносилась в общедоступные чат-боты, что вызывает у ведомства опасения на тему защиты чувствительных данных.

Управление порекомендовало юристам внедрять «эффективные структуры управления, системы и механизмы контроля» для управления ИИ-рисками, а также доверять информацию о клиентах ИИ-системам, только когда «присутствуют соответствующие договорные, технические и организационные гарантии для защиты конфиденциальности».

Те же, кто вводит суды в заблуждение, как утверждается, рискуют столкнуться с «серьёзными последствиями» — они должны обеспечить, чтобы все поданные ими ссылки на прецедентное право были подлинными, релевантными и имели проверяемую цитату. Меж тем представление на слушаниях материалов, скомпилированных с помощью нейросетей, может рассматриваться как неуважение к суду.

Вице-президент Юридического общества Англии и Уэльса Бретт Диксон заметил, что солиситоры обязаны ответственно применять современные системы: «Технологические инновации в юридических процессах и оказании услуг развиваются быстрыми темпами. SRA должно продолжать предоставлять профессиональному сообществу оперативные и чёткие рекомендации, чтобы юристы могли уверенно использовать ИИ в соответствии со своими обязанностями».

Усам Оздемиров