ИИ расист? Предвзятость алгоритмов может нарушить закон

Федеральная торговая комиссия США изучает работу искусственного интеллекта на предмет предвзятости. Ведомство напоминает, что продажа или использование дискриминирующих алгоритмов ИИ может привести к нарушению федерального закона.

А именно предвзятый ИИ может нарушить «Закон о справедливой кредитной отчетности», а также «Закон о равных возможностях кредитования». Первый относится к случаям, когда ИИ-алгоритмы используются для отказа людям в трудоустройстве, жилье, кредите, страховке или других льготах.

Использование алгоритма, дискриминирующего по признаку расы, цвета кожи, религии, национального происхождения, пола, семейного положения или возраста также нарушает и «Закон о равных возможностях кредитования».

Комиссия призывает компании проверить алгоритмы своего искусственного интеллекта на предвзятость и не преувеличивать возможности используемых систем, основанных на наборах данных с ключевой демографической информацией.