Армия США на защите искусственного интеллекта

Армия США готовит ПО для защиты технологий распознавания лиц, которые используются в военных приложениях. Учёные Университета Дьюка (Северная Каролина) разработали инструмент, предназначенный для отражения хакерских атак на военные приложения с технологиями распознавания лиц.

Технологии распознавания лиц и объектов используются в ВС США для обучения систем искусственного интеллекта в беспилотных летательных аппаратах, системах слежения и многом другом. Угрозой являются бэкдоры в платформах распознавания лиц – с их помощью злоумышленники могут повлиять на обучение ИИ.

Модели искусственного интеллекта опираются на массивные наборы данных, и в случае компрометации используемых для распознавания лиц данных (одежда, форма ушей, цвет глаз и т.п.) ИИ будет неверно идентифицировать людей.

Это будет иметь серьёзные последствия для программ слежения – подозреваемые с большой вероятностью будут идентифицированы неверно и в итоге избегут обнаружения.

Разработанный в Университете Дьюка инструмент слой за слоем сканирует изображения в поисках признаков постороннего вмешательства. На его создание ушло девять месяцев и 60 тыс. долларов (грант Армейской исследовательской лабораторией).