ВТБ готовится представить модели-детекторы ИИ-материалов

В ВТБ рассказали, как распознать контент, созданный искусственным интеллектом. Так, Team Lead DS департамента анализа данных и моделирования банка Алексей Пустынников, порекомендовал в первую очередь тщательно изучить мелкие детали (когда речь идёт об изображении).

«Наиболее частыми признаками нейросетевой генерации становятся анатомические ошибки, например, лишние или деформированные пальцы, искажения перспективы, неестественные тени и отражения, а также артефакты или бессмысленные надписи. Кроме того, стоит насторожиться, если в кадре присутствуют предметы, которые нарушают законы физики или не соответствуют здравому смыслу. Такой подход позволяет вовремя распознать подделку, даже если на первый взгляд изображение кажется реалистичным», — пояснил он.

Ведущий специалист управления партнёрств и ИТ-процессов ВТБ Виктор Булатов прокомментировал проблему ИИ-текстов: их сегодня, как считает эксперт, отличить от написанных человеком крайне сложно — выдают, однако, избыточная дружелюбность, частые повторы стандартных оборотов, журналистские штампы и в целом наличие «воды».

«Важно всегда критически оценивать контент: насколько он полезен, сколько усилий вложено в его создание, используется ли в тексте личный опыт автора и можно ли проверить полученную информацию по независимым источникам», — подчеркнул Булатов.

Верифицировать новый контент помогают модели-детекторы, напомнили эксперты, уточнив, что собственно верификация материалов стала сверхактуальным подходом к работе с базами знаний и клиентскими интерфейсами, где важно исключить риск дезинформации или некорректных формулировок. Сам банк в ближайшем будущем намерен представить несколько таких моделей.