Google будет премировать за обнаружение ошибок в ИИ

Google запустила новую программу вознаграждений за обнаружение уязвимостей ИИ (VRP), которая предлагает базовое вознаграждение до 30 тыс. долларов за обнаруженные в её продуктах ошибки.

Целью названы проблемы, в которых взаимодействие с большой языковой моделью или другой системой генеративного ИИ является неотъемлемой частью уязвимости или злоупотребления. Помимо прочего, это мошеннические действия, кража конфиденциальных данных, возможность фишинга и кража самой модели. В сферу охвата войдут флагманские продукты, такие как Google Search, Gemini и Workspace.

AI VRP была разработана на основе отзывов исследователей, участвовавших ранее в программе Abuse VRP. Компания создала единую таблицу вознаграждений за выявление нарушений и проблем безопасности, связанных с нейросетями, и именно ею будет руководствоваться единая комиссия при принятии соответствующих решений. Google призвала заинтересованных лиц использовать встроенные функции искусственного интеллекта для сообщения о погрешностях, связанных с контентом.

«Мы надеемся, что эти новшества помогут нашим уважаемым исследователям сосредоточиться на целях с наибольшим воздействием (и максимальной выгодой!)», — говорится в корпоративном блоге.

Техгигант добавил, что желающие могут пожертвовать свои вознаграждения какой-либо благотворительной организации, а он готов их удвоить. Невостребованные в течение 12 месяцев суммы будут направлены на те же цели, но уже по выбору самой Google.

Усам Оздемиров