Гендиректор OpenAI Сэм Альтман заявил, что мир может оказаться на грани «кризиса мошенничества» из-за того, что искусственный интеллект позволяет злоумышленникам выдавать себя за других людей.
«Меня пугает то, что, судя по всему, некоторые финансовые учреждения все ещё принимают слепок голоса в качестве подтверждения личности при переводе крупных сумм или для каких-либо других действий — вы говорите контрольную фразу, и они просто это делают. Это просто безумие… ИИ полностью превзошёл большинство существующих способов аутентификации, за исключением паролей», — сказал Альтман.
Эти комментарии прозвучали во время выступления топ-менеджера, посвящённого экономическому и социальному влиянию нейросетей, которое недавно прошло в стенах Федеральной резервной системы. Глава OpenAI также рассказал аудитории, среди которой были представители крупных финансовых институтов США, о той роли, которую ИИ будет играть в экономике. Это совпало с ожидаемой в ближайшие дни публикацией Белым домом «Плана действий в области ИИ» — политического документа, определяющего подход к регулированию данной технологии и нацеленного на доминирование Америки в этой сфере.
Несмотря на предупреждения Сэма Альтмана о рисках, OpenAI призвала президентскую администрацию избегать регулирования, которое, по её мнению, может помешать техкомпаниям конкурировать с зарубежными инновациями в области ИИ (ранее Сенат США проголосовал за исключение из законопроекта Дональда Трампа спорного положения, которое бы запрещало отдельным штатам применять законы, связанные с ИИ, в течение десяти лет).
Альтман не одинок в своих опасениях насчёт использования нейросетей в преступных целях. В прошлом году ФБР предупреждало о мошенничествах, связанных с «клонированием» голоса и видео посредством инструментов ИИ: многие родители жаловались, что технология применялась с целью выманить у них деньги под предлогом того, что их дети якобы попали в беду. Также недавно официальные лица США рассказали о злоумышленнике, который, используя ИИ для имитации голоса госсекретаря Марко Рубио, связался с министрами, губернатором США и членом Конгресса от его лица.
«Я очень обеспокоен тем, что нам грозит серьёзный, надвигающийся кризис мошенничества, — заключил гендиректор OpenAI. — Сейчас это голосовой звонок; скоро это будет видеозвонок или FaceTime, неотличимые от реальности». По словам спикера, это вызов, с которым миру вскоре придётся столкнуться по мере развития искусственного интеллекта.
Среди прочего, Сэм Альтман поддержал концепцию инструмента The Orb, разработанного компанией Tools for Humanity. Он — предположительно — должен предоставить «доказательство человеческой природы» в мире, где нейросети затрудняют различение реального и виртуального.
Усам Оздемиров
