Google: Безопасное прерывание может быть полезным для контроля над роботом, который ведёт себя неправильно

Демис Хассабис, глава отдела искусственного интеллекта Google DeepMind, заявил на фестивале Future of Everything, что через несколько лет может появиться ИИ человеческого уровня. До того многие эксперты предполагали, что такая технология появится не ранее, чем через десятилетия.

Хассабис спрогнозировал появление AGI (Artificial general intelligence) — искусственного общего интеллекта, то есть ИИ-систем, способных мыслить превосходящим человека способом. Вместе с тем представитель Google разрабатывает меры предосторожности в этой сфере, чтобы предотвратить возможный вред для человечества.

«Я бы предложил разрабатывать такие технологии AGI осмотрительно, используя научный метод — когда вы стараетесь провести очень тщательные контролируемые эксперименты, чтобы понять, что делает базовая система», — сказал он.

Ранее специалисты DeepMind, говоря о рисках, связанных с ИИ, достигшего человеческого уровня, предлагали иметь под рукой аварийный выключатель: «Безопасное прерывание может быть полезным для контроля над роботом, который ведёт себя неправильно и может привести к необратимым последствиям».

5 мая, 2023

Подписаться на новости BIS Journal / Медиа группы Авангард

Подписаться
Введите ваш E-mail

Отправляя данную форму вы соглашаетесь с политикой конфиденциальности персональных данных

14.02.2025
Oracle готова построить «оракул» с помощью ДНК американцев
14.02.2025
Мнение: У владельцев ГИС часто отсутствует чётко выстроенный процесс работы с уязвимостями
13.02.2025
Standoff 15: кибербитва в мае соберёт около полусотни команд белых хакеров и защитников со всего мира
13.02.2025
Эксперты ВТБ представили краткий скам-обзор января
13.02.2025
В ближайшем будущем QR-коды будут содержать антифрод-измерение
13.02.2025
Минцифры начинает строить свой маленький валидатор навыков
13.02.2025
Мишустин — о весне в российском телеком-законодательстве
13.02.2025
ViPNet SafeBoot 3.2 сертифицирован по требованиям двух регуляторов
12.02.2025
UniCredit торопится выйти из России
12.02.2025
ФСТЭК России объявила о начале масштабных испытаний статических анализаторов

Стать автором BIS Journal

Поля, обозначенные звездочкой, обязательные для заполнения!

Отправляя данную форму вы соглашаетесь с политикой конфиденциальности персональных данных