Google: Безопасное прерывание может быть полезным для контроля над роботом, который ведёт себя неправильно

Демис Хассабис, глава отдела искусственного интеллекта Google DeepMind, заявил на фестивале Future of Everything, что через несколько лет может появиться ИИ человеческого уровня. До того многие эксперты предполагали, что такая технология появится не ранее, чем через десятилетия.

Хассабис спрогнозировал появление AGI (Artificial general intelligence) — искусственного общего интеллекта, то есть ИИ-систем, способных мыслить превосходящим человека способом. Вместе с тем представитель Google разрабатывает меры предосторожности в этой сфере, чтобы предотвратить возможный вред для человечества.

«Я бы предложил разрабатывать такие технологии AGI осмотрительно, используя научный метод — когда вы стараетесь провести очень тщательные контролируемые эксперименты, чтобы понять, что делает базовая система», — сказал он.

Ранее специалисты DeepMind, говоря о рисках, связанных с ИИ, достигшего человеческого уровня, предлагали иметь под рукой аварийный выключатель: «Безопасное прерывание может быть полезным для контроля над роботом, который ведёт себя неправильно и может привести к необратимым последствиям».

5 мая, 2023

Подписаться на новости BIS Journal / Медиа группы Авангард

Подписаться
Введите ваш E-mail

Отправляя данную форму вы соглашаетесь с политикой конфиденциальности персональных данных

01.07.2025
«Национальный мессенджер» закрыл первый миллион
01.07.2025
МТС приготовила всем по маленькому «большому брату»
01.07.2025
NCSC заманивает компании к участию в программе, страдающей из-за недостатка интереса
01.07.2025
ruID как пред-«Госуслуги». Новый сервис для приезжающих в Россию
01.07.2025
«Лидеры рынка уже не ограничиваются точечными инструментами»
01.07.2025
К давлению на Apple подключилась даже нейтральная Швейцария
01.07.2025
АНБ и CISA хотят снизить уязвимость ПО с помощью TRACTORа
30.06.2025
Всё связать до 1 июля: «симку», биометрию, «Госуслуги»
30.06.2025
Нейросетям поставили задачу усовершенствовать бюджетный процесс
30.06.2025
Draugnet послужит демократизации отчётности по киберугрозам

Стать автором BIS Journal

Поля, обозначенные звездочкой, обязательные для заполнения!

Отправляя данную форму вы соглашаетесь с политикой конфиденциальности персональных данных