Google: Безопасное прерывание может быть полезным для контроля над роботом, который ведёт себя неправильно

Демис Хассабис, глава отдела искусственного интеллекта Google DeepMind, заявил на фестивале Future of Everything, что через несколько лет может появиться ИИ человеческого уровня. До того многие эксперты предполагали, что такая технология появится не ранее, чем через десятилетия.

Хассабис спрогнозировал появление AGI (Artificial general intelligence) — искусственного общего интеллекта, то есть ИИ-систем, способных мыслить превосходящим человека способом. Вместе с тем представитель Google разрабатывает меры предосторожности в этой сфере, чтобы предотвратить возможный вред для человечества.

«Я бы предложил разрабатывать такие технологии AGI осмотрительно, используя научный метод — когда вы стараетесь провести очень тщательные контролируемые эксперименты, чтобы понять, что делает базовая система», — сказал он.

Ранее специалисты DeepMind, говоря о рисках, связанных с ИИ, достигшего человеческого уровня, предлагали иметь под рукой аварийный выключатель: «Безопасное прерывание может быть полезным для контроля над роботом, который ведёт себя неправильно и может привести к необратимым последствиям».

5 мая, 2023

Подписаться на новости BIS Journal / Медиа группы Авангард

Подписаться
Введите ваш E-mail

Отправляя данную форму вы соглашаетесь с политикой конфиденциальности персональных данных

19.07.2024
Глобальный сбой загнал компьютеры на Windows в «вечную» перезагрузку
19.07.2024
CrowdStrike: Это не инцидент безопасности или кибератака
19.07.2024
«Верификация и идентификация абонентов — главная задача»
19.07.2024
«Т-Банк» приглашает сыграть в азартные игры с опасными людьми
19.07.2024
«Ростелеком» пополнился разработчиком госинформсистем
18.07.2024
Власти обяжут СМИ импортозаместить профильное ПО и ИБ-решения?
18.07.2024
Банкирам кратно увеличат штрафы за мисселинг уже в этом году
18.07.2024
Шакал против чёрных топоров: Интерпол обескровил африканских мошенников
18.07.2024
«Хорошие мальчики» позаботятся о физической безопасности ЦОДов
18.07.2024
ИБ-почте — ИИ-секретаря. Нейросеть расширила возможности «Протона»

Стать автором BIS Journal

Поля, обозначенные звездочкой, обязательные для заполнения!

Отправляя данную форму вы соглашаетесь с политикой конфиденциальности персональных данных