Google: Безопасное прерывание может быть полезным для контроля над роботом, который ведёт себя неправильно

Демис Хассабис, глава отдела искусственного интеллекта Google DeepMind, заявил на фестивале Future of Everything, что через несколько лет может появиться ИИ человеческого уровня. До того многие эксперты предполагали, что такая технология появится не ранее, чем через десятилетия.

Хассабис спрогнозировал появление AGI (Artificial general intelligence) — искусственного общего интеллекта, то есть ИИ-систем, способных мыслить превосходящим человека способом. Вместе с тем представитель Google разрабатывает меры предосторожности в этой сфере, чтобы предотвратить возможный вред для человечества.

«Я бы предложил разрабатывать такие технологии AGI осмотрительно, используя научный метод — когда вы стараетесь провести очень тщательные контролируемые эксперименты, чтобы понять, что делает базовая система», — сказал он.

Ранее специалисты DeepMind, говоря о рисках, связанных с ИИ, достигшего человеческого уровня, предлагали иметь под рукой аварийный выключатель: «Безопасное прерывание может быть полезным для контроля над роботом, который ведёт себя неправильно и может привести к необратимым последствиям».

5 мая, 2023

Подписаться на новости BIS Journal / Медиа группы Авангард

Подписаться
Введите ваш E-mail

Отправляя данную форму вы соглашаетесь с политикой конфиденциальности персональных данных

29.08.2025
Число «биотранзакций» в России выросло в 11 раз год к году
29.08.2025
МФО вводят ещё одну ступень верификации заёмщиков
29.08.2025
Anthropic: Развитие ИИ снизило порог вхождения в киберпреступность
29.08.2025
На российский телеком движется долгая новогодняя ночь, а Max заходит в школы
29.08.2025
CISA изменит минимальные требования к поставщикам ПО эпохи Байдена
28.08.2025
Безопасники из ESET нашли прототип ИИ-вируса, пишущего скрипты
28.08.2025
«Гуглы» ужесточают требования к публикации Android-приложений
28.08.2025
Servicepipe реорганизует техподдержку и создаёт Инженерный центр реагирования на сетевые и веб-угрозы
28.08.2025
«Яндекс» получил более сорока штрафов за непредоставление ФСБ доступа к своим сервисам
28.08.2025
CIISec: Большинство безопасников хочет более строгих правил

Стать автором BIS Journal

Поля, обозначенные звездочкой, обязательные для заполнения!

Отправляя данную форму вы соглашаетесь с политикой конфиденциальности персональных данных