OpenAI собирает команду для разработки способов управления и контроля над «сверхразумным» ИИ, который — по прогнозам самой компаний — может появиться в течение десятилетия. И совсем обязательно он будет доброжелательно настроенным к создателям.

Актуальные методы (такие как обучение с подкреплением на основе отзывов пользователей) основаны на способности людей контролировать искусственный интеллект. Но они не спасут в случае с ИИ-системой, которая значительно умнее человека.

Новой команде предоставят доступ к 20% вычислений компаний. Вместе со штатными инженерами, а также исследователями из других организаций она будет решать поставленные задачи в течение следующих четырёх лет. А именно:

  • обучать ИИ-системы, используя обратную связь от людей;
  • обучать робота помогать в оценке других систем ИИ;
  • создавать ИИ, который сам сможет проводить контроль за нейросетями.

17 июля, 2023

Подписаться на новости BIS Journal / Медиа группы Авангард

Подписаться
Введите ваш E-mail

Отправляя данную форму вы соглашаетесь с политикой конфиденциальности персональных данных

01.07.2025
«Национальный мессенджер» закрыл первый миллион
01.07.2025
МТС приготовила всем по маленькому «большому брату»
01.07.2025
NCSC заманивает компании к участию в программе, страдающей из-за недостатка интереса
01.07.2025
ruID как пред-«Госуслуги». Новый сервис для приезжающих в Россию
01.07.2025
«Лидеры рынка уже не ограничиваются точечными инструментами»
01.07.2025
К давлению на Apple подключилась даже нейтральная Швейцария
01.07.2025
АНБ и CISA хотят снизить уязвимость ПО с помощью TRACTORа
30.06.2025
Всё связать до 1 июля: «симку», биометрию, «Госуслуги»
30.06.2025
Нейросетям поставили задачу усовершенствовать бюджетный процесс
30.06.2025
Draugnet послужит демократизации отчётности по киберугрозам

Стать автором BIS Journal

Поля, обозначенные звездочкой, обязательные для заполнения!

Отправляя данную форму вы соглашаетесь с политикой конфиденциальности персональных данных