В Британии запустили открытую платформу для тестирования ИИ

Британский институт AI Safety Institute представил платформу для тестирования безопасности искусственного интеллекта — Inspect. Это программная библиотека, позволяющая как игрокам рынка, так и госорганизациям получать многофакторную оценку ИИ-моделей.

Inspect имеет открытую лицензию (что значит, ею может воспользоваться любой желающий) и включает три основных компонента:

  • наборы данных — предоставляют образцы для оценочных тестов;
  • инструменты для решения задач — собственно проводят тестирование;
  • инструменты для оценки результатов — суммируют баллы в метрики.

Уточняется, что платформу можно дополнить сторонними пакетами, написанными на Python. Это позволит адаптировать её для высококачественной оценки.

В AI Safety Institute рассказали, что при создании Inspect вдохновлялись ведущими разработчиками ИИ-решений с открытым исходным кодом, и в дальнейшем — уже в сотрудничестве с другими компаниями и офисом премьер-министра Великобритании — планируют работать над новыми open-source-инструментами безопасности ИИ. Такие инструменты легче интегрировать в существующие модели, пояснили представители института.

16 мая, 2024

Подписаться на новости BIS Journal / Медиа группы Авангард

Подписаться
Введите ваш E-mail

Отправляя данную форму вы соглашаетесь с политикой конфиденциальности персональных данных

10.07.2025
От айтишников всё чаще требуют развитых soft skills
10.07.2025
Хакер попытался украсть личность госсекретаря США с помощью ИИ
10.07.2025
Финрегулятор хочет раскрыть имена собственников банков
10.07.2025
«Большая часть компаний начинает инвестировать в ИБ только в ответ на требования извне»
10.07.2025
Telegram эволюционирует, скамеры — тоже
09.07.2025
Депутаты не одобрили деятельность «белых шляп»
09.07.2025
Командная игра в семь раз сократила объём NFC-хищений в России
09.07.2025
Trend Micro: У зловреда Bert — российские корни (вероятно)
09.07.2025
Только 5% компаний закладывает потери от кибератак в ИБ-бюджет
09.07.2025
В японские воды сойдёт дата-центр на 10000 тонн

Стать автором BIS Journal

Поля, обозначенные звездочкой, обязательные для заполнения!

Отправляя данную форму вы соглашаетесь с политикой конфиденциальности персональных данных