«Небезопасные или уязвимые системы ИИ неприемлемы»

Пять членов Сената США запросили у OpenAI доступ к новой ИИ-модели и заявили о беспокойстве по поводу практик безопасности компании. В письме на имя главы OpenAI Сэма Альтмана законодатели напомнили о партнёрстве ИИ-разработчика с госведомствами в части создания решений для защиты КИИ страны.

«Национальная и экономическая безопасность — одна из важнейших обязанностей правительства США, и небезопасные или уязвимые системы ИИ неприемлемы», — гласит сообщение сенаторов. Его авторы призвали Альтмана устранить пункты в трудовых договорах, которые ведут к наказанию сотрудников OpenAI, публично выражающих недовольство протоколами компании.

Кроме этого, законодатели потребовали от разработчика снова выделить 20% своих вычислительных ресурсов на исследования безопасности ИИ. Это уже было сделано год назад — когда OpenAI создала соответствующую команду сотрудников для работы с рисками, однако, позже эту группу рассеяли по разным корпоративным проектам.

Наконец, сенаторы хотят, чтобы компания предоставила госорганам свою следующую основную ИИ-модель для предварительного тестирования. А независимые ИБ-эксперты должны иметь возможность ознакомиться с решениями вендора до их релиза.

OpenAI должна дать свой официальный ответ до 13 августа.