Anthropic требует относиться к «Клоду» уважительно

Anthropic обновила политику использования своих продуктов, закрепив запреты, касающиеся вмешательства в выборы с помощью фейковых новостных ресурсов и теневых аккаунтов; разработки ПО для создания оружия и систем слежения; а также оскорбления чат-ботов.

Комментируя последнее, вендор отметил, что теперь нейросеть Claude настроена на прекращение диалога в случае «систематически вредоносного или оскорбительного поведения» человека.

«Обновлённые правила призваны действовать лишь в крайних случаях, когда пользователи неоднократно и без какой‑либо явной цели ведут себя жестоко по отношению к нашим моделям. Они не распространяются на случаи, когда пользователи просто выражают недовольство или несогласие, обращаются к мрачным творческим темам, а также проводят тестирование или исследования модели», — пояснили в компании, добавив, что блокировка аккаунта нарушителя останется крайней мерой.