Компания Anthropic обновила политику использования нейросети Claude. В частности, там появился пункт, запрещающий пользователям регулярно и бессмысленно оскорблять языковые модели. Новые ограничения вступят в силу с 12 ноября.
В новых правилах говорится, что Claude сможет прекратить беседу с пользователем, если он неоднократно проявляет жестокость по отношению к нейросети без видимой причины. В компании не уточнили, будут ли для пользователя дополнительные санкции, например, блокировка аккаунта.
Anthropic обещает, что такой механизм будет применяться только в крайних случаях. Обновление не распространяется на обычные случаи, связанные с разочарованием пользователя от результата работы, спорами с нейросетью или тестированием и исследованием моделей.
В обновлённой политике также расширили виды деятельности, для которых запрещено использовать Claude. В частности, нейросеть нельзя применять для вмешательства в выборы, слежки за людьми и в процессе привлечения людей к административной или уголовной ответственности.