Anthropic запретил оскорблять Claude

Компания Anthropic запретила пользователям жестоко обращаться и оскорблять чат-бот Claude. Об этом сообщается на их сайте.

Каждый год компания обновляет политику использования искусственного интеллекта. В этой версии большинство обновлений направлено на уточнение уже существующих правил. А именно как их применять к новым возможностям нейросети.

В одном из пунктов компания вводит запрет на жестокое обращение с чат-ботом. «Мы добавили запрет на постоянное и ненужное оскорбительное или жестокое поведение по отношению к нашим моделям», — говорится в заявлении.

Компания уточнила, что это касается только крайних случаев, когда пользователь неоднократно пишет оскорбления без видимой цели. «Оно не распространяется на обычные проявления недовольства и несогласия со стороны пользователей, творческие произведения с мрачной тематикой, а также на тестирование моделей и проведение исследований», — сообщается на сайте.

Также компания внесла обновления, касающиеся безопасности. Она ввела запрет на использование чат-бота с целью вмешательства в выборы, слежки за людьми без их ведома, разработки оружия, создания фейковых новостных порталов и контента.

Обновленная политика вступит в силу с 12 ноября.