У меня есть несколько слов, которые я не хочу, чтобы Клод произносил. Независимо от того, как я это подскажу, существует ненулевая вероятность того, что он все равно будет получен на выходе. Поэтому я хочу, чтобы он останавливался, когда он производит такое слово, вместо того, чтобы бесполезно создавать длинные последовательности, которые я все равно буду отфильтровывать и тратить деньги. Есть ли способ сделать это?
Пока у меня есть такая базовая подсказка
Код: Выделить всё
payload = {
"prompt": "Tell me a 500 word joke but make sure it doesn't include the word 'blood' ",
"model": "claude-3-5-sonnet-20240620",
"max_tokens_to_sample": 50
}
headers = {
"Authorization": f"Bearer {API_KEY}",
"Content-Type": "application/json",
}
response = requests.post(API_ENDPOINT, json=payload, headers=headers)
Я попробовал запустить его с помощью приглашения, но заметил, что иногда слово «кровь» по-прежнему создается в виде шуток из 500 слов, которые мне приходится обрезать или игнорировать, так что это пустая трата ресурсов.< /п>
Подробнее здесь:
https://stackoverflow.com/questions/790 ... cial-words