Как я могу выделить память чата для модели openai? ⇐ Python

[Anonymous]

Я работаю в django, у меня есть представление, в котором я вызываю openai API, а во внешнем интерфейсе я работаю с реагированием, где у меня есть чат-бот, я хочу, чтобы модель имела запись данных, например на странице чата.

Код: Выделить всё

class chatbot(APIView):

def post(self, request):
chatbot_response = None
if api_key is not None and request.method == 'POST':
openai.api_key = api_key
user_input = request.data.get('user_input')
prompt = user_input

response = openai.Completion.create(
model = 'text-davinci-003',

prompt = prompt,
max_tokens=250,
temperature=0.5
)

chatbot_response = response["choices"][0]["text"]
if chatbot_response is not None:
return Response({"response": chatbot_response}, status=status.HTTP_200_OK)
else:
return Response({'errors': {'error_de_campo': ['Promt vacio']}},
status=status.HTTP_404_NOT_FOUND)

Я планировал создать модель и сохранить вопросы в базе данных, но не знаю, как интегрировать эту информацию в представление, меня беспокоит расход токенов, Я действительно не знаю, как это работает. Я надеюсь, что кто-то сможет прояснить для меня эти сомнения. спасибо большое.

Подробнее здесь: https://stackoverflow.com/questions/763 ... enai-model