Anonymous
Как выполнить проект Python Api в функции Azure для запуска как API
Сообщение
Anonymous » 28 окт 2024, 10:14
Когда код выполняется, он берет файл из указанного места для преобразования в индексацию JSON и ответа на запрос пользователя, например внедрение OpenAI.
Код: Выделить всё
import os
from langchain import OpenAI
from gpt_index import SimpleDirectoryReader, GPTSimpleVectorIndex, LLMPredictor, PromptHelper
from flask import Flask
from flask_restful import Api
app = Flask(__name__)
api = Api(app)
def env(apikey):
os.environ["OPENAI_API_KEY"] = apikey
def construct_index(directory_path):
max_input_size = 4096
num_outputs = 512
max_chunk_overlap = 20
chunk_size_limit = 600
prompt_helper = PromptHelper(max_input_size, num_outputs, max_chunk_overlap, chunk_size_limit=chunk_size_limit)
llm_predictor = LLMPredictor(llm=OpenAI(temperature=0.7, model_name="text-davinci-003", max_tokens=num_outputs))
documents = SimpleDirectoryReader(directory_path).load_data()
index = GPTSimpleVectorIndex(documents, llm_predictor=llm_predictor, prompt_helper=prompt_helper)
index.save_to_disk('index.json')
return index
def chatbot(input_text):
index = GPTSimpleVectorIndex.load_from_disk('index.json')
response = index.query(input_text, response_mode="compact")
return response.response
index = construct_index("docs") #location where it take the file for indexing.
@app.route('/testapi//')
def query(apikey,input):
akey = env(apikey)
req = chatbot(input)
return req
if __name__ == "__main__":
app.run()
Я пытался создать приложение-функцию на портале Azure, но не смог использовать свой код Python, это не удалось.
Подробнее здесь:
https://stackoverflow.com/questions/759 ... run-as-api
1730099646
Anonymous
Когда код выполняется, он берет файл из указанного места для преобразования в индексацию JSON и ответа на запрос пользователя, например внедрение OpenAI. [code]import os from langchain import OpenAI from gpt_index import SimpleDirectoryReader, GPTSimpleVectorIndex, LLMPredictor, PromptHelper from flask import Flask from flask_restful import Api app = Flask(__name__) api = Api(app) def env(apikey): os.environ["OPENAI_API_KEY"] = apikey def construct_index(directory_path): max_input_size = 4096 num_outputs = 512 max_chunk_overlap = 20 chunk_size_limit = 600 prompt_helper = PromptHelper(max_input_size, num_outputs, max_chunk_overlap, chunk_size_limit=chunk_size_limit) llm_predictor = LLMPredictor(llm=OpenAI(temperature=0.7, model_name="text-davinci-003", max_tokens=num_outputs)) documents = SimpleDirectoryReader(directory_path).load_data() index = GPTSimpleVectorIndex(documents, llm_predictor=llm_predictor, prompt_helper=prompt_helper) index.save_to_disk('index.json') return index def chatbot(input_text): index = GPTSimpleVectorIndex.load_from_disk('index.json') response = index.query(input_text, response_mode="compact") return response.response index = construct_index("docs") #location where it take the file for indexing. @app.route('/testapi//') def query(apikey,input): akey = env(apikey) req = chatbot(input) return req if __name__ == "__main__": app.run() [/code] Я пытался создать приложение-функцию на портале Azure, но не смог использовать свой код Python, это не удалось. Подробнее здесь: [url]https://stackoverflow.com/questions/75900129/how-to-execute-python-api-project-in-azure-function-to-run-as-api[/url]