LMStudio не подключается к API React [закрыто]Javascript

Форум по Javascript
Ответить
Anonymous
 LMStudio не подключается к API React [закрыто]

Сообщение Anonymous »

Я построил приложение в React, и вдруг оно просто не подключается к LMStudio, никакой реакции в журналах приложения. Запросы на сгибание на модели. Ответьте, CORS включен и никогда не давал мне никаких проблем.

Код: Выделить всё

 const llmModelName = "lmstudio-community/gpt-oss-20b-MXFP4.gguf/"
const [chatHistory, setChatHistory] = useState([]);
const [chatInput, setChatInput] = useState('');
const [isChatting, setIsChatting] = useState(false);

const handleFetch = () => {
fetch('http://127.0.0.1:1234/v1/chat/completions')
.then(response => response.json())
.then(data => {
console.log(data);
})
.catch(error => {
console.error('Error fetching data:', error);
});
};

messages.push({
"role": "user",
"content": userMessageContent
});

try {
setStatus("Sending to LLM...");
const response = await fetch(lmStudioApiUrl, {
method: 'POST',
headers: { 'Content-Type': 'application/json' },
body: JSON.stringify({
model: llmModelName,
messages: messages,
temperature: 0.7,
}),
});
if (!response.ok) throw new Error(`HTTP error! status: ${response.status}`);
const data = await response.json();
const llmSummary = data.choices[0].message.content;

setReport(llmSummary);
setChatHistory([
...messages,
{ "role": "assistant", "content": llmSummary }
]);

} catch (error) {
console.error("Failed to call local LLM API:", error);
setReport(`Failed to get summary from local LLM. Error: ${error.message}`);
} finally {
setLoading(false);
setStatus("Final report ready. You can now chat below.");
setIsChatting(true);
}
};



Подробнее здесь: https://stackoverflow.com/questions/797 ... -api-react
Ответить

Быстрый ответ

Изменение регистра текста: 
Смайлики
:) :( :oops: :roll: :wink: :muza: :clever: :sorry: :angel: :read: *x)
Ещё смайлики…
   
К этому ответу прикреплено по крайней мере одно вложение.

Если вы не хотите добавлять вложения, оставьте поля пустыми.

Максимально разрешённый размер вложения: 15 МБ.

Вернуться в «Javascript»