Оллама ничего не сохраняет в контекстеC#

Место общения программистов C#
Ответить Пред. темаСлед. тема
Anonymous
 Оллама ничего не сохраняет в контексте

Сообщение Anonymous »

Я возился с ollama в кодировании C#, и мне удалось заставить его выдавать мне выходные данные и даже взаимодействовать с моим кодом, однако, используя предоставленный ими пример, я столкнулся с проблемой, когда LLM не сохраняет предыдущие разговоры, и я закончил небрежным методом добавления инструкций вместе с моими подсказками.
Вот мой код:

Код: Выделить всё

public async void Prompt(string prompt)
{
output = "";
string input = instructions + prompt;
context = await ollama.StreamCompletion(input, context, stream => output += (stream.Response));
Console.WriteLine(output);
}
Вывод — это строка, я могу изменить ее на что-то, что позволит позже сохранить больше переменных.
Контекст — это переменная ConversationContext.
Идея состоит в том, чтобы дать ему подсказку, по которой он должен следить за всем разговором, однако в настоящее время это необходимо ввести с помощью инструкций, добавляемых перед моим приглашением. Это не идеально, так как это противоречит цели LLM.
Что я хочу сделать, так это:
Вводить инструкции только при запуске.
Подсказки о вызовах как обычно.
При необходимости пусть он выполняет инструкции.
Я пробовал context += Но это недопустимый метод. Я искал решение этой проблемы, но нашел только еще один вопрос по этому поводу, и это было в феврале.

Подробнее здесь: https://stackoverflow.com/questions/788 ... in-context
Реклама
Ответить Пред. темаСлед. тема

Быстрый ответ

Изменение регистра текста: 
Смайлики
:) :( :oops: :roll: :wink: :muza: :clever: :sorry: :angel: :read: *x)
Ещё смайлики…
   
К этому ответу прикреплено по крайней мере одно вложение.

Если вы не хотите добавлять вложения, оставьте поля пустыми.

Максимально разрешённый размер вложения: 15 МБ.

  • Похожие темы
    Ответы
    Просмотры
    Последнее сообщение

Вернуться в «C#»