Рендеринг потоковых фрагментов Markdown в IPython/Jupyter ⇐ Python

Программы на Python
Anonymous
Рендеринг потоковых фрагментов Markdown в IPython/Jupyter

Сообщение Anonymous »

Контекст таков: я передаю токены LLM из модели, и они находятся в Markdown, поэтому я хочу неоднократно добавлять их к визуализированному Markdown.
Это примерно тот код, который я использую с чистым текстом:

Код: Выделить всё

async for chunk in response.receive():
print(chunk.text, end='')
Какие результаты:

Код: Выделить всё

# Document heading

Intro text

* A bullet point
* Another bullet point
Но я хочу отобразить уценку:

Код: Выделить всё

from IPython import display, Markdown

async for chunk in response.receive():
display(Markdown(chunk.text))
Поскольку при каждом вызове выводится блок уценки, между каждым фрагментом есть перерывы (но со случайным форматированием):

Код: Выделить всё

Document
heading

Intro
text

*
A
bullet point
*
Another
bullet point
Есть ли способ сделать это естественным образом с помощью IPython или другой библиотеки? Или мне нужно вручную буферизовать и повторно отобразить ответ?

Подробнее здесь: https://stackoverflow.com/questions/794 ... on-jupyter

Вернуться в «Python»