Удалить трансформеры предложений HuggingFace из оперативной памяти? ⇐ Python

[Anonymous]

Я использую следующий скрипт для загрузки преобразователей предложений с помощью LangChain:

Код: Выделить всё

from langchain_community.embeddings import HuggingFaceEmbeddings

embedding_function = HuggingFaceEmbeddings(
model_name="sentence-transformers/all-MiniLM-L12-v2", model_kwargs={'device': 'cpu'})

После использования я хочу удалить модель и выгрузить ее из оперативной памяти.

Код: Выделить всё

python==3.11.7
langchain==0.1.16
langchain_community==0.0.32
langchain_core==0.1.42
sentence-transformers==2.6.1

Я попробовал выполнить обычный процесс удаления Python, но он не работает:

Код: Выделить всё

import gc
del embedding_function
gc.collect()

Я проверяю память терминала в диспетчере задач Windows. Когда я удаляю строку embedding_function = ..., объем памяти становится ниже 50 МБ; когда я добавляю его, объем памяти все еще превышает 400 МБ.

Подробнее здесь: https://stackoverflow.com/questions/783 ... ram-memory