Метрика оценки BLUERT потребляла слишком много оперативной памяти ⇐ Python

[Anonymous]

Коды BLEURT почти израсходовали все 24 ГБ ОЗУ NVIDIA GeForce RTX 4090 для оценки всего одного набора предложений.

Код: Выделить всё

ref = 'reference sentence here'
hypo = 'hypothesis sentence here'

scores = {}
import evaluate
metric_bleurt = evaluate.load('bleurt')
bleurt = metric_bleurt.compute(predictions=[hypo], references=[ref])
scores["bleurt"] = round(bleurt["scores"][0], 3)
print(scores)

Общий объем использованной памяти — 22290 МБ. Как это возможно? Как уменьшить использование памяти при оценке BLEURT? Спасибо.

ОБНОВЛЕНИЕ В библиотеке Assessment по умолчанию загружается контрольная точка BLEURT-BASE-128

UPDATE. код>. Чтобы установить меньшую контрольную точку, я использую metric_bleurt = Assessment.load('bleurt', config_name="bleurt-tiny-128") (который недокументирован). Тем не менее, при использовании контрольной точки BLEURT Tiny занято 22 ГБ ОЗУ.

Подробнее здесь: https://stackoverflow.com/questions/793 ... o-much-ram