Различные контрольные суммы внедрения после кодирования с помощью SentenceTransformers? ⇐ Python

[Гость]

Я вычисляю некоторые вложения с помощью библиотеки SentenceTransformers. Однако я получаю разные результаты при кодировании предложений и вычислении их вложений при проверке суммы их значений. Например:
В:

Код: Выделить всё

RANDOM_SEED = 42
np.random.seed(RANDOM_SEED)
random.seed(RANDOM_SEED)
tf.random.set_seed(RANDOM_SEED)
torch.manual_seed(RANDOM_SEED)

transformer_models = [
'M-CLIP/M-BERT-Distil-40',
]

sentences = df['content'].tolist()

for transformer_model in tqdm(transformer_models, desc="Transformer Models"):
tqdm.write(f"Processing with Transformer Model: {transformer_model}")
model = SentenceTransformer(transformer_model)
embeddings = model.encode(sentences)
print(f"Embeddings Checksum for {transformer_model}:", np.sum(embeddings))

Выход:

Код: Выделить всё

Embeddings Checksum for M-CLIP/M-BERT-Distil-40: 1105.9185

Или

Код: Выделить всё

Embeddings Checksum for M-CLIP/M-BERT-Distil-40: 1113.5422

I noticed this situation happens when I restart and clear the output of the jupyter notebook, and then re-run the full notebook. Any idea of how to fix this issue?


Источник: https://stackoverflow.com/questions/781 ... ansformers