Оптимизация эффективности вставки данных в коллекции Milvus: устранение задержек с помощью минимальных наборов данныхPython

Программы на Python
Ответить Пред. темаСлед. тема
Anonymous
 Оптимизация эффективности вставки данных в коллекции Milvus: устранение задержек с помощью минимальных наборов данных

Сообщение Anonymous »

При вставке минимальных данных в коллекцию Milvus тратится значительное количество времени, и причина такой задержки не очевидна. Не могли бы вы дать рекомендации по решению этой проблемы?
информация о моей коллекции:

Код: Выделить всё

fields = [FieldSchema(name='id', dtype=DataType.INT64, description='ids', max_length=200, is_primary=True, auto_id=False),
FieldSchema(name='human_id', dtype=DataType.INT64, description='human_ids', max_length=2000, is_primary=False, auto_id=False),
FieldSchema(name='human_name', dtype=DataType.VARCHAR, description='names of human classes', max_length=1000, auto_id=False),
FieldSchema(name='vector', dtype=DataType.FLOAT_VECTOR, description='embedding vectors', dim=embedding_dimensions),]

schema = CollectionSchema(fields=fields, description='classification')
collection = Collection(name=collection_name, schema=schema)
index_params = {
'metric_type': metric_type,
'index_type': index_type,
'params':  {"nlist": parameter_number}}
collection.create_index(field_name="vector", index_params=index_params)

METRIC_TYPE = "COSINE"
INDEX_TYPE = "IVF_FLAT"
PARAMETER_NUMBER = 128

collection = Collection(collection_name)
collection.insert(data)`
Регулировка кратности общих номеров для повышения эффективности загрузки при управлении коллекциями


Подробнее здесь: https://stackoverflow.com/questions/781 ... -delays-wi
Реклама
Ответить Пред. темаСлед. тема

Быстрый ответ

Изменение регистра текста: 
Смайлики
:) :( :oops: :roll: :wink: :muza: :clever: :sorry: :angel: :read: *x)
Ещё смайлики…
   
К этому ответу прикреплено по крайней мере одно вложение.

Если вы не хотите добавлять вложения, оставьте поля пустыми.

Максимально разрешённый размер вложения: 15 МБ.

  • Похожие темы
    Ответы
    Просмотры
    Последнее сообщение
  • Запуск Milvus после сборки Milvus из исходного кода
    Anonymous » » в форуме Linux
    0 Ответы
    14 Просмотры
    Последнее сообщение Anonymous
  • Перечислите все доступные имена наборов данных, содержащиеся в наборе данных наборов данных Hugginface.
    Anonymous » » в форуме Python
    0 Ответы
    36 Просмотры
    Последнее сообщение Anonymous
  • Что означает num_entities для коллекции Milvus?
    Anonymous » » в форуме Python
    0 Ответы
    26 Просмотры
    Последнее сообщение Anonymous
  • Что означает num_entities для коллекции Milvus?
    Anonymous » » в форуме Python
    0 Ответы
    23 Просмотры
    Последнее сообщение Anonymous
  • Исключение Milvus: индекс не найден в коллекции FLAT
    Anonymous » » в форуме Python
    0 Ответы
    22 Просмотры
    Последнее сообщение Anonymous

Вернуться в «Python»