Мне нужно отфильтровать массив, чтобы удалить элементы, число которых ниже определенного порога. Мой текущий код выглядит следующим образом:
threshold = 5
a = numpy.array(range(10)) # testing data
b = numpy.array(filter(lambda x: x >= threshold, a))
Проблема в том, что при этом создается временный список с использованием фильтра с лямбда-функцией (медленно).
Поскольку это довольно простая операция, возможно, существует numpy-функция, которая делает это эффективно, но я не смог ее найти.
Я думал, что другим способом добиться этого может быть сортировка массива, поиск индекса порога и возврат среза из этого индекса и далее, но даже если это будет быть быстрее для небольших входных данных (и это все равно не будет заметно), это определенно асимптотически менее эффективно по мере увеличения размера входных данных.
Обновление: я также провел некоторые измерения, и сортировка + нарезка по-прежнему были в два раза быстрее, чем чистый фильтр Python, когда входные данные составляли 100 000 000 записей.
r = numpy.random.uniform(0, 1, 100000000)
%timeit test1(r) # filter
# 1 loops, best of 3: 21.3 s per loop
%timeit test2(r) # sort and slice
# 1 loops, best of 3: 11.1 s per loop
%timeit test3(r) # boolean indexing
# 1 loops, best of 3: 1.26 s per loop
Подробнее здесь: https://stackoverflow.com/questions/799 ... with-numpy
