Эффективный пороговый фильтр массива с numpy

81

Мне нужно отфильтровать массив, чтобы удалить элементы, которые ниже определенного порога. Мой текущий код выглядит так:

threshold = 5
a = numpy.array(range(10)) # testing data
b = numpy.array(filter(lambda x: x >= threshold, a))

Проблема в том, что при этом создается временный список с использованием фильтра с лямбда-функцией (медленно).

Поскольку это довольно простая операция, возможно, есть функция numpy, которая делает это эффективно, но мне не удалось ее найти.

Я подумал, что другим способом добиться этого может быть сортировка массива, поиск индекса порога и возврат фрагмента из этого индекса и далее, но даже если это будет быстрее для небольших входов (и это все равно не будет заметно ), он определенно асимптотически менее эффективен при увеличении размера входных данных.

Есть идеи? Благодаря!

Обновление : я тоже провел некоторые измерения, и сортировка + нарезка все еще была в два раза быстрее, чем чистый фильтр python, когда вход был 100 000 000 записей.

In [321]: r = numpy.random.uniform(0, 1, 100000000)

In [322]: %timeit test1(r) # filter
1 loops, best of 3: 21.3 s per loop

In [323]: %timeit test2(r) # sort and slice
1 loops, best of 3: 11.1 s per loop

In [324]: %timeit test3(r) # boolean indexing
1 loops, best of 3: 1.26 s per loop
Фортран
источник
2
да, это довольно приятно :-) он даже автоматически вычисляет, сколько итераций он должен выполнить, чтобы усреднить измерения, если код требует очень мало времени для выполнения
fortran
5
@yosukesabai - IPython %timeitиспользует встроенный timeitмодуль. Взгляните и на это. docs.python.org/library/timeit.html
Джо Кингтон

Ответы:

112

b = a[a>threshold] это должно сделать

Я тестировал следующее:

import numpy as np, datetime
# array of zeros and ones interleaved
lrg = np.arange(2).reshape((2,-1)).repeat(1000000,-1).flatten()

t0 = datetime.datetime.now()
flt = lrg[lrg==0]
print datetime.datetime.now() - t0

t0 = datetime.datetime.now()
flt = np.array(filter(lambda x:x==0, lrg))
print datetime.datetime.now() - t0

я получил

$ python test.py
0:00:00.028000
0:00:02.461000

http://docs.scipy.org/doc/numpy/user/basics.indexing.html#boolean-or-mask-index-arrays

Йосукэсабай
источник
1
добавлен результат теста, а не то, что я думаю, он должен делать. : p
yosukesabai 03
3
Такой вид индексации не поддерживает размер массива, как можно сохранить такое же количество элементов и обнулить подпороговые значения?
linello
9
@linello, a [a <= threshold] = 0 будет маскировать ту часть, которая не превышает порогового значения,
yosukesabai
4
Я столкнулся с проблемой фильтрации по двум критериям. Вот решение: stackoverflow.com/a/3248599/1373468
Робин Ньюхаус
@yosukesabai Можно ли сделать именно это, фактически не изменяя исходные значения. Если np.maэто предназначено для этого, я не могу понять, как.
embert