Почему «x» в («x»,) быстрее, чем «x» == «x»?

274
>>> timeit.timeit("'x' in ('x',)")
0.04869917374131205
>>> timeit.timeit("'x' == 'x'")
0.06144205736110564

Также работает для кортежей с несколькими элементами, обе версии кажутся линейно растущими:

>>> timeit.timeit("'x' in ('x', 'y')")
0.04866674801541748
>>> timeit.timeit("'x' == 'x' or 'x' == 'y'")
0.06565782838087131
>>> timeit.timeit("'x' in ('y', 'x')")
0.08975995576448526
>>> timeit.timeit("'x' == 'y' or 'x' == 'y'")
0.12992391047427532

Исходя из этого, я думаю, что я должен полностью начать использовать inвезде, а не ==!

Маркус Месканен
источник
167
На всякий случай: пожалуйста, не начинайте использовать inвезде вместо ==. Это преждевременная оптимизация, которая вредит читабельности.
полковник тридцать два
4
попробуйте x ="!foo" x in ("!foo",)иx == "!foo"
Padraic Cunningham
2
A в B = Значение, C == D Сравнение значений и типов
dsgdfg
6
Более разумный подход, чем использование inвместо, ==состоит в том, чтобы переключиться на C.
Безумный Физик,
1
Если вы пишете на Python и выбираете одну конструкцию для скорости, вы делаете это неправильно.
Veky

Ответы:

257

Как я уже говорил Дэвиду Волеверу, в этом есть нечто большее, чем кажется на первый взгляд; оба метода отправляются is; Вы можете доказать это, делая

min(Timer("x == x", setup="x = 'a' * 1000000").repeat(10, 10000))
#>>> 0.00045456900261342525

min(Timer("x == y", setup="x = 'a' * 1000000; y = 'a' * 1000000").repeat(10, 10000))
#>>> 0.5256857610074803

Первый может быть настолько быстрым, потому что он проверяет личность.

Чтобы выяснить, почему один из них займет больше времени, давайте проследим выполнение.

Они оба начинаются ceval.c, COMPARE_OPтак как это байт-код

TARGET(COMPARE_OP) {
    PyObject *right = POP();
    PyObject *left = TOP();
    PyObject *res = cmp_outcome(oparg, left, right);
    Py_DECREF(left);
    Py_DECREF(right);
    SET_TOP(res);
    if (res == NULL)
        goto error;
    PREDICT(POP_JUMP_IF_FALSE);
    PREDICT(POP_JUMP_IF_TRUE);
    DISPATCH();
}

Это извлекает значения из стека (технически это только одно)

PyObject *right = POP();
PyObject *left = TOP();

и запускает сравнение:

PyObject *res = cmp_outcome(oparg, left, right);

cmp_outcome это:

static PyObject *
cmp_outcome(int op, PyObject *v, PyObject *w)
{
    int res = 0;
    switch (op) {
    case PyCmp_IS: ...
    case PyCmp_IS_NOT: ...
    case PyCmp_IN:
        res = PySequence_Contains(w, v);
        if (res < 0)
            return NULL;
        break;
    case PyCmp_NOT_IN: ...
    case PyCmp_EXC_MATCH: ...
    default:
        return PyObject_RichCompare(v, w, op);
    }
    v = res ? Py_True : Py_False;
    Py_INCREF(v);
    return v;
}

Это где пути разделены. PyCmp_INФилиал делает

int
PySequence_Contains(PyObject *seq, PyObject *ob)
{
    Py_ssize_t result;
    PySequenceMethods *sqm = seq->ob_type->tp_as_sequence;
    if (sqm != NULL && sqm->sq_contains != NULL)
        return (*sqm->sq_contains)(seq, ob);
    result = _PySequence_IterSearch(seq, ob, PY_ITERSEARCH_CONTAINS);
    return Py_SAFE_DOWNCAST(result, Py_ssize_t, int);
}

Обратите внимание, что кортеж определяется как

static PySequenceMethods tuple_as_sequence = {
    ...
    (objobjproc)tuplecontains,                  /* sq_contains */
};

PyTypeObject PyTuple_Type = {
    ...
    &tuple_as_sequence,                         /* tp_as_sequence */
    ...
};

Так что филиал

if (sqm != NULL && sqm->sq_contains != NULL)

будет принято, и *sqm->sq_contains, что является функцией (objobjproc)tuplecontains, будет принято.

Это делает

static int
tuplecontains(PyTupleObject *a, PyObject *el)
{
    Py_ssize_t i;
    int cmp;

    for (i = 0, cmp = 0 ; cmp == 0 && i < Py_SIZE(a); ++i)
        cmp = PyObject_RichCompareBool(el, PyTuple_GET_ITEM(a, i),
                                           Py_EQ);
    return cmp;
}

Подожди, разве это не то, PyObject_RichCompareBoolчто взяла другая ветвь? Нет, это было PyObject_RichCompare.

Этот путь к коду был коротким, поэтому он, скорее всего, сводится к скорости этих двух. Давайте сравним.

int
PyObject_RichCompareBool(PyObject *v, PyObject *w, int op)
{
    PyObject *res;
    int ok;

    /* Quick result when objects are the same.
       Guarantees that identity implies equality. */
    if (v == w) {
        if (op == Py_EQ)
            return 1;
        else if (op == Py_NE)
            return 0;
    }

    ...
}

Путь к коду PyObject_RichCompareBoolпрактически сразу заканчивается. Ибо PyObject_RichCompareэто

PyObject *
PyObject_RichCompare(PyObject *v, PyObject *w, int op)
{
    PyObject *res;

    assert(Py_LT <= op && op <= Py_GE);
    if (v == NULL || w == NULL) { ... }
    if (Py_EnterRecursiveCall(" in comparison"))
        return NULL;
    res = do_richcompare(v, w, op);
    Py_LeaveRecursiveCall();
    return res;
}

Py_EnterRecursiveCall/ Py_LeaveRecursiveCallКомбо не будет приняты в предыдущем пути, но это относительно быстро макросы , которые будут короткое замыкание после увеличения и уменьшения некоторых глобал.

do_richcompare делает:

static PyObject *
do_richcompare(PyObject *v, PyObject *w, int op)
{
    richcmpfunc f;
    PyObject *res;
    int checked_reverse_op = 0;

    if (v->ob_type != w->ob_type && ...) { ... }
    if ((f = v->ob_type->tp_richcompare) != NULL) {
        res = (*f)(v, w, op);
        if (res != Py_NotImplemented)
            return res;
        ...
    }
    ...
}

Это делает несколько быстрых проверок, чтобы позвонить, v->ob_type->tp_richcompareкоторый

PyTypeObject PyUnicode_Type = {
    ...
    PyUnicode_RichCompare,      /* tp_richcompare */
    ...
};

который делает

PyObject *
PyUnicode_RichCompare(PyObject *left, PyObject *right, int op)
{
    int result;
    PyObject *v;

    if (!PyUnicode_Check(left) || !PyUnicode_Check(right))
        Py_RETURN_NOTIMPLEMENTED;

    if (PyUnicode_READY(left) == -1 ||
        PyUnicode_READY(right) == -1)
        return NULL;

    if (left == right) {
        switch (op) {
        case Py_EQ:
        case Py_LE:
        case Py_GE:
            /* a string is equal to itself */
            v = Py_True;
            break;
        case Py_NE:
        case Py_LT:
        case Py_GT:
            v = Py_False;
            break;
        default:
            ...
        }
    }
    else if (...) { ... }
    else { ...}
    Py_INCREF(v);
    return v;
}

А именно, это ярлыки на left == right... но только после выполнения

    if (!PyUnicode_Check(left) || !PyUnicode_Check(right))

    if (PyUnicode_READY(left) == -1 ||
        PyUnicode_READY(right) == -1)

В итоге все пути выглядят примерно так (ручная рекурсивная вставка, развертывание и удаление известных веток).

POP()                           # Stack stuff
TOP()                           #
                                #
case PyCmp_IN:                  # Dispatch on operation
                                #
sqm != NULL                     # Dispatch to builtin op
sqm->sq_contains != NULL        #
*sqm->sq_contains               #
                                #
cmp == 0                        # Do comparison in loop
i < Py_SIZE(a)                  #
v == w                          #
op == Py_EQ                     #
++i                             # 
cmp == 0                        #
                                #
res < 0                         # Convert to Python-space
res ? Py_True : Py_False        #
Py_INCREF(v)                    #
                                #
Py_DECREF(left)                 # Stack stuff
Py_DECREF(right)                #
SET_TOP(res)                    #
res == NULL                     #
DISPATCH()                      #

против

POP()                           # Stack stuff
TOP()                           #
                                #
default:                        # Dispatch on operation
                                #
Py_LT <= op                     # Checking operation
op <= Py_GE                     #
v == NULL                       #
w == NULL                       #
Py_EnterRecursiveCall(...)      # Recursive check
                                #
v->ob_type != w->ob_type        # More operation checks
f = v->ob_type->tp_richcompare  # Dispatch to builtin op
f != NULL                       #
                                #
!PyUnicode_Check(left)          # ...More checks
!PyUnicode_Check(right))        #
PyUnicode_READY(left) == -1     #
PyUnicode_READY(right) == -1    #
left == right                   # Finally, doing comparison
case Py_EQ:                     # Immediately short circuit
Py_INCREF(v);                   #
                                #
res != Py_NotImplemented        #
                                #
Py_LeaveRecursiveCall()         # Recursive check
                                #
Py_DECREF(left)                 # Stack stuff
Py_DECREF(right)                #
SET_TOP(res)                    #
res == NULL                     #
DISPATCH()                      #

Теперь, PyUnicode_Checkи PyUnicode_READYони довольно дешевы, так как они проверяют только пару полей, но должно быть очевидно, что верхний из них - это меньший путь кода, у него меньше вызовов функций, только один оператор switch и он немного тоньше.

TL; DR:

Оба отправки if (left_pointer == right_pointer); Разница лишь в том, сколько работы они проделывают, чтобы попасть туда. inпросто делает меньше.

Veedrac
источник
18
Это невероятный ответ. Как вы относитесь к проекту Python?
kdbanman
9
@kdbanman Нет, правда, хотя мне удалось немного пробиться ;).
Veedrac
21
@varepsilon Ооо, но тогда никто не потрудился бы просмотреть фактическое сообщение! Суть вопроса на самом деле не в ответе, а в процессе, который использовался для получения ответа - надеюсь, не будет тонны людей, использующих этот хак в производстве!
Veedrac
181

Здесь действуют три фактора, которые в совокупности приводят к такому удивительному поведению.

Первое: inоператор берет ярлык и проверяет identity ( x is y), прежде чем проверяет равенство ( x == y):

>>> n = float('nan')
>>> n in (n, )
True
>>> n == n
False
>>> n is n
True

Во- вторых , из - за строки в Python интернирование, оба "x"s в "x" in ("x", )будут идентичны:

>>> "x" is "x"
True

(большое предупреждение: это поведение конкретной реализации! isне должна никогда использоваться для сравнения строк , потому что будет давать неожиданные ответы иногда, например "x" * 100 is "x" * 100 ==> False)

В- третьих , как описано в фантастическом ответе Veedrac в , tuple.__contains__( x in (y, )это примерно эквивалентно (y, ).__contains__(x)) добирается до точки выполнения проверки идентичности быстрее , чем str.__eq__(опять - таки, x == yэто примерно эквивалентно x.__eq__(y)) делает.

Вы можете увидеть доказательства этого, потому что x in (y, )это значительно медленнее, чем логически эквивалентный x == y:

In [18]: %timeit 'x' in ('x', )
10000000 loops, best of 3: 65.2 ns per loop

In [19]: %timeit 'x' == 'x'    
10000000 loops, best of 3: 68 ns per loop

In [20]: %timeit 'x' in ('y', ) 
10000000 loops, best of 3: 73.4 ns per loop

In [21]: %timeit 'x' == 'y'    
10000000 loops, best of 3: 56.2 ns per loop

x in (y, )Дело идет медленнее , потому что, после того , как isсравнение не удается, inоператор возвращается к нормальной проверке равенства (то есть, используя ==), так что сравнение занимает примерно столько же время , как ==, что делает всю работу медленнее из - за накладные расходы на создание кортежа выгуливать своих членов и т. д.

Следует также отметить , что a in (b, )это только быстрее , когда a is b:

In [48]: a = 1             

In [49]: b = 2

In [50]: %timeit a is a or a == a
10000000 loops, best of 3: 95.1 ns per loop

In [51]: %timeit a in (a, )      
10000000 loops, best of 3: 140 ns per loop

In [52]: %timeit a is b or a == b
10000000 loops, best of 3: 177 ns per loop

In [53]: %timeit a in (b, )      
10000000 loops, best of 3: 169 ns per loop

(почему это a in (b, )быстрее, чем a is b or a == b? Я думаю, было бы меньше инструкций виртуальной машины -  a in (b, )всего ~ 3 инструкции, где a is b or a == bбудет довольно много инструкций VM)

Ответ Veedrac в - https://stackoverflow.com/a/28889838/71522 - идет в гораздо более подробно на что конкретно происходит во время каждого из ==и inи хорошо стоит читать.

Дэвид Волевер
источник
3
И причина , он делает это, вероятно, позволит X in [X,Y,Z]работать правильно без X, Yили Zнеобходимость определять методы равенства (или , скорее, равенство по умолчанию is, так что избавляет от необходимости звонить __eq__по объектам, не определяемый пользователя __eq__и isбыть истинным должно подразумевать значения -equality).
Aruisdante
1
Использование float('nan')может ввести в заблуждение. Это свойство того, nanчто оно не равно себе. Это может изменить время.
Dawg
@ Dawg ах, хорошая мысль - пример с Nan был предназначен только для иллюстрации быстрого доступа inк тестам на членство. Я изменю имя переменной, чтобы уточнить.
Дэвид Вулевер
3
Насколько я понимаю, в CPython 3.4.3 tuple.__contains__реализованы tuplecontainsвызовы, PyObject_RichCompareBoolкоторые сразу возвращаются в случае идентичности. unicodeимеет PyUnicode_RichCompareпод капотом, который имеет такой же ярлык для личности.
Кристиан Чиупиту
3
Это означает, что "x" is "x"это не обязательно будет True. 'x' in ('x', )будет всегда True, но это может показаться не быстрее, чем ==.
Дэвид Вулевер