Как бы вы объяснили iid (независимый и одинаково распространяемый) нетехническим людям?
random-variable
intuition
user333
источник
источник
Нетехническое объяснение:
Независимость - это очень общее понятие. Два события считаются независимыми, если возникновение одного не дает вам никакой информации относительно того, произошло другое событие или нет. В частности, вероятность того, что мы приписываем второе событие, не зависит от знания того, что первое событие произошло.
Пример независимых событий, возможно одинаково распределенных.
Подумайте о подбрасывании двух разных монет одну за другой. Предполагая, что ваш большой палец не уставал чрезмерно, когда он подбрасывал первую монету, разумно предположить, что знание того, что первый бросок монеты привел к появлению голов, никак не влияет на то, как вы думаете, какова вероятность попадания голов на втором броске. Два события как говорят, являются независимыми событиями.
Если мы знаем или настойчиво настаиваем на том, что две монеты имеют разные вероятности получения голов, то события распределяются не одинаково.
Если мы знаем или предполагаем, что две монеты имеют одинаковую вероятность появления Голов, то вышеупомянутые события также одинаково распределены, что означает, что они обе имеют одинаковую вероятность возникновения . Но обратите внимание, что если , вероятность Heads не равна вероятности Tails. Как отмечается в одном из комментариев, «идентичное распределение» не совпадает с «одинаково вероятным».р р = 1p p p=12
Пример одинаково распределенных независимых событий.
Рассмотрим урну с двумя шарами, одним черным и одним белым. Дотягиваемся до него и вытягиваем два шарика один за другим, выбирая первый случайным образом (и это, конечно, определяет цвет следующего шарика). Таким образом, два одинаково вероятных результата эксперимента - (белый, черный) и (черный, белый), и мы видим, что первый шар одинаково вероятен как черный или белый, так же как и второй шар также одинаково вероятен как черный или белый. Другими словами, события безусловно, распределены одинаково, но они определенно не1
источник
Случайная переменная - это переменная, которая содержит вероятность всех возможных событий в сценарии. Например, давайте создадим случайную переменную, которая представляет количество голов в 100 бросках монет. Случайная переменная будет содержать вероятность получения 1 головы, 2 голов, 3 голов ..... вплоть до 100 голов. Назовём эту случайную величину X .
Если у вас есть две случайные переменные, то они являются IID (независимыми одинаково распределенными), если:
Примечание: Независимость также означает, что вы можете умножать вероятности. Допустим, вероятность головы равна p, тогда вероятность получить две головы подряд равна p * p или p ^ 2.
источник
То, что две зависимые переменные могут иметь одинаковое распределение, может быть показано на следующем примере:
Предположим, что два последовательных эксперимента включают в себя каждые 100 бросков смещенной монеты, где общее количество головы моделируется как случайная величина X1 для первого эксперимента и X2 для второго эксперимента. X1 и X2 - биномиальные случайные величины с параметрами 100 и p, где p - смещение монеты.
Как таковые, они одинаково распределены. Однако они не являются независимыми, поскольку ценность первого достаточно информативна в отношении ценности последнего. То есть, если результат первого эксперимента равен 100 головам, это многое говорит нам о смещении монеты и, следовательно, дает нам много новой информации о распределении Х2.
Тем не менее, X2 и X1 распределены одинаково, поскольку они получены из одной и той же монеты.
Что также верно, так это то, что если 2 случайные величины являются зависимыми, то задняя часть X2 для данного X1 никогда не будет такой же, как предшествующая X2, и наоборот. В то время как когда X1 и X2 независимы, их предшественники равны своим приорам. Поэтому, когда две переменные являются зависимыми, наблюдение одной из них приводит к пересмотренным оценкам относительно распределения второй. Тем не менее, оба могут быть из одного и того же дистрибутива, просто в процессе мы узнаем больше о природе этого дистрибутива. Итак, возвращаясь к экспериментам с бросанием монеты, первоначально при отсутствии какой-либо информации мы могли бы предположить, что X1 и X2 следуют биномиальному распределению с параметрами 100 и 0,5. Но после наблюдения 100 голов подряд мы, безусловно, пересмотрели бы нашу оценку параметра p, чтобы приблизить ее к 1.
источник
Агрегация нескольких случайных дро из одного и того же распределения. Пример: вытащить мрамор из сумки 10000 раз и сосчитать, сколько раз вы вытащили красный мрамор.
источник
Тем не менее, одинаковое распределение не обязательно подразумевает независимость.
источник