Каково интуитивное значение подключения случайной величины к ее собственному pdf или cdf?

9

PDF обычно пишется как , где строчная буква рассматривается как реализация или результат случайной величины которая имеет этот pdf. Аналогично, cdf записывается как , что имеет значение . Однако в некоторых обстоятельствах, таких как определение функции оценки и такой вывод, что cdf распределен равномерно , кажется, что случайная величина вставляется в ее собственный pdf / cdf; тем самым мы получаем новую случайную величину илиf(x|θ)xXFX(x)P(X<x)X Y=f(X|θ)Z=FX(X), Я не думаю, что мы можем больше называть это pdf или cdf, поскольку теперь это сама случайная переменная, и в последнем случае «интерпретация» кажется мне чепухой.FX(X)=P(X<X)

Кроме того, в последнем случае, описанном выше, я не уверен, что понимаю утверждение «cdf случайной величины следует за равномерным распределением». Cdf является функцией, а не случайной величиной, и поэтому не имеет распределения. Скорее, то, что имеет равномерное распределение, - это случайная величина, преобразованная с использованием функции, которая представляет свой собственный cdf, но я не понимаю, почему это преобразование имеет смысл. То же самое относится и к функции оценки, где мы вставляем случайную переменную в функцию, которая представляет ее собственную логарифмическую вероятность.

Я неделями ломал свой мозг, пытаясь придать интуитивное значение этим трансформациям, но я застрял. Любое понимание будет с благодарностью!

маи
источник
4
Запись может сбить вас с толку. Например, , в точности , как смысл , как применение какой - либо измеримой функции на будет. Для правильной интерпретации вам необходимо четко понимать, что такое случайная величина . Для любой случайной величины функцияFX(X)XX:ΩR,
Y:ωFX(X(ω))
для , безусловно , является случайной величиной и , следовательно , имеет распределение F Y . (Обратите внимание на два разных значения символа « X » в « F X ( X .) F YωΩFY.XFX(X)FYявляется равномерным тогда и только тогда, когда имеет непрерывное распределение. X
whuber
1
Это на самом деле не теоретико-размерный вопрос: чтобы понять его, вы можете спокойно игнорировать все ссылки на «измеримость». Возможно, вам будет полезно изучить небольшую теорию множеств в начале вашей карьеры выпускника: именно там большинство людей узнают, что на самом деле означают эти базовые (и вездесущие) математические термины и обозначения, поэтому лучше не откладывать их изучение.
whuber
Может быть, слово о том, почему нужно делать такие сумасшедшие вещи, как это: вставлять RV в свою плотность !!?! Один пример: скажем, вы хотите оценить плотность X, тогда вы можете измерить, насколько вы хороши, интегрируя по но это «несправедливо»: вы никогда не достигнете хорошего приближения, если не есть много примеров данных (т. е. истинная плотность мала). Следовательно, «справедливой» оценкой будет взвешивание термина по истинной плотности. Это более или менее эффект от вставки RV в их собственные плотности ...f(x)fX(x)
Фабиан Вернер
См. Также stats.stackexchange.com/questions/324768/…
Фабиан Вернер,

Ответы:

8

Как вы говорите, любая (измеримая) функция случайной величины сама является случайной величиной. Проще думать о и F ( x ) как о «любой старой функции». У них просто есть хорошие свойства. Например, если X - стандартная экспоненциальная RV, то в случайной переменной Y = 1 - e - X нет ничего особенно странного. Так уж получилось, что Y = F X ( X ) . Тот факт, что Y имеет равномерное распределение (учитывая, что Xf(x)F(x)X

Y=1eX
Y=FX(X)YXявляется непрерывным ПЖ) можно видеть , в общем случае путем получения CDF из .Y

FY(y)=P(Yy)=P(FX(X)y)=P(XFX1(y))=FX(FX1(y))=y

Что явно является CDF случайной величины. Примечание. В этой версии доказательства предполагается, что F X ( x ) строго возрастает и непрерывно, но не намного сложнее показать более общую версию.U(0,1)FX(x)

knrumsey
источник
1
Ваш вывод неверен для наиболее строго возрастающего : вы предположили, что F XF - 1 X - тождество, но это не всегда так. FXFXFX1
whuber
Да спасибо. Случайная переменная явно должна быть непрерывной. Я что-то пропустил сейчас? X
Кнрумси
1
не обязательно должен быть биективным. Возьмем, к примеру, случай, когдасам X имеет равномерное распределение! Закрытие изображения F X должно быть на всем интервале [ 0 , 1 ] . По сути, это определение непрерывного распределения. FXXFX[0,1].
whuber
11

Преобразование случайной величины с помощью измеримой функции Т : ХУ еще одна случайная величина Y = Т ( Х ) , которое распределение задается посредством обратного преобразования вероятности P ( Y A ) = P ( X { х ;XT:XYY=T(X) для всех множеств A, таких что { x ;

P(YA)=P(X{x;T(x)A})=defP(XT1(A))
A измеримо при распределении X .{x;T(x)A}X

Это свойство применяется к особому случаю, когда - это cdf случайной величины X : Y = F X ( X ) - новая случайная величина, принимающая свои реализации в [ 0 , 1 ] . Как это бывает, Y распределяется как равномерный U ( [ 0 , 1 ] ), когда F X непрерывен. (Если F XFX:X[0,1]XY=FX(X)[0,1]YU([0,1])FXFXпрерывистый, диапазон больше не [ 0 , 1 ] . То , что всегда имеет место в том , что , когда U является Равномерное U ( [ 0 , 1 ] ) , то Р - Х ( U ) имеет такое же распределение, что и X , где Р - Х обозначает обобщенную обратную F X . Что является формальным способом (а) понимать случайные величины как измеримые преобразования фундаментальногоY=FX(X)[0,1]UU([0,1])FX(U)XFXFX поскольку X ( ω ) = F - X ( ω ) является случайной величиной с cdf F X и (b)генерирует случайные величиныиз заданного распределения с cdf F X. )ωΩX(ω)=FX(ω)FXFX

Чтобы понять парадокс , возьмем представление F X ( x ) = P ( X x ) = x 0 d F X ( x ) = x 0 f X ( x )P(XX) если d λ - доминирующая мера, а f X - соответствующая плотность. Тогда F X ( X ) = X 0 d F X ( x ) = X 0 f X ( x )

FX(x)=P(Xx)=0xdFX(x)=0xfX(x)dλ(x)
dλfX - случайная величина, поскольку верхняя граница интеграла является случайной. (Это единственная случайная часть выражения.) Кажущееся противоречие в P ( X X ) связано с путаницей в обозначениях. Для правильного определения необходимы две независимые версии случайной величины X , X 1 и X 2 , и в этом случае случайная величина F X ( X 1 ) определяется как F X ( X 1 ) = P X 2
FX(X)=0XdFX(x)=0XfX(x)dλ(x)
P(XX)XX1X2FX(X1) вероятность, вычисляемая для распределения X 2 .
FX(X1)=PX2(X2X1)
X2

fX(X)fXfX(X|θ^(X))/fX(X|θ0)χ2

logfX(X|θ)θ
θ
Eθ0[logfX(X|θ0)θ]=logfX(x|θ0)θfX(x|θ0)dλ(x)=0

[Ответ печатался, пока @whuber и @knrumsey печатали свои соответствующие ответы!]

Сиань
источник
FX(X1)=P(X2X1)
FXXFX(X)
Да, я согласен, что это не одно и то же. В первом случае это не rv, а во втором случае это rv. Я прав?
май
XFX(X)
θθθ