Может ли лемма Неймана-Пирсона применяться к случаю, когда простой нуль и альтернатива не принадлежат одному семейству распределений?

Может ли лемма Неймана-Пирсона применяться к случаю, когда простой нуль и простая альтернатива не принадлежат одному семейству распределений? Из его доказательства я не понимаю, почему он не может.

Например, когда простой ноль - это нормальное распределение, а простой альтернативой - экспоненциальное распределение.
Является ли проверка отношения правдоподобия хорошим способом проверки составного нуля против составной альтернативы, когда оба принадлежат разным семействам распределений?

Спасибо и всего наилучшего!

hypothesis-testing mathematical-statistics Тим
источник

Теперь это хороший вопрос.

Glen_b

Как вы говорите в вопросе, в доказательстве не делается никаких предположений о форме двух распределений. Доверься математике.

Голубой

@Cyan: Является ли тест отношения правдоподобия хорошим способом для составной нулевой и составной альтернативы, которые принадлежат другому семейству распределений?

Тим

Чтобы прояснить мой предыдущий комментарий: я часто вижу, как люди говорят «нет» - на самом деле это даже кажется в газетах : - «[Тесты отношения правдоподобия] ... не могут использоваться для вывода о функциональной форме распределения данных. " Было бы хорошо, если бы такие утверждения не так часто оставались без ответа.

Glen_b

Это не-вопрос , потому что любые два различных распределений

являются частью непрерывного однопараметрического семейства

F

$F$

G

$G$

{p F + (1 - p) G},

$\{pF + (1-p)G\},$

0 \leq p \leq 1

$0\le p \le 1$

whuber

Ответы:

Да Лемма Неймана Пирсона может применяться к случаю, когда простая нулевая и простая альтернатива не принадлежат к одному семейству распределений.

Пусть мы хотим построить самый мощный (MP) тест против его размера. $H_0:X\sim N(0,1)$ $H_1 : X\sim \text{Exp}(1)$

Для конкретного наша критическая функция по лемме Неймана Пирсона $k$

ϕ (x) = {\begin{cases} 1, & \frac{f_{1} (x)}{f_{0} (x)} > k \\ 0, & Otherwise \end{cases}

$\phi(x) =\begin{cases} 1,&\dfrac{f_1(x)}{f_0(x)}>k \\0, &\text{Otherwise} \end{cases}$

MP-тест против его размера. $H_0$ $H_1$

Здесь

р (Икс) знак равно \frac{е_{1} (Икс)}{е_{0} (Икс)} знак равно \frac{е^{- Икс}}{\frac{1}{\sqrt{2 π}} е^{- {Икс}^{2} / 2}} знак равно \sqrt{2 π} е^{(\frac{{Икс}^{2}}{2} - Икс)}

$r(x)=\dfrac{f_1(x)}{f_0(x)}=\dfrac{e^{\displaystyle -x}}{\frac{1}{\sqrt{2 \pi}}e^{\displaystyle -x^2/2}}=\sqrt{2 \pi}\,\,e^{\displaystyle \left(\frac{x^2} 2-x\right)}$

Обратите внимание, что Теперь, если вы нарисуете изображение[я не знаю, как построить изображение в ответ], из графика будет ясно, что

r^{'} (x) = \sqrt{2 π} e^{(\frac{x^{2}}{2} - x)} (x - 1) {\begin{cases} < 0, & x < 1 \\ > 0, & x > 1 \end{cases}

$r'(x) =\sqrt{2 \pi}\,\,e^{\displaystyle \left(\frac{x^2} 2-x\right)}(x-1)\\ \begin{cases}<0 ,& x<1\\>0 ,& x>1 \end{cases}$

r (x)

$r(x)$

r (x) > k ⟹ x > c

$r(x)>k \implies x>c$

Таким образом, для конкретного это MP-тест против его размера. $c$

ϕ (x) = {\begin{cases} 1, & x > c \\ 0, & Otherwise \end{cases}

$\phi(x) =\begin{cases} 1,&x>c \\0, &\text{Otherwise} \end{cases}$

H_{o}

$H_o$

H_{1}

$H_1$

Вы можете проверить

1. против $H_0:X\sim N(0,\dfrac{1}{2})$ $H_1:X\sim \text{Cauchy}(0,1)$
2. $H_0:X\sim N(0,1)$ $H_1:X\sim \text{Cauchy}(0,1)$
3. $H_0:X\sim N(0,1)$ $H_1:X\sim \text{Double Exponential}(0,1)$

По лемме Неймана Пирсона.

$\mathbb{\theta}$

Это все от меня.

ОБЪЯВЛЕНИЕ
источник

Q2. Отношение правдоподобия является достаточно разумной тестовой статистикой, но (а) лемма Неймана-Пирсона не применима к составным гипотезам, поэтому LRT не обязательно будет наиболее мощным; & (b) Теорема Уилкса применима только к вложенным гипотезам, поэтому, если одно семейство не является частным случаем другого (например, экспоненциальный / Вейбулла, Пуассона / отрицательный бином), вы не знаете распределение отношения правдоподобия при нулевом, даже асимптотически.

Scortchi - Восстановить Монику
источник

«... вы не знаете распределение отношения правдоподобия при нулевом, даже асимптотически». Это не такая большая проблема в мире, где вы можете кодировать симуляцию под нулем менее чем в 20 строках R.

Cyan

@Cyan: Хотя написание этих 20 строк может потребовать некоторых размышлений. Имейте в виду, что это составной ноль, в общем случае у нас не будет точек разворота, и я не думаю, что LR обязательно будет приблизительной точкой разворота. Я полагаю, вы могли бы изучить LR ...

Scortchi - Восстановить Монику

$\alpha$ $\phi$ $\phi$ $\alpha^\mathrm{th}$ $H_0$ $H_1$
Оригинальная статья Неймана и Пирсона также обсуждает сложные гипотезы. В некоторых случаях ответ прост - если есть выбор конкретных распределений в каждой семье, чей коэффициент вероятности является консервативным при применении всей семьи. Это то, что часто происходит, например, для вложенных гипотез. Впрочем, этого легко не случиться; эта статья Кокса обсуждает, что делать дальше. Я думаю, что более современный подход заключается в том, чтобы подходить к нему байесовским путем, ставя приоритеты над двумя семействами.

petrelharp
источник

Отличная ссылка - бумага Кокса.

Scortchi - Восстановить Монику