Ожидаемое значение , коэффициент детерминации, при нулевой гипотезе

Мне любопытно заявление, сделанное внизу первой страницы в этом тексте относительно настройки $R^2_\mathrm{adjusted}$

R_{a d j u s t e d}^{2} = 1 - (1 - R^{2}) (\frac{n - 1}{n - m - 1}) .

$R^2_\mathrm{adjusted} =1-(1-R^2)\left({\frac{n-1}{n-m-1}}\right).$

Текст гласит:

Логика корректировки заключается в следующем: в обычной множественной регрессии случайный предиктор объясняет в среднем пропорцию $1/(n – 1)$ вариации ответа, так что $m$ случайных предикторов объясняют вместе, в среднем, $m/(n – 1)$ вариации ответа; другими словами, ожидаемое значение $R^2$ равно $\mathbb{E}(R^2) = m/(n – 1)$ . Применение формулы [ $R^2_\mathrm{adjusted}$ ] к этому значению, где все предикторы являются случайными, дает $R^2_\mathrm{adjusted} = 0$ "

Кажется, это очень простая и понятная мотивация для $R^2_\mathrm{adjusted}$ . Однако я не смог выяснить, что $\mathbb{E}(R^2)=1/(n – 1)$ для одного случайного (т.е. некоррелированного) предиктора.

Может ли кто-нибудь указать мне правильное направление здесь?

regression expected-value goodness-of-fit r-squared gregory_britten
источник

Если ссылка в будущем прекратит работу, не могли бы вы предоставить полную ссылку? Спасибо.

Ричард Харди

Ответы:

Это точная математическая статистика. См. Этот пост для получения распределения в предположении, что все регрессоры (за исключением постоянного члена) не связаны с зависимой переменной («случайные предикторы»). $R^2$

Это распределение является бета, где - это число предикторов без учета постоянного члена, а - размер выборки, $m$ $n$

R^{2} \sim B e t a (\frac{m}{2}, \frac{n - m - 1}{2})

$R^2 \sim Beta\left (\frac {m}{2}, \frac {n-m-1}{2}\right)$

и так

E (R^{2}) = \frac{m / 2}{(m / 2) + [(n - m - 1) / 2]} = \frac{m}{n - 1}

$E(R^2) = \frac {m/2}{(m/2)+[(n-m-1)/2]} = \frac{m}{n-1}$

Это представляется разумным способом «обосновать» логику скорректированного : если действительно все регрессоры не коррелированы, то скорректированный равен «в среднем» нулю. $R^2$ $R^2$

Алекос Пападопулос
источник

Просто немного информации мне нужно! Спасибо! И да здравствует стек обмена!

gregory_britten

Я был бы заинтересован в случае, когда не все регрессоры не связаны с зависимой переменной. Не могли бы вы упомянуть об этом?

Оливье

@ Оливье Нет, боюсь, что нет. Посмотрите в разделе «F-критерий значимости регрессии, распределение по альтернативе» или что-то в этом роде.

Алекос Пападопулос