Почему распределение T используется для проверки гипотез линейного коэффициента регрессии?

На практике использование стандартного T-критерия для проверки значимости коэффициента линейной регрессии является обычной практикой. Механика расчета имеет смысл для меня.

Почему Т-распределение можно использовать для моделирования стандартной тестовой статистики, используемой при проверке гипотез линейной регрессии? Стандартная тестовая статистика, на которую я ссылаюсь:

Чтобы понять , почему мы используем распределение Стьюдента, вы должны знать , что лежит в основе распределения р и остаточной суммы квадратов ( R S S ) , поскольку эти два вместе взятые даст вам распределение Стьюдента.$\widehat{\beta}$$RSS$

Легче часть является распределение р , которое является нормальным распределением - видеть это примечание , что β = ( Х Т Х ) - 1 х Т У , так что линейная функция Y , где Y ~ N ( X β , σ 2 я н ) . В результате он также распределен нормально, β ~ N ( р , σ 2 ( Х Т Х ) -$\widehat{\beta}$$\widehat{\beta}$$(X^{T}X)^{-1}X^{T}Y$$Y$$Y\sim N(X\beta, \sigma^{2}I_{n})$- дайте мне знатьесли вам нужна помощь выведение распределения р .$\widehat{\beta} \sim N(\beta, \sigma^{2}(X^{T}X)^{-1})$$\widehat{\beta}$

Кроме того, , где n - количество наблюдений, а p - количество параметров, используемых в вашей регрессии. Доказательство этого немного сложнее, но его также легко получить (см. Доказательство здесь. Почему RSS распределяется по хи-квадрат раз np? ).$RSS \sim \sigma^{2}\chi^{2}_{n-p}$$n$$p$

До этого момента я не рассмотрел все в матрицу / вектор обозначения, но давайте для простоты использования β I и использовать его нормальное распределение , которое даст нам: β я - β я$\widehat{\beta}_{i}$

Кроме того, из хи-квадрат распределения имеем: ( n - p ) s $RSS$

$N(0,1)$$s^{2}=\frac{RSS}{n-p}$$\sigma^{2}$$t_{n-p}$$\sqrt{\chi^2(s)/s}$

$s\sqrt{(X^{T}X)^{-1}_{ii}}=SE(\widehat{\beta}_{i})$

Дайте мне знать, если это имеет смысл.

Ответ на самом деле очень прост: вы используете t-дистрибутив, потому что он в значительной степени разработан специально для этой цели.

$x_1,x_2,\dots,x_n$$\bar x=\sum_{i=1}^n x_i/n$$\bar x$

$\sigma$$\xi=(\bar x-\mu)\sqrt n/\sigma$$\mathcal N(0,1)$$\sigma$$\hat\sigma$. So, Gosset figured out the distribution when you substitute $\sigma$ with $\hat\sigma$ in the denominator, and the distribution is now called after his pseduonym "Student t".

The technicalities of linear regression lead to a situation where we can estimate the standard error $\hat\sigma_\beta$ of the coefficient estimate $\hat\beta$, but we do not know the true $\sigma$, therefore Student t distribution is applied here too.