Независимы ли оценки перехвата и наклона в простой линейной регрессии?

9

Рассмотрим линейную модель

yi=α+βxi+ϵi

и оценки наклона и точки пересечения и с использованием обычных наименьших квадратов. Эта ссылка на математическую статистику делает утверждение, что и независимы (в доказательстве своей теоремы). ; & beta ;α^β^ ; & beta ;α^β^

Я не уверен, что понимаю почему. поскольку

α^=y¯β^x¯

Разве это не значит, что и взаимосвязаны? Я, наверное, упускаю что-то действительно очевидное здесь. ; & beta ;α^β^

WetlabStudent
источник

Ответы:

12

Перейдите на тот же сайт на следующей подстранице:

https://onlinecourses.science.psu.edu/stat414/node/278

Вы увидите более четко, что они задают простую модель линейной регрессии с регрессором, центрированным по среднему значению выборки . И это объясняет, почему они впоследствии говорят, что и независимы. α^β^

Для случая, когда коэффициенты оцениваются регрессором, который не центрирован, их ковариация равна

Cov(α^,β^)=σ2(x¯/Sxx),Sxx=(xi2x¯2)

Итак, вы видите, что если мы используем регрессор с центром в , назовем его , то в приведенном выше ковариационном выражении будет использоваться среднее значение выборки для центрированного регрессора, , которое будет равно нулю, и так оно также будет равно нулю, а коэффициенты оценки будут независимыми.x¯x~x¯~

Этот пост , содержит больше на простой линейной регрессии алгебры OLS.

Алекос Пападопулос
источник
Я хотел бы рассмотреть возможность использования вместо . В противном случае он чувствует, что и необходимо заменить аналогами по населению. Или я не прав? C ø V ( & alpha ; , & beta ; ) ˉ х S х хCov(α^,β^|X)Cov(α^,β^)x¯Sxx
Ричард Харди