Интервал прогнозирования линейной регрессии

Если наилучшим линейным приближением (с использованием наименьших квадратов) моих точек данных является линия $y=mx+b$ , как я могу рассчитать ошибку аппроксимации? Если я вычислю стандартное отклонение различий между наблюдениями и предсказаниями , могу ли я потом сказать, что действительное (но не наблюдаемое) значение принадлежит интервалу ( ) с вероятностью ~ 68%, предполагая нормальное распределение?$e_i=real(x_i)-(mx_i+b)$$y_r=real(x_0)$$[y_p-\sigma, y_p+\sigma]$$y_p=mx_0+b$

Чтобы уточнить:

Я сделал замечания относительно функции , оценив ее по некоторым точкам . Я подгоняю эти наблюдения к линии . Для который я не наблюдал, я хотел бы знать, насколько большим может быть . Используя метод выше, правильно ли сказать, что с prob. ~ 68%?$f(x)$$x_i$$l(x)=mx+b$$x_0$$f(x_0)-l(x_0)$$f(x_0) \in [l(x_0)-\sigma, l(x_0)+\sigma]$

@whuber указал вам на три хороших ответа, но, возможно, я все еще могу написать что-то ценное. Ваш явный вопрос, насколько я понимаю, таков:

Учитывая мою подогнанную модель, $\hat y_i=\hat mx_i + \hat b$ (уведомление я добавил «шляпы»),и предполагаячто мои остатки нормально распределен,, можно предсказатьчто еще незаметный ответ,упеш, с известным значением предсказателя,хпхш, будет падатьпределах интервала( у -σе, у +$\mathcal N(0, \hat\sigma^2_e)$$y_{new}$$x_{new}$ с вероятностью 68%?$(\hat y -\sigma_e, \hat y +\sigma_e)$

Интуитивно понятно, что ответ должен быть «да», но верный ответ может быть . Это будет случай, когда параметры (т.е. & σ ) известны и без ошибок. Поскольку вы оценили эти параметры, мы должны принять во внимание их неопределенность. $m, b,$$\sigma$

Давайте сначала подумаем о стандартном отклонении ваших остатков. Поскольку это оценивается по вашим данным, в оценке может быть некоторая ошибка. В результате распределение, которое вы должны использовать, чтобы сформировать интервал прогнозирования, должно быть , а не нормальным. Однако, поскольку t быстро сходится к норме, на практике это менее вероятно. $t_\text{df error}$$t$

Таким образом, мы можем использовать только у нового ± т ( 1 - α / 2 , ДФ ошибки ) s , вместо у нового ± г ( 1 - α / 2 ) S , и идти о нашем веселом пути? К сожалению нет. Большая проблема в том , что существует неопределенность в отношении вашей оценки условного среднего отклика в этом месте из - за неопределенности в ваши оценки т и б . Таким образом,$\hat y_\text{new}\pm t_{(1-\alpha/2,\ \text{df error})}s$$\hat y_\text{new}\pm z_{(1-\alpha/2)}s$$\hat m$$\hat b$стандартное отклонение ваших прогнозов должно включать в себя больше , чем просто $s_\text{error}$ . Из - за отклонения добавить , оцененная дисперсия предсказаний будет: Обратите внимание , что « х » является индексируются для представления значения , специфичного для нового наблюдение, и что " s 2 " соответственно подписан. То есть ваш интервал прогнозирования зависит от местоположения нового наблюдения вдоль

$$s^2_\text{predictions(new)}=s^2_\text{error}+\text{Var}(\hat mx_\text{new}+\hat b)$$ $x$$s^2$$x$ось. Стандартное отклонение ваших прогнозов может быть более удобно оценено по следующей формуле: В качестве интересного примечания можно сделать несколько фактов об интервалах прогнозирования из этого уравнения. Во- первых, интервалы предсказания будутузкими, чем больше данныхмы имеликогда мы построили модель прогнозирования (это потомучто там меньше неопределенность вмиб). Во-вторых, прогнозы будут наиболее точными, если они будут сделаны на основе среднихзначенийx, которыевы использовали для разработки своей модели, поскольку числитель для третьего члена будет равен0. Причина в том, что при нормальных обстоятельствах нет никакой неопределенности в отношении предполагаемого наклона при среднем значении $$s_\text{predictions(new)}=\sqrt{s^2_\text{error}\left(1+\frac{1}{N}+\frac{(x_\text{new}-\bar x)^2}{\sum(x_i-\bar x)^2}\right)}$$ $\hat m$$\hat b$$x$$0$$x$, только некоторая неопределенность относительно истинного вертикального положения линии регрессии. Таким образом, некоторые уроки, которые необходимо извлечь для построения моделей прогнозирования, заключаются в том, что больше данных полезно не для определения «значимости», а для повышения точности будущих прогнозов; и что вы должны сосредоточить свои усилия по сбору данных на интервале, в котором вам нужно будет делать прогнозы в будущем (чтобы минимизировать этот числитель), но распределять наблюдения настолько широко, насколько это возможно (чтобы максимизировать этот знаменатель).

Вычислив правильное значение таким образом, мы можем затем использовать его с соответствующим распределением как отмечено выше. $t$