Интерпретация модели ARIMA

У меня есть вопрос о моделях ARIMA. Допустим, у меня есть временной ряд который я хотел бы спрогнозировать, и модель кажется хорошим способом выполнить прогнозирование. Теперь отстающие означают, что мои сегодняшние сериалы находятся под влиянием предыдущих событий. Это имеет смысл. Но какова интерпретация ошибок? Мой предыдущий остаток (насколько я был в моих вычислениях) влияет на стоимость моей серии сегодня? Как рассчитываются отставшие остатки в этой регрессии, поскольку она является продуктом / остатком регрессии?$Y_t$$\text{ARIMA}(2,2)$

$$\Delta Y_t = \alpha_1 \Delta Y_{t-1} + \alpha_2 \Delta Y_{t-2} + \nu_{t} + \theta_1 \nu_{t-1} + \theta_2 \nu_{t-2}$$ $Y$

Я думаю, что вы должны помнить, что модели ARIMA являются атеоретическими моделями, поэтому обычный подход к интерпретации оценочных коэффициентов регрессии в действительности не переносится на моделирование ARIMA.

Чтобы интерпретировать (или понять) оцененные модели ARIMA, было бы хорошо знать различные функции, отображаемые рядом общих моделей ARIMA.

Мы можем исследовать некоторые из этих функций, изучая типы прогнозов, создаваемых различными моделями ARIMA. Это основной подход, который я использовал ниже, но хорошей альтернативой было бы рассмотреть функции импульсной характеристики или динамические временные траектории, связанные с различными моделями ARIMA (или стохастическими разностными уравнениями). Я поговорю об этом в конце.

AR (1) Модели

Давайте рассмотрим модель AR (1) на мгновение. В этой модели можно сказать, что чем ниже значение тем быстрее скорость сходимости (к среднему значению). Мы можем попытаться понять этот аспект моделей AR (1), исследуя природу прогнозов для небольшого набора моделируемых моделей AR (1) с различными значениями для α 1 .$\alpha_{1}$$\alpha_{1}$

Множество четырех AR (1) моделей, которые мы обсудим, можно записать в алгебраической записи как: где C - постоянная, а остальная часть обозначений следует из OP. Как видно, каждая модель отличается только по значению α 1 .

$$\begin{equation} Y_{t} = C + 0.95 Y_{t-1} + \nu_{t} ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~ (1)\\ Y_{t} = C + 0.8 Y_{t-1} + \nu_{t} ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~ (2)\\ Y_{t} = C + 0.5 Y_{t-1} + \nu_{t} ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~ (3)\\ Y_{t} = C + 0.4 Y_{t-1} + \nu_{t} ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~ (4) \end{equation}$$ $C$$\alpha_{1}$

На графике ниже я составил прогнозы вне выборки для этих четырех моделей AR (1). Можно видеть, что прогнозы для модели AR (1) с сходятся с более медленной скоростью по сравнению с другими моделями. Прогнозы для модели AR (1) с α 1 = 0,4 сходятся с большей скоростью, чем другие.$\alpha_{1} = 0.95$$\alpha_{1} = 0.4$

Примечание: когда красная линия горизонтальна, она достигла среднего значения моделируемой серии.

MA (1) Модели

$\theta_{1}$

$$\begin{equation} Y_{t} = C + 0.95 \nu_{t-1} + \nu_{t} ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~ (5)\\ Y_{t} = C + 0.8 \nu_{t-1} + \nu_{t} ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~ (6)\\ Y_{t} = C + 0.5 \nu_{t-1} + \nu_{t} ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~ (7)\\ Y_{t} = C + 0.4 \nu_{t-1} + \nu_{t} ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~ (8) \end{equation}$$

На графике ниже я построил внеплановые прогнозы для этих четырех разных моделей MA (1). Как показывает график, поведение прогнозов во всех четырех случаях заметно схоже; быстрая (линейная) сходимость к среднему. Обратите внимание, что динамика этих прогнозов менее разнообразна по сравнению с моделями AR (1).

Примечание: когда красная линия горизонтальна, она достигла среднего значения моделируемой серии.

AR (2) модели

Все становится намного интереснее, когда мы начинаем рассматривать более сложные модели ARIMA. Возьмем для примера модели AR (2). Это всего лишь маленький шаг по сравнению с моделью AR (1), верно? Что ж, можно подумать об этом, но динамика моделей AR (2) достаточно разнообразна, как мы увидим ниже.

Давайте рассмотрим четыре разные модели AR (2):

$$\begin{equation} Y_{t} = C + 1.7 Y_{t-1} -0.8 Y_{t-2} + \nu_{t} ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~ (9)\\ Y_{t} = C + 0.9 Y_{t-1} -0.2 Y_{t-2} + \nu_{t} ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~ (10)\\ Y_{t} = C + 0.5 Y_{t-1} -0.2 Y_{t-2} + \nu_{t} ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~ (11)\\ Y_{t} = C + 0.1 Y_{t-1} -0.7 Y_{t-2} + \nu_{t} ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~ (12) \end{equation}$$

Прогнозы вне выборки, связанные с каждой из этих моделей, показаны на графике ниже. Совершенно очевидно, что каждый из них значительно различается, и они также довольно разнообразны по сравнению с прогнозами, которые мы видели выше - за исключением прогнозов модели 2 (верхний правый график), которые ведут себя аналогично прогнозам для AR (1) модель.

Примечание: когда красная линия горизонтальна, она достигла среднего значения моделируемой серии.

$$\begin{equation} \alpha_{1}^{2}+4\alpha_{2} < 0, \end{equation}$$

Стоит отметить, что указанное выше условие вытекает из общего решения однородной формы линейного автономного разностного уравнения второго порядка (со сложными корнями). Если это вам чуждо, я рекомендую и главу 1 Гамильтона (1994), и главу 20 Хой и соавт. (2001).

$$\begin{equation} (1.7)^{2} + 4 (-0.8) = -0.31 < 0 ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~ (13)\\ (0.9)^{2} + 4 (-0.2) = 0.01 > 0 ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~ (14)\\ (0.5)^{2} + 4 (-0.2) = -0.55 < 0 ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~ (15)\\ (0.1)^{2} + 4 (-0.7) = -2.54 < 0 ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~ (16) \end{equation}$$

Как и ожидалось из-за появления построенных прогнозов, условие выполняется для каждой из четырех моделей, за исключением модели 2. Как видно из графика, прогнозы модели 2 ведут себя («нормально») подобно прогнозам модели AR (1). Прогнозы, связанные с другими моделями, содержат циклы.

Приложение - Моделирование инфляции

$\pi_{t}$

$$\begin{equation} \pi_{t} = C + \alpha_{1} \pi_{t-1} + \alpha_{2} \pi_{t-2} + \nu_{t}. \end{equation}$$ , Я бы не стал спорить с такой интерпретацией, но я бы предложил проявить некоторую осторожность и чтобы нам пришлось копать глубже, чтобы разработать правильную интерпретацию. В этом случае мы могли бы спросить, каким образом инфляция связана с предыдущими уровнями инфляции? Есть ли циклы? Если да, сколько там циклов? Можем ли мы что-то сказать о пике и впадине? Как быстро прогнозы сходятся к среднему? И так далее.

Это те вопросы, которые мы можем задать, пытаясь интерпретировать модель AR (2), и, как вы можете видеть, это не так просто, как взятие оценочного коэффициента и высказывание «увеличение этой переменной на 1 единицу связано с увеличение во многих единицах зависимой переменной » - конечно, при условии, что условие « при прочих равных условиях » присоединяется к этому утверждению.

Имейте в виду, что в нашем обсуждении мы рассмотрели только выбор моделей AR (1), MA (1) и AR (2). Мы даже не смотрели на динамику смешанных моделей ARMA и моделей ARIMA с более высокой задержкой.

$\alpha_{2}$

$$\begin{equation} \pi_{t} = C + \alpha_{1} \pi_{t-1} + \alpha_{3} \pi_{t-3} + \theta_{1}\nu_{t-1} + \nu_{t}. \end{equation}$$

Скажите, что хотите, но здесь лучше попытаться понять динамику самой системы. Как и прежде, мы можем посмотреть и посмотреть, какие прогнозы дает модель, но альтернативный подход, о котором я упоминал в начале этого ответа, заключался в том, чтобы посмотреть на функцию импульсного отклика или временной путь, связанный с системой.

Это подводит меня к следующей части моего ответа, где мы обсудим функции импульсного отклика.

Функции импульсного отклика

Те, кто знаком с векторной авторегрессией (VAR), будут знать, что обычно пытаются понять оценочную модель VAR, интерпретируя функции импульсного отклика; вместо того, чтобы пытаться интерпретировать оценочные коэффициенты, которые зачастую слишком сложно интерпретировать в любом случае.

Тот же подход может быть использован при попытке понять модели ARIMA. То есть вместо того, чтобы пытаться разобраться в (сложных) заявлениях типа «сегодняшняя инфляция зависит от вчерашней инфляции и инфляции двухмесячной давности, но не от инфляции прошлой недели!» вместо этого мы строим функцию импульсного отклика и пытаемся понять это.

Приложение - четыре макропеременные

$$\begin{eqnarray} Y_{t} &=& 3.20 + 0.22 Y_{t-1} + 0.15 Y_{t-2} + \nu_{t}\\ \pi_{t} &=& 4.10 + 0.46 \pi_{t-1} + 0.31\pi_{t-2} + 0.16\pi_{t-3} + 0.01\pi_{t-4} + \nu_{t}\\ u_{t} &=& 6.2+ 1.58 u_{t-1} - 0.64 u_{t-2} + \nu_{t}\\ r_{t} &=& 6.0 + 1.18 r_{t-1} - 0.23 r_{t-2} + \nu_{t} \end{eqnarray}$$ $Y_{t}$$t$$\pi$$u$$r$

Уравнения показывают, что рост ВВП, уровень безработицы и краткосрочная процентная ставка моделируются как процессы AR (2), а инфляция моделируется как процесс AR (4).

Вместо того, чтобы пытаться интерпретировать коэффициенты в каждом уравнении, давайте построим функции импульсного отклика (IRF) и вместо этого интерпретируем их. На графике ниже показаны функции импульсного отклика, связанные с каждой из этих моделей.

Не воспринимайте это как мастер-класс по интерпретации IRF - думайте об этом больше как о базовом введении - но в любом случае, чтобы помочь нам интерпретировать IRF, нам нужно привыкнуть к двум концепциям; импульс и настойчивость .

Эти два понятия определены в Leamer (2010) следующим образом:

Импульс : Импульс - это тенденция продолжать движение в том же направлении. Эффект импульса может компенсировать силу регрессии (конвергенции) к среднему значению и может позволить переменной отойти от своего исторического среднего значения на некоторое время, но не на неопределенное время.

Постоянство : переменная постоянства будет зависеть от того, где она есть, и медленно сходиться только к историческому значению

Оборудованный этими знаниями, мы теперь задаем вопрос: предположим, что переменная находится в своем историческом среднем значении и получает временный шок на одну единицу за один период, как переменная будет реагировать в будущих периодах? Это все равно, что задавать те вопросы, которые мы задавали ранее, например, содержат ли прогнозы циклы? , Как быстро делать прогнозы сходятся к среднему значению? , и т.д.

Наконец, теперь мы можем попытаться интерпретировать IRF.

После шока в одну единицу уровень безработицы и краткосрочная процентная ставка (3-месячная казна) переносятся дальше от их исторического среднего значения. Это импульсный эффект. IRF также показывают, что уровень безработицы превышает в большей степени, чем краткосрочная процентная ставка.

Мы также видим, что все переменные возвращаются к своим историческим средствам (ни одна из них не «взрывается»), хотя каждая из них делает это с разной скоростью. Например, рост ВВП возвращается к своему историческому среднему значению примерно через 6 периодов после шока, уровень безработицы возвращается к своему историческому среднему значению примерно через 18 периодов, но инфляция и краткосрочные проценты занимают более 20 периодов, чтобы вернуться к своим историческим значениям. В этом смысле рост ВВП является наименее стойким из четырех переменных, в то время как инфляцию можно назвать очень стойкой.

Я думаю, что было бы справедливо сказать, что нам удалось (хотя бы частично) понять, что четыре модели ARIMA говорят нам о каждой из четырех макропеременных.

Вывод

Вместо того, чтобы пытаться интерпретировать оценочные коэффициенты в моделях ARIMA (сложно для многих моделей), вместо этого попытайтесь понять динамику системы. Мы можем попытаться сделать это, изучив прогнозы, сделанные нашей моделью, и построив график функции импульсного отклика.

[Я достаточно рад поделиться своим R-кодом, если кто-то захочет.]

Ссылки

• Гамильтон, JD (1994). Анализ временных рядов (Том 2). Принстон: издательство Принстонского университета.
• Leamer, E. (2010). Макроэкономические модели и истории - Руководство для MBA, Springer.
• Стенгос, Т., Хой, Дж. Ливернуа, К. МакКенна и Р. Рис (2001). Математика для экономики, 2-е издание, MIT Press: Cambridge, MA.

$MA(\infty)$

$$\Delta Y_t=\sum_{j=0}^{\infty} \psi_j\nu_{t-j}$$

$MA(1)$$AR(1)$

$$Y_t=\nu_t+\theta_{1}\nu_{t-1}$$

$$Y_t=\rho Y_{t-1}+\nu_{t}=\nu_t+\rho \nu_{t-1}+ \rho^2 \nu_{t-1}+...$$

Вы можете сказать, что термины ошибки в моделях ARMA объясняют «краткосрочное» влияние прошлого, а запаздывающие термины объясняют «долгосрочное» влияние. Сказав, что я не думаю, что это очень помогает, и обычно никто не беспокоится о точной интерпретации коэффициентов ARMA. Цель обычно состоит в том, чтобы получить адекватную модель и использовать ее для прогнозирования.

$n$$c_1,c_2,...,c_n$

$$Y(t) =c_1 Y(t−1) + c_2 Y(t-2) + c_3 Y(t-3)+ ... + c_n Y(t-n) + a(t)$$

Таким образом модель ARIMA может быть объяснена как ответ на вопрос

1. Сколько исторических ценностей я должен использовать, чтобы вычислить взвешенную сумму прошлого?
2. Что это за ценности?