AR (1) процесс с гетероскедастическими ошибками измерения

1. Проблема

У меня есть некоторые измерения переменного $y_t$ , где $t=1,2,..,n$ , для которого у меня есть распределение $f_{y_t}(y_t)$ полученное с помощью MCMC, которое для простоты я предполагаю, что это гауссиан среднего $\mu_t$ и дисперсии $\sigma_t^2$ .

У меня есть физическая модель для этих наблюдений, скажем, $g(t)$ , но остатки $r_t = \mu_t-g(t)$ по-видимому, коррелированы; в частности, у меня есть физические причины полагать, что процесса $AR(1)$ будет достаточно, чтобы учесть корреляцию, и я планирую получить коэффициенты соответствия через MCMC, для которого мне нужна вероятность . Я думаю, что решение довольно простое, но я не совсем уверен (кажется, что так просто, что я думаю, что что-то упустил).

2. Получение вероятности

Процесс нулевым средним можно записать в виде: X t = ϕ X t - 1 + ε t , ( 1 ) где я буду считать ε t ∼ N ( 0 , σ 2 w ) . Следовательно, оцениваемые параметры: θ = { ϕ , σ 2 w } (в моем случае мне также нужно добавить параметры модели g ( t $AR(1)$

$$X_t = \phi X_{t-1}+\varepsilon_t,\ \ \ (1)$$ $\varepsilon_t\sim N(0,\sigma_w^2)$$\theta = \{\phi,\sigma_w^2\}$$g(t)$, но это не проблема). Однако я наблюдаю переменную где я предполагаю, что η t ∼ N ( 0 , σ 2 t ) , а σ 2 t известны (ошибки измерения) , Поскольку X t является гауссовским процессом, R t также. В частности, я знаю, что X 1 ∼ N ( 0 , σ 2 w $$R_t = X_t+\eta_t,\ \ \ (2)$$ $\eta_t\sim N(0,\sigma_t^2)$$\sigma_t^2$$X_t$$R_t$ следовательно, R 1 ∼ N ( 0 , σ 2 w / [ 1 - ϕ 2 ] + σ 2 t ) . Следующая задача - получить R t | R t - 1 для t ≠ 1 . Чтобы получить распределение этой случайной величины, обратите внимание, что, используя уравнение ( 2 ) я могу написать X $$X_1 \sim N(0,\sigma_w^2/[1-\phi^2]),$$ $$R_1 \sim N(0,\sigma_w^2/[1-\phi^2]+\sigma_t^2).$$ $R_t|R_{t-1}$$t\neq 1$$(2)$ Использование уравнения. (2), и используя определение уравнения. (1)я могу написать, что R t = X t + η t =ϕ X t - 1 + ε t + η t . Используя уравнение (3)в этом последнем выражении, тогда я получаю, R $$X_{t-1} = R_{t-1}-\eta_{t-1}.\ \ \ (3)$$ $(2)$$(1)$ $$R_{t} = X_t+\eta_t = \phi X_{t-1}+\varepsilon_{t}+\eta_t.$$ $(3)$ таким образом, R t | R t - 1 = ϕ ( r t - 1 - η t - 1 ) + ε t + η t , и, следовательно, R t | R т - 1 ∼ Н $$R_{t} = \phi (R_{t-1}-\eta_{t-1})+\varepsilon_{t}+\eta_t,$$ $$R_t|R_{t-1} = \phi (r_{t-1}-\eta_{t-1})+\varepsilon_{t}+\eta_t,$$ Наконец, я могу написать функцию правдоподобия в виде L ( θ ) = f R 1 ( R 1 = r 1 ) n ∏ t = 2 f R t | R t - 1 ( R t = r $$R_t|R_{t-1} \sim N(\phi r_{t-1},\sigma_w^2+\sigma_t^2-\phi^2\sigma^2_{t-1}).$$ где f ( ⋅ ) - распределения переменных, которые я только что определил, т.е., определяя σ ′ 2 = σ 2 w / [ 1 - ϕ 2 ] + σ 2 t , f R 1 ( R 1 = r 1 ) = $$L(\theta) = f_{R_1}(R_1=r_1) \prod_{t=2}^{n} f_{R_{t}|R_{t-1}}(R_t=r_t|R_{t-1}=r_{t-1}),$$ $f(\cdot)$$\sigma'^2 = \sigma_w^2/[1-\phi^2]+\sigma_t^2,$ и определенияσ2(т)=σ 2 ш +σ 2 т -ф2сг 2 т - 1 , еRт| Rt-1(Rt=rt|Rt-1=rt-1)= $$f_{R_1}(R_1=r_1) = \frac{1}{\sqrt{2\pi \sigma'^2}}\text{exp}\left(-\frac{r_1^2}{2\sigma'^2}\right),$$ $\sigma^2(t) = \sigma_w^2+\sigma_t^2-\phi^2\sigma^2_{t-1}$ $$f_{R_{t}|R_{t-1}}(R_t=r_t|R_{t-1}=r_{t-1})=\frac{1}{\sqrt{2\pi \sigma^2(t)}}\text{exp}\left(-\frac{(r_t-\phi r_{t-1})^2}{2\sigma^2(t)}\right)$$

3. Вопросы

1. Мой вывод в порядке? У меня нет ресурсов для сравнения, кроме симуляций (которые, похоже, согласны), и я не статистик!
2. $MA(1)$$ARMA(1,1)$$ARMA(p,q)$

1. Вы на правильном пути, но вы допустили ошибку при получении распределения $R_t$ данный $R_{t-1}$: условное среднее не $\phi r_{t-1}$, Это$\phi \widehat{x}_{t-1}$, где $\widehat{x}_{t-1}$ ваша лучшая оценка $X$с предыдущего периода. Значение$\widehat{x}_{t-1}$ включает в себя информацию из предыдущих наблюдений, а также $r_{t-1}$, (Чтобы увидеть это, рассмотрим ситуацию, когда$\sigma_w$ и $\phi$незначительны, поэтому вы эффективно оцениваете фиксированное среднее. После многих наблюдений ваша неуверенность в$X$ будет намного меньше, чем $\sigma_{\eta}$.) Сначала это может сбить с толку, потому что вы наблюдаете $R$ и не $X$, Это просто означает, что вы имеете дело с моделью пространства состояний .

2. Да, существует очень общая основа для использования линейно-гауссовых моделей с шумными наблюдениями, называемая фильтром Калмана . Это относится ко всему, что имеет структуру ARIMA и ко многим другим моделям. Изменяющегося во времени$\sigma_{\eta}$в порядке для фильтра Калмана, при условии, что он не стохастический. Модели с, например, стохастической волатильностью требуют более общих методов. Чтобы увидеть, как получается фильтр Калмана, попробуйте Дурбин-Купман или главу 3 « Харви» . В нотации Харви, ваша модель имеет$Z=1$, $d=c=0$, $H_t = \sigma_{\eta,t}^2$, $T=\phi$, $R=1$ и $Q=\sigma^2_w$,

Honestly, you should code this in BUGs or STAN and not worry about it from there. Unless this is a theoretical question.