AR (1) процесс с гетероскедастическими ошибками измерения

13

1. Проблема

У меня есть некоторые измерения переменного yt , где t=1,2,..,N , для которого у меня есть распределение fyt(yt) полученное с помощью MCMC, которое для простоты я предполагаю, что это гауссиан среднего μt и дисперсии σt2 .

У меня есть физическая модель для этих наблюдений, скажем, g(t) , но остатки rt=μtg(t) по-видимому, коррелированы; в частности, у меня есть физические причины полагать, что процесса AR(1) будет достаточно, чтобы учесть корреляцию, и я планирую получить коэффициенты соответствия через MCMC, для которого мне нужна вероятность . Я думаю, что решение довольно простое, но я не совсем уверен (кажется, что так просто, что я думаю, что что-то упустил).

2. Получение вероятности

Процесс нулевым средним можно записать в виде: X t = ϕ X t - 1 + ε t , ( 1 ) где я буду считать ε tN ( 0 , σ 2 w ) . Следовательно, оцениваемые параметры: θ = { ϕ , σ 2 w } (в моем случае мне также нужно добавить параметры модели g ( t )AR(1)

ИксTзнак равноφИксT-1+εT,   (1)
εtN(0,σw2)θ={ϕ,σw2}g(t), но это не проблема). Однако я наблюдаю переменную где я предполагаю, что η tN ( 0 , σ 2 t ) , а σ 2 t известны (ошибки измерения) , Поскольку X t является гауссовским процессом, R t также. В частности, я знаю, что X 1N ( 0 , σ 2 w /
Rt=Xt+ηt,   (2)
ηtN(0,σt2)σt2XtрT следовательно, R 1N ( 0 , σ 2 w / [ 1 - ϕ 2 ] + σ 2 t ) . Следующая задача - получить R t | R t - 1 для t 1 . Чтобы получить распределение этой случайной величины, обратите внимание, что, используя уравнение ( 2 ) я могу написать X т
Икс1~N(0,σвес2/[1-φ2]),
р1~N(0,σвес2/[1-φ2]+σT2),
рT|рT-1T1(2) Использование уравнения. (2), и используя определение уравнения. (1)я могу написать, что R t = X t + η t =ϕ X t - 1 + ε t + η t . Используя уравнение (3)в этом последнем выражении, тогда я получаю, R t
ИксT-1знак равнорT-1-ηT-1,   (3)
(2)(1)
рTзнак равноИксT+ηTзнак равноφИксT-1+εT+ηT,
(3) таким образом, R t | R t - 1 = ϕ ( r t - 1 - η t - 1 ) + ε t + η t , и, следовательно, R t | R т - 1Н (
рTзнак равноφ(рT-1-ηT-1)+εT+ηT,
рT|рT-1знак равноφ(рT-1-ηT-1)+εT+ηT,
Наконец, я могу написать функцию правдоподобия в виде L ( θ ) = f R 1 ( R 1 = r 1 ) n t = 2 f R t | R t - 1 ( R t = r t
рT|рT-1~N(φрT-1,σвес2+σT2-φ2σT-12),
где f ( ) - распределения переменных, которые я только что определил, т.е., определяя σ 2 = σ 2 w / [ 1 - ϕ 2 ] + σ 2 t , f R 1 ( R 1 = r 1 ) = 1
L(θ)=fR1(R1=r1)t=2nfRt|Rt1(Rt=rt|Rt1=rt1),
f()σ2=σw2/[1ϕ2]+σt2, и определенияσ2(т)=σ 2 ш +σ 2 т -ф2сг 2 т - 1 , еRт| Rt-1(Rt=rt|Rt-1=rt-1)=1
fR1(R1=r1)=12πσ2exp(r122σ2),
σ2(t)=σw2+σt2ϕ2σt12
fRt|Rt1(Rt=rt|Rt1=rt1)=12πσ2(t)exp((rtϕrt1)22σ2(t))

3. Вопросы

  1. Мой вывод в порядке? У меня нет ресурсов для сравнения, кроме симуляций (которые, похоже, согласны), и я не статистик!
  2. MA(1)ARMA(1,1)ARMA(p,q)
Нестора
источник
У меня точно нет решения для тебя. Но я думаю, что это своего рода проблема с ошибками в переменных. Я видел этот материал в «Макроэкономической теории» Томаса Серджента (книга 1980-х годов). Вы можете посмотреть на это.
Метрика
Спасибо за вклад, @Metrics. Я проверю книгу!
Нестор

Ответы:

1
  1. Вы на правильном пути, но вы допустили ошибку при получении распределения рT данный рT-1: условное среднее не φрT-1, ЭтоφИкс^T-1, где Икс^T-1 ваша лучшая оценка Иксс предыдущего периода. ЗначениеИкс^T-1 включает в себя информацию из предыдущих наблюдений, а также рT-1, (Чтобы увидеть это, рассмотрим ситуацию, когдаσвес и φнезначительны, поэтому вы эффективно оцениваете фиксированное среднее. После многих наблюдений ваша неуверенность вИкс будет намного меньше, чем ση.) Сначала это может сбить с толку, потому что вы наблюдаете р и не Икс, Это просто означает, что вы имеете дело с моделью пространства состояний .

  2. Да, существует очень общая основа для использования линейно-гауссовых моделей с шумными наблюдениями, называемая фильтром Калмана . Это относится ко всему, что имеет структуру ARIMA и ко многим другим моделям. Изменяющегося во времениσηв порядке для фильтра Калмана, при условии, что он не стохастический. Модели с, например, стохастической волатильностью требуют более общих методов. Чтобы увидеть, как получается фильтр Калмана, попробуйте Дурбин-Купман или главу 3 « Харви» . В нотации Харви, ваша модель имеетZзнак равно1, dзнак равносзнак равно0, ЧАСTзнак равноση,T2, Tзнак равноφ, рзнак равно1 и Qзнак равноσвес2,

Джейми Холл
источник
Привет Джейми, спасибо за ваш вклад. Пара комментариев: 1. Я не уверен в этом. На самом деле это была моя первая попытка в качестве решения, но моя интуиция и симуляции не согласны с этим. Дело в том, что я на самом деле не наблюдаю ИксTНаблюдаю рT; плюс, вы можете доказать (арифметически), что условное среднее случайной величинырT|рT-1знак равнорT-1 (обратите внимание, что это не рT|ИксT-1знак равноИксT-1) на самом деле φИкс^T-1? 2. Можете ли вы рассказать о применении фильтра Калмана к этой конкретной проблеме?
Нестор
Привет Нестор, я отредактировал ответ, чтобы ответить на твои комментарии. Надеюсь, это поможет.
Джейми Холл
Привет Джейми: о втором пункте, все в порядке, спасибо :-)! Тем не менее, я все еще не вижу твоего первого замечания. Можете ли вы указать мне на формальный вывод? В частности, я хотел бы знать, какая часть моих рассуждений неверна (и почему)!
Нестор
Вы пропустили шаг: распределение Икс1 данный р1, ЭтоN(σИкс,12(σИкс,12+ση,12)р1,σИкс,22), где σИкс,12 является дисперсией, которую вы рассчитали на первом этапе, и σИкс,22 в два раза больше среднего гармонического σИкс,12 and ση,12. (This is just like Bayesian updating with two Gaussian pdfs.) Your equation (3) is formally correct, but you're throwing away information by using that instead of p(Xt1|R1:t1).
Jamie Hall
-1

Honestly, you should code this in BUGs or STAN and not worry about it from there. Unless this is a theoretical question.

DavidShor
источник
2
(-1) To this response; this is clearly a theoretical question ;-). Consider improving why you think I should code it in BUGs or STAN and what it does have to do with the original question?
Néstor