Не вложенный выбор модели

13

И тест отношения правдоподобия, и AIC являются инструментами выбора между двумя моделями, и обе основаны на логарифмическом правдоподобии.

Но почему тест отношения правдоподобия нельзя использовать для выбора между двумя не вложенными моделями, в то время как AIC может?

aic likelihood-ratio nested-models user7064
источник
Сам Акаике считал, что AIC полезен для сравнения не вложенных моделей. Смотрите его цитату, на которую я ссылаюсь в ответе на пост здесь .
JonesBC

Ответы:

19

χ2

AIC, с другой стороны, не используется для формального тестирования. Используется для неформального сравнения моделей с разным количеством параметров. Термин штраф в выражении для AIC позволяет сделать это сравнение. Но не делается никаких предположений о функциональной форме асимптотического распределения различий между AIC двух не вложенных моделей при сравнении моделей, и разница между двумя AIC не рассматривается как тестовая статистика.

Добавлю, что есть некоторые разногласия по поводу использования AIC с не вложенными моделями, так как теория разработана для вложенных моделей. Отсюда мой акцент на «не ... формально» и «не ... тестовой статистике». Я использую его для не вложенных моделей, но не жестко и быстро, скорее как важный, но не единственный вклад в процесс построения модели.

jbowman
источник
@Carl - подробности в двух комментариях непосредственно перед комментарием, который вы цитируете. Я думаю, что вы должны последовать совету Гунга - написать вопрос и ответить на него. Это справедливо в этих обстоятельствах, и другие поступили аналогичным образом и с «справочными вопросами». Только что прочитав ваш ответ, я бы проголосовал за него.
jbowman
Я принял совет и новый вопрос и ответ здесь . Кстати, я проголосовал за ваш вопрос (и принятый ответ), потому что он заставил меня задуматься, а не потому, что я полностью с ним согласен. Моя проблема в том, что предположение о том, что AIC может сравнивать не вложенные модели, верно только тогда, когда выполняется множество других обычно игнорируемых условий.
Карл
9

Вывод AIC как оценки потери информации Кульбака-Лейблера не делает предположений о вложенности моделей.

Дэвид Андерсон
источник
2
Но Акаике сделал предположение, что модели строились на одних и тех же данных.
DWin