Советы по определению формы кривой с помощью квантерега

10

Я использую пакет Quantreg , чтобы создать модель регрессии, используя 99-й процентиль моих значений в наборе данных. Основываясь на совете из предыдущего вопроса о стековом потоке, который я задал, я использовал следующую структуру кода.

mod <- rq(y ~ log(x), data=df, tau=.99)    
pDF <- data.frame(x = seq(1,10000, length=1000) ) 
pDF <- within(pDF, y <- predict(mod, newdata = pDF) )

который я показываю на графике поверх моих данных. Я построил это, используя ggplot2, с альфа-значением для точек. Я думаю, что хвост моего распределения недостаточно учитывается в моем анализе. Возможно, это связано с тем, что существуют отдельные точки, которые игнорируются при измерении типа процентиля.

Один из комментариев предположил, что

Виньетка пакета включает в себя разделы по нелинейной квантильной регрессии, а также модели со сглаживающими сплайнами и т. Д.

Исходя из моего предыдущего вопроса, я предположил логарифмические отношения, но я не уверен, что это правильно. Я думал, что смогу извлечь все точки с интервалом в 99-й процентиль, а затем изучить их отдельно, но я не уверен, как это сделать, или это хороший подход. Буду признателен за любые советы о том, как улучшить выявление этих отношений.

введите описание изображения здесь

celenius
источник
На сайте уже есть пара хороших вопросов, в которых уже говорится о преобразовании данных, см. Stats.stackexchange.com/q/1444/1036 или stats.stackexchange.com/q/298/1036
Энди У
Можете ли вы обновить график, чтобы добавить условную медиану? мне кажется, это больше похоже на проблему пересечения квантилей, чем на проблему преобразования данных ...
user603
@ user603 Что вы подразумеваете под условной медианой? (Я искал в Интернете, но не уверен, как это вычислить)
celenius
тау = 0,5 в функции rq ().
user603
1
Если ваша цель состоит в том, чтобы конкретно оценить условный 99-й процентиль, я бы проголосовал за нелинейную квантильную регрессию (в некотором роде - я плохо знаю пакеты R), поскольку не похоже, что вы знаете истинную функциональную форму , Однако я все еще не понял из вашего предыдущего вопроса, какова реальная цель, поэтому я хотел бы повторить комментарий к вашему предыдущему вопросу от Spacedman 4 января в 17:01
Дэвид М Каплан

Ответы:

1

Все модели ошибочны, но некоторые полезны (Джордж Бокс). Вы заставляете логарифмическую форму подходящей кривой, и, честно говоря, все выглядит не так плохо. Плохая посадка на хвосте, потому что там меньше точек; два разрешенных вами параметра будут соответствовать большей части данных. Другими словами, в логарифмическом масштабе этот хвост не достаточно далеко от основной массы ваших данных, чтобы обеспечить рычаги. Это не имеет отношения к квантильной природе регрессии; OLS также игнорирует эти пункты (особенно в логарифмическом масштабе).

Довольно легко учесть еще некоторую нелинейность. Я неравнодушен к естественным сплайнам, но опять же, все модели ошибочны:

library(splines)
mod <- rq(y ~ ns(log(x), df=6), data=df, tau=.99)

В quantregпакете есть несколько специальных крючков для монотонных сплайнов, если это вас беспокоит.

Ши Паркс
источник