Квантильная формула оценки регрессии

Я видел два разных представления оценки квантильной регрессии, которые

Q (β_{q}) = \sum_{i : y_{i} \geq x_{i}^{'} β}^{n} q ∣ y_{i} - x_{i}^{'} β_{q} ∣ + \sum_{i : y_{i} < x_{i}^{'} β}^{n} (1 - q) ∣ y_{i} - x_{i}^{'} β_{q} ∣

$Q(\beta_{q}) = \sum^{n}_{i:y_{i}\geq x'_{i}\beta} q\mid y_i - x'_i \beta_q \mid + \sum^{n}_{i:y_{i}< x'_{i}\beta} (1-q)\mid y_i - x'_i \beta_q \mid$

Q (β_{q}) = \sum_{i = 1}^{n} ρ_{q} (y_{i} - x_{i}^{'} β_{q}), ρ_{q} (u) = u_{i} (q - 1 (u_{i} < 0))

$Q(\beta_q) = \sum^{n}_{i=1} \rho_q (y_i - x'_i \beta_q), \hspace{1cm} \rho_q(u) = u_i(q - 1(u_i < 0 ))$

где . Может кто-нибудь сказать мне, как показать эквивалентность этих двух выражений? Вот что я попробовал до сих пор, начиная со второго выражения. $u_i = y_i - x'_i \beta_q$

\begin{aligned} Q (β_{q}) & = \sum_{i = 1}^{n} u_{i} (q - 1 (u_{i} < 0)) (y_{i} - x_{i}^{'} β_{q}) \\ = \sum_{i = 1}^{n} (y_{i} - x_{i}^{'} β_{q}) (q - 1 (y_{i} - x_{i}^{'} β_{q} < 0)) (y_{i} - x_{i}^{'} β_{q}) \\ = [\sum_{i : y_{i} \geq x_{i}^{'} β}^{n} (q (y_{i} - x_{i}^{'} β_{q})) + \sum_{i : y_{i} < x_{i}^{'} β}^{n} (q (y_{i} - x_{i}^{'} β_{q}) - (y_{i} - x_{i}^{'} β_{q}))] (y_{i} - x_{i}^{'} β_{q}) \end{aligned}

$\begin{align} Q(\beta_q) &= \sum^{n}_{i=1} u_i(q - 1(u_i < 0 )) (y_i - x'_i \beta_q) \newline &= \sum^{n}_{i=1}(y_i - x'_i \beta_q)(q - 1(y_i - x'_i \beta_q < 0 )) (y_i - x'_i \beta_q) \newline &=\left[ \sum^{n}_{i:y_{i}\geq x'_{i}\beta}(q(y_i - x'_i\beta_q)) + \sum^{n}_{i:y_{i}< x'_{i}\beta}(q(y_i - x'_i\beta_q)-(y_i - x'_i\beta_q)) \right](y_i - x'_i\beta_q) \end{align}$ Но с этого момента я застрял на том, как поступить. Пожалуйста, не говорите, что это не домашнее задание или задание. Большое спасибо.

proof quantile-regression equivalence AlexH
источник

Если вы помните, OLS минимизирует сумму квадратов невязок тогда как медианная регрессия минимизирует сумму абсолютных невязок . Оценка медианного или наименьшего абсолютного отклонения (LAD) является частным случаем квантильной регрессии, в которой вы имеете . В квантильной регрессии мы минимизируем сумму абсолютных ошибок, которые получают асимметричные веса для сверхпрогнозирования и для недопрогнозирования. Вы можете начать с представления LAD и расширить его как сумму доли данных, взвешенных по и учетом их значения , и работать с ними следующим образом: $\sum_i u_{i}^{2}$ $\sum_i \mid u_i \mid$ $q = .5$ $(1-q)$ $q$ $q$ $(1-q)$ $u_i$

\begin{aligned} ρ_{q} (u) & = 1 (u_{i} > 0) q ∣ u_{i} ∣ + 1 (u_{i} \leq 0) (1 - q) ∣ u_{i} ∣ \\ = 1 (y_{i} - x_{i}^{'} β_{q} > 0) q ∣ y_{i} - x_{i}^{'} β_{q} ∣ + 1 (y_{i} - x_{i}^{'} β_{q} \leq 0) (1 - q) ∣ y_{i} - x_{i}^{'} β_{q} ∣ \end{aligned}

$\begin{align} \rho_q(u) &= 1(u_i>0) \, q\mid u_i\mid + 1(u_i\leq 0) \, (1-q)\mid u_i \mid \newline &= 1(y_i - x'_i \beta_q > 0) \, q\mid y_i - x'_i \beta_q \mid + 1(y_i - x'_i\beta_q \leq 0) \, (1-q)\mid y_i - x'_i \beta_q \mid \end{align}$ Это просто использует тот факт, что а затем вы можете переписать функцию индикатора в виде суммы наблюдений, которые удовлетворяют условиям индикаторов , Это даст первое выражение, которое вы записали для оценки квантильной регрессии.

u_{i} = y_{i} - x_{i}^{'} β_{q}

$u_i = y_i - x'_i \beta_q$

\begin{aligned} = \sum_{i : y_{i} > x_{i}^{'} β_{q}}^{n} q ∣ y_{i} - x_{i}^{'} β_{q} ∣ + \sum_{i : y_{i} \leq x_{i}^{'} β_{q}}^{n} (1 - q) ∣ y_{i} - x_{i}^{'} β_{q} ∣ \\ = q \sum_{i : y_{i} > x_{i}^{'} β_{q}}^{n} ∣ y_{i} - x_{i}^{'} β_{q} ∣ + (1 - q) \sum_{i : y_{i} \leq x_{i}^{'} β_{q}}^{n} ∣ y_{i} - x_{i}^{'} β_{q} ∣ \\ = q \sum_{i : y_{i} > x_{i}^{'} β_{q}}^{n} (y_{i} - x_{i}^{'} β_{q}) - (1 - q) \sum_{i : y_{i} \leq x_{i}^{'} β_{q}}^{n} (y_{i} - x_{i}^{'} β_{q}) \\ = q \sum_{i : y_{i} > x_{i}^{'} β_{q}}^{n} (y_{i} - x_{i}^{'} β_{q}) - \sum_{i : y_{i} \leq x_{i}^{'} β_{q}}^{n} (y_{i} - x_{i}^{'} β_{q}) + q \sum_{i : y_{i} \leq x_{i}^{'} β_{q}}^{n} (y_{i} - x_{i}^{'} β_{q}) \\ = q \sum_{i = 1}^{n} (y_{i} - x_{i}^{'} β_{q}) - \sum_{i = 1}^{n} 1 (y_{i} - x_{i}^{'} β_{q} \leq 0) (y_{i} - x_{i}^{'} β_{q}) \\ = \sum_{i = 1}^{n} (q - 1 (u_{i} \leq 0)) u_{i} \end{aligned}

$\begin{align} &= \sum^{n}_{i:y_i>x'_i\beta_q}q\mid y_i - x'_i\beta_q \mid + \sum^{n}_{i:y_i\leq x'_i\beta_q} (1-q) \mid y_i - x'_i\beta_q \mid \newline &= q \sum^{n}_{i:y_i>x'_i\beta_q} \mid y_i - x'_i\beta_q \mid + (1-q)\sum^{n}_{i:y_i\leq x'_i\beta_q} \mid y_i - x'_i\beta_q \mid \newline &= q \sum^{n}_{i:y_i>x'_i\beta_q} (y_i - x'_i\beta_q) - (1-q)\sum^{n}_{i:y_i\leq x'_i\beta_q} ( y_i - x'_i\beta_q ) \newline &= q \sum^{n}_{i:y_i>x'_i\beta_q} (y_i - x'_i\beta_q) - \sum^{n}_{i:y_i\leq x'_i\beta_q} (y_i - x'_i\beta_q) + q \sum^{n}_{i:y_i\leq x'_i\beta_q} (y_i - x'_i\beta_q) \newline &= q \sum^{n}_{i=1} (y_i - x'_i \beta_q) - \sum^{n}_{i=1}1(y_i - x'_i\beta_q\leq 0)(y_i - x'_i\beta_q) \newline &= \sum^{n}_{i=1}(q - 1(u_i \leq 0))u_i \end{align}$

Вторая строка вынимает веса из сумм. Третья строка избавляет от абсолютных значений и заменяет их фактическими значениями. По определению является отрицательным всякий раз, когда , следовательно, знак меняется в этой строке. Четвертая строка умножается на . Затем вы понимаете, что и замена суммирования среднего слагаемого в четвертой строке соответствующим индикатором Вы прибываете на пятой линии. Факторизация, а затем замена $y_i - x'_i\beta_q$ $y_i < x'_i\beta_q$ $(1-q)$

q \sum_{i : y_{i} > x_{i}^{'} β_{q}}^{n} (y_{i} - x_{i}^{'} β_{q}) + q \sum_{i : y_{i} \leq x_{i}^{'} β_{q}}^{n} (y_{i} - x_{i}^{'} β_{q}) = \sum_{i = 1}^{n} (y_{i} - x_{i}^{'} β_{q})

$q\sum^{n}_{i:y_i>x'_i\beta_q}(y_i - x'_i\beta_q) + q\sum^{n}_{i:y_i \leq x'_i\beta_q}(y_i - x'_i\beta_q) = \sum^{n}_{i=1}(y_i - x'_i\beta_q)$

y_{i} - x_{i}^{'} β_{q}

$y_i - x'_i\beta_q$

u_{i}

$u_i$
Это показывает, как два выражения эквивалентны.

Энди
источник

Квантильная формула оценки регрессии

Ответы: