Распределение обратного коэффициента регрессии

Предположим, что у нас есть линейная модель которая удовлетворяет всем стандартным предположениям регрессии (Гаусса-Маркова). Мы заинтересованы в . $y_i = \beta_0 + \beta_1 x_i + \epsilon_i$ $\theta = 1/\beta_1$

Вопрос 1: Какие предположения необходимы для того, чтобы распределение было четко определено? было бы важно --- любые другие? $\hat{\theta}$ $\beta_1 \neq 0$

Вопрос 2: Добавьте предположение, что ошибки соответствуют нормальному распределению. Мы знаем, что если является MLE и является монотонной функцией, то является MLE для , Монотонность необходима только в окрестности ? Другими словами, является ли MLE? Теорема о непрерывном отображении, по крайней мере, говорит нам, что этот параметр согласован. $\hat{\beta}_1$ $g(\cdot)$ $g\left(\hat{\beta}_1\right)$ $g(\beta_1)$ $\beta_1$ $\hat{\theta} = 1/\hat{\beta}$

Вопрос 3: Являются ли и Дельта-метод, и начальная загрузка подходящими средствами для нахождения распределения ? $\hat{\theta}$

Вопрос 4. Как эти ответы изменяются для параметра ? $\gamma = \beta_0 / \beta_1$

В сторону: мы могли бы рассмотреть вопрос о перестановке проблемы, чтобы получить для прямой оценки параметров. Мне кажется, это не работает, так как предположения Гаусса-Маркова здесь больше не имеют смысла; мы не можем говорить о , например. Правильно ли это толкование?

\begin{aligned} {Икс}_{я} & знак равно \frac{β_{0}}{β_{1}} + \frac{1}{β_{1}} Y_{я} + \frac{1}{β_{1}} ε_{я} \\ знак равно γ + θ Y_{я} + \frac{1}{β_{1}} ε_{я} \end{aligned}

$\begin{align*} x_i &= \frac{\beta_0}{\beta_1} + \frac{1}{\beta_1} y_i + \frac{1}{\beta_1} \epsilon_i \\ &= \gamma + \theta y_i + \frac{1}{\beta_1} \epsilon_i \end{align*}$

E [ϵ ∣ y]

$\text{E}[\epsilon \mid y]$

regression distributions maximum-likelihood bootstrap Чарли
источник

Включают ли «стандартные» допущения нормальность или нет?

ϵ_{i}

$\epsilon_i$

whuber

Хорошая точка зрения; Я добавил это предположение к части о MLE. Это не должно быть необходимо для других, хотя.

Чарли

Распределение выборки является нормальным, распределение является обратным к нормальному. Это бимодальное с расходящимся (бесконечным) средним, независимо от того, может быть среднее значение , и оно бесконечно плоское в 0. Таким образом, метод Дельты будет ужасным, обычные асимптотические приближения MLE будут плохими, и даже бутстреп может быть подозрительным

β_{1}

$\beta_1$

θ

$\theta$

β_{1}

$\beta_1$

whuber

@whuber, не могли бы вы рассказать об этом? Моя интуиция не понимает, как обратная нормали должна быть бимодальной; я предполагаю, что вся масса будет равна обратной величине от нормальной (здесь ). Я беспокоился о возможности бесконечного среднего из-за массы около 0. Бутстрап и асимптотические результаты требуют наличия оцениваемых моментов, так что в конечном итоге этот вопрос зависит.

1 / {\hat{β}}_{1}

$1/\hat{\beta}_1$

Чарли

PDF обратной нормали - это . При 0 все производные равны 0; поиск критических точек по его логарифму идентифицирует положительный и отрицательный режим (легко вычисляется в терминах и ); интеграл отрасходится как интеграл от, Проблема с бесконечными первыми моментами связана с обратной величиной любой случайной величины, имеющей положительную плотность вероятности в 0, которая включает все нормали.

\exp (- (1 / x - μ)^{2} / (2 σ^{2})) / (\sqrt{2 π} x^{2} σ) d x

$\exp(-(1/x-\mu)^2/(2\sigma^2))/(\sqrt{2\pi}x^2\sigma)dx$

σ

$\sigma$

μ / σ

$\mu/\sigma$

| x |

$|x|$

| x | / x^{2} = 1 / | x |

$|x|/x^2=1/|x|$

whuber

Q1. Если является ОМП , то является ОМП & и является достаточным условием для этого оценки , чтобы быть хорошо определены. $\hat\beta_1$ $\beta_1$ $\hat\theta$ $\theta$ $\beta_1 \neq 0$

Q2. является ОМП & от свойства инвариантности ОМП. Кроме того, вам не нужна монотонность если вам не нужно получать ее инверсию. Необходимо только, чтобы было четко определено в каждой точке. Вы можете проверить это в теореме 7.2.1, стр. 350 «Вероятности и статистического вывода» Нитиса Мухопадхьяя. $\hat\theta = 1/\hat\beta$ $\theta$ $g$ $g$

Q3. Да, вы можете использовать оба метода, я бы также проверил вероятность профиля . $\theta$

$(\theta,\gamma)$ $\gamma$ $\hat\gamma=\hat\beta_0/\hat\beta_1$

Подход, который вы упоминаете в конце, неверен, вы на самом деле рассматриваете «калибровочную модель», которую вы можете проверить в литературе. Единственное, что вам нужно, это перепараметрировать с точки зрения параметров, представляющих интерес.

Надеюсь, это поможет.

С уважением.

XMX
источник

Спасибо за ответ. У меня нет книги, которую вы цитируете, но часто эти свойства требуют наличия оцениваемых моментов. Я не уверен, что ответная реакция нормального имеет необходимые моменты. Я должен был прояснить этот вопрос в своем вопросе.

Чарли

Распределение обратного коэффициента регрессии

Ответы: