Почему мы не можем использовать

Представьте, что у нас есть модель линейной регрессии с зависимой переменной . Мы находим его . Теперь мы делаем другую регрессию, но на этот раз для , и аналогично находим ее . Мне сказали, что я не могу сравнить оба чтобы увидеть, какая модель лучше подходит. Это почему? Причиной для меня было то, что мы будем сравнивать изменчивость разных величин (разных зависимых переменных). Я не уверен, что это должно быть достаточной причиной для этого.$y$ log ( y ) R 2 log ( y ) R $R^2_y$$\log(y)$$R^2_{\log(y)}$$R^2$

Также есть ли способ формализовать это?

Любая помощь будет оценена.

Это хороший вопрос, потому что «разные величины» не являются чем-то вроде объяснения.

Есть две важные причины, по которым следует с осторожностью использовать для сравнения этих моделей: он слишком грубый (он на самом деле не оценивает качество соответствия ) и будет неподходящим по крайней мере для одной из моделей. Этот ответ касается второй проблемы.$R^2$

---

Теоретическое лечение

сравнивает дисперсию остатков модели с дисперсией ответов. Дисперсия - среднеквадратичное аддитивное отклонение от подгонки. Таким образом, мы можем понимать R 2 как сравнение двух моделей ответа y . $R^2$$R^2$$y$

Модель «база» является

$$y_i = \mu + \delta_i\tag{1}$$

где - параметр (теоретический средний отклик), а δ i - независимые случайные «ошибки», каждая из которых имеет нулевое среднее значение и общую дисперсию τ 2 .$\mu$$\delta_i$$\tau^2$

Модель линейной регрессии вводит векторы качестве объясняющих переменных:$x_i$

$$y_i = \beta_0 + x_i \beta + \varepsilon_i.\tag{2}$$

Число и вектор β являются параметрами (точка пересечения и «уклоны»). Ε я снова независимые случайные ошибки, каждый с нулевым средним и дисперсией общей сг 2 .$\beta_0$$\beta$$\varepsilon_i$$\sigma^2$

оценивает уменьшение дисперсии, т 2 - σ 2 ,сравнению с исходной дисперсией т 2 .$R^2$$\tau^2-\sigma^2$$\tau^2$

Когда вы берете логарифмы и используете наименьшие квадраты, чтобы соответствовать модели , вы неявно сравниваете отношения формы

$$\log(y_i) = \nu + \zeta_i\tag{1a}$$

к одной из форм

$$\log(y_i) = \gamma_0 + x_i\gamma + \eta_i.\tag{2a}$$

$(1)$$(2)$$(2\text{a})$

$$y_i = \exp(\log(y_i)) = \exp(\gamma_0 + x_i\gamma)\exp(\eta_i).$$

Термины ошибки теперь умножают базовые отношения$\exp(\eta_i)$$y_i = \exp(\gamma_0 + x_i\gamma)$

$$\operatorname{Var}(y_i) = \exp(\gamma_0 + x_i\gamma)^2\operatorname{Var}(e^{\eta_i}).$$

$x_i$$(2)$$\sigma^2$

Обычно только один из этих наборов моделей может быть разумным описанием данных. Применение второго набора и ( 2 а $(1\text{a})$$(2\text{a})$$(1)$$(2)$$R^2$$R^2$

Анализ

$R^2$$x$$y$$\varepsilon_i$$\eta_i$

Такая модель (которая обычно встречается) представляет собой метод наименьших квадратов, соответствующий экспоненциальному отношению,

$$y_i = \exp\left(\alpha_0 + x_i\alpha\right) + \theta_i.\tag{3}$$

$y$$x$$(2\text{a})$$\theta_i$$(2)$$R^2$$x$$y$

$(3)$$300$$x_i$$1.0$$1.6$$(x,y)$$(x,\log(y))$

$R^2$$0.70$$0.56$$R^2$$R^2$$0.70$

---

$\log(y)$$(3)$