Когда мы делаем множественные регрессии и говорим, что смотрим на среднее изменение переменной для изменения переменной , сохраняя все остальные переменные постоянными, при каких значениях мы держим другие переменные постоянными? Их значит? Нуль? Любое значение?
Я склонен думать, что это любой ценностью; просто ищу разъяснений. Если бы у кого-то было доказательство, это тоже было бы здорово.
Ответы:
Вы правы. Технически это любая ценность . Тем не менее, когда я учу этому, я обычно говорю людям, что вы получаете эффект изменения одной единицы в когда все другие переменные хранятся в соответствующих им значениях. Я считаю, что это обычный способ объяснить это, что не является специфическим для меня.ИксJ
Я обычно продолжаю упоминать, что если у вас нет каких-либо взаимодействий, будет результатом изменения одной единицы в , независимо от того, каковы значения других ваших переменных. Но мне нравится начинать со средней формулировки. Причина в том, что есть два эффекта включения нескольких переменных в регрессионную модель. Во-первых, вы получаете эффект контроля для других переменных (см. Мой ответ здесь ). Во-вторых, присутствие других переменных (как правило) уменьшает остаточную дисперсию модели, делая ваши переменные (включаяX j X j X j XβJ ИксJ ИксJ ИксJ ) «более значимым». Людям трудно понять, как это работает, если другие переменные имеют значения повсюду. Кажется, что это как-то увеличит изменчивость. Если вы думаете о корректировке каждой точки данных вверх или вниз для значения каждой другой переменной до тех пор, пока все остальные переменные не будут перемещены в их соответствующие средние значения, легче увидеть, что остаточная изменчивость была уменьшена. Икс
Я не получаю взаимодействия до одного или двух классов после того, как я ввел основы множественной регрессии. Однако когда я добираюсь до них, я возвращаюсь к этому материалу. Вышесказанное применяется, когда нет взаимодействия. Когда есть взаимодействия, это сложнее. В этом случае взаимодействующая переменная [s] поддерживается постоянной (очень конкретно) в , и ни в каком другом значении.0
Если вы хотите увидеть, как это действует алгебраически, это довольно просто. Мы можем начать со случая отсутствия взаимодействия. Давайте определим изменение в когда все другие переменные поддерживаются постоянными в соответствующих значениях. Без ограничения общности, скажем, есть три переменные и мы заинтересованы в понимании того, как изменение в связано с изменением на одну единицу в , с постоянными значениями и в соответствующих им значениях: Й У Й3Х1Х2Y^ Икс Y^ Икс3 Икс1 Икс2
Теперь очевидно, что мы могли бы ввести любое значение для и в первые два уравнения, при условии, что мы поместили одно и то же значение для ( ) в оба из них. То есть, пока мы держим и постоянными . X 2 X 1 X 2 X 1 X 2Икс1 Икс2 Икс1 Икс2 Икс1 Икс2
С другой стороны, это не сработает, если у вас есть взаимодействие. Здесь я показываю случай, когда есть взаимодействия :Икс1Икс3
В этом случае невозможно сохранить все остальное постоянным. Поскольку член взаимодействия является функцией и , изменить без изменения взаимодействия. Таким образом, равно изменению связанному с изменением на одну единицу в только когда взаимодействующая переменная ( ) удерживается в вместо (или в любом другом значении, кроме ), и в этом случае последний член в нижнем уравнении выпадает. Х 3 Х 3 β 3 У Х 3 Х 1 0 ˉ Х 1 0Икс1 Икс3 Икс3 β^3 Y^ Икс3 Икс1 0 Икс¯1 0
В этом обсуждении я сосредоточился на взаимодействиях, но в более общем плане проблема заключается в том, что существует какая-либо переменная, являющаяся функцией другой, такая, что невозможно изменить значение первой, не изменив соответствующее значение другой переменной. , В таких случаях значение становится более сложным. Например, если у вас была модель с и , то - это производная которой все остальные равны, и (см. Мой ответ здесь ). Возможны и другие, еще более сложные формулировки. ХJХ 2 J β JdYβ^J ИксJ Икс2J β^J Xj=0dYdИксJ ИксJ= 0
источник
Математика проста: просто возьмите разницу между двумя моделями с одной из переменных x, измененной на 1, и вы увидите, что не имеет значения, что представляют собой другие переменные (если нет взаимодействий, полиномов или других усложняющих терминов).
Один пример:
источник
Я полагаю, что вы имеете в виду зависимость в ковариатах ( ). Поэтому, если модель влияние на прочих равных условиях будет для любого со всеми остальными имеющими постоянную при любом значении.Икся
Имейте в виду, что возможно, что и являются зависимыми (например, функции друг друга), не обязательно демонстрируя значительное взаимодействие в линейной модели ( в ).Икс1 Икс2 β12= 0 Y= β0+ β1Икс1+ β2Икс2+ β12Икс1Икс2
Так же, как интересная касательная, вот пример: пусть и тогда очевидно, что любое изменение в повлияет на , Однако ковариация между ними равна нулю.Икс1~ N( 0 , σ21) Икс2= X21+ N( 0 , σ22) Икс1 Икс2
Таким образом, в действительности изменение будет связано с изменением и что не будет охватывать то, что действительно произойдет, если вы измените . Но все равно будет описан как влияние на всех равных условиях.X 2 Δ YИкс1 Икс2 X1ΔYΔ YΔ Xя Икс1 XiYΔ YΔ Xя Икся Y
Это сравнимо с разницей между полной производной и частичной производной (аналог ) в дифференциальном уравнении.Δ YΔ Xя
источник