Нелинейная или обобщенная линейная модель: как вы относитесь к логистической, пуассоновской и т. Д. Регрессии?

23

У меня есть вопрос о семантике, о котором я хотел бы узнать мнение коллег-статистиков.

Мы знаем, что такие модели, как логистика, Пуассон и т. Д. Подпадают под действие обобщенных линейных моделей. Модель включает в себя нелинейные функции параметров, которые, в свою очередь, могут быть смоделированы с использованием структуры линейной модели с использованием соответствующей функции связи.

Мне интересно, если вы рассматриваете (учите?) Такие ситуации, как логистическая регрессия, как:

  1. Нелинейная модель, заданная в виде параметров
  2. Линейная модель, так как ссылка превращает нас в структуру линейной модели
  3. Одновременно (1) и (2): он «начинается» как нелинейная модель, но может работать с таким способом, который позволяет нам думать о нем как о линейной модели

Хотел бы я провести реальный опрос ...

Мэг
источник

Ответы:

24

Это большой вопрос.

Мы знаем, что такие модели, как логистика, Пуассон и т. Д. Подпадают под действие обобщенных линейных моделей.

Ну да и нет. Учитывая контекст вопроса, мы должны быть очень осторожны, чтобы уточнить, о чем мы говорим - и одних только «логистики» и «Пуассона» недостаточно, чтобы описать то, что предполагается.

(i) «Пуассон» является распределением. Как описание условного распределения, оно не является линейным (и, следовательно, не GLM), если вы не укажете линейную (в параметрах) модель для описания условного среднего (то есть недостаточно просто сказать «Пуассон»). Когда люди указывают «регрессию Пуассона», они почти всегда стремятся к модели, которая является линейной по параметрам и, следовательно, представляет собой GLM. Но один «Пуассон» может быть любым количеством вещей *.

(ii) «Логистика», с другой стороны, относится к описанию среднего (то, что среднее является логистическим в предикторах). Это не GLM, если вы не объедините его с условным распределением, которое входит в экспоненциальное семейство. Когда люди говорят « логистическая регрессия », с другой стороны, они почти всегда имеют в виду биномиальную модель с логит-связью - это означает, что она логична в предикторах, модель линейна по параметрам и находится в экспоненциальном семействе, как и GLM.

Модель включает в себя нелинейные функции параметров,

Ну опять же да и нет.

η=g(μ)η=Xβ

который, в свою очередь, может быть смоделирован с использованием структуры линейной модели с использованием соответствующей функции связи.

Правильный

Мне интересно, если вы рассматриваете (учите?) Такие ситуации, как логистическая регрессия, как:

(Я изменяю порядок вашего вопроса здесь)

Линейная модель, так как ссылка превращает нас в структуру линейной модели

Именно по этой причине принято называть GLM «линейным». Действительно, довольно ясно, что это соглашение, потому что оно прямо там, в названии .

Нелинейная модель, заданная в виде параметров

Здесь мы должны быть очень осторожны, потому что «нелинейный» обычно относится к модели, нелинейной по параметрам. Контрастная нелинейная регрессия с обобщенными линейными моделями.

Поэтому, если вы хотите использовать термин «нелинейный» для описания GLM, важно тщательно указать, что вы имеете в виду - обычно, что среднее значение нелинейно связано с предикторами.

В самом деле, если вы используете «нелинейный» для обозначения GLM, вы столкнетесь с трудностями не только с соглашением (и, следовательно, с большой вероятностью его неправильно поймут), но и с попытками говорить об обобщенных нелинейных моделях . Трудно объяснить разницу, если вы уже охарактеризовали GLM как «нелинейные модели»!

g(μ)

YPoisson(μx)

xYxμxx

μx=α+exp(βx).

xα

Здесь первый член представляет постоянную смертность от (скажем) несчастных случаев (или других эффектов, не очень связанных с возрастом), в то время как второй термин имеет увеличивающуюся смертность от возраста Такая модель, возможно, иногда может быть осуществима на коротких промежутках позднего взрослого, но не старческого возраста; по сути, это закон Макхема (там он представлен как функция риска, но для него годовая ставка будет разумным приближением).

Это обобщенная нелинейная модель.

Glen_b - Восстановить Монику
источник
Спасибо за ваш вклад. Это то, что я пытаюсь достичь. Очевидно, что «линейный» во имя GLM. Я пытаюсь классифицировать те модели, которые по своей сути нелинейные (они являются нелинейными по параметрам), но «transformably линейный» , и таким образом подпадают под рамки GLM. Я думаю, может быть, я просто ответил на свой вопрос - лучший способ обратиться к ним - «трансформируемый нелинейный».
Мэг
1
Более распространенный способ ссылки на модель, которая может быть преобразована в параметры линейности с помощью преобразования, является «линеаризуемой» (в отличие от «по сути нелинейной»). Я думаю, что мы должны четко понимать, что это линейно (по сравнению с тем, что нелинейно) при обсуждении модели, и, возможно, также должно быть ясно, как на такие вещи обычно ссылаются, так как люди должны уметь находить информацию и быть понятными при обсуждении их. Кто-то, кто говорит о GLM как о «нелинейных», вероятно, будет неправильно понят, если он не добавит правильные квалификаторы, которые прояснят их значение.
Glen_b
Я согласен. Я просто вижу, что это классифицируется как нелинейная регрессия в текстах, и мои преподаватели также учили, что это нелинейно. Я лично нахожу это смущающим, так как мы имеем дело с этим в структуре GLM, но я могу (по крайней мере) сочувствовать, называя это также. Я думаю, что я иду с линеаризуемой / трансформируемой линейной и обсуждением того, как мы доберемся от точки A до точки B (то есть, как мы начнем с нелинейной функции и преобразуем ее в линейную структуру).
Мег
Да, я полностью понимаю. Хотя я также сочувствую их побуждению сделать это, если бы у меня был слух, я бы предостерег их от практики называть их нелинейными моделями (по крайней мере, не всегда определяя термин) по причинам, которые я изложил выше. Это большая часть того, почему я думаю, что это такой важный вопрос - люди иногда называют их нелинейными, что, на мой взгляд, хорошо, если мы понимаем, что мы называем нелинейными, поскольку это не самый обычный способ обратитесь к моделям - когда мы бросаем вызов соглашению, мы должны делать это осторожно и продуманно.
Glen_b