Вопросы с тегом «regression»

27
Почему glmnet использует «наивную» эластичную сетку из оригинальной бумаги Zou & Hastie?

L=1n∥∥y−Xβ∥∥2+λ1∥β∥1+λ2∥β∥22,L=1n‖y−Xβ‖2+λ1‖β‖1+λ2‖β‖22,\mathcal L = \frac{1}{n}\big\lVert y - X\beta\big\rVert^2 + \lambda_1\lVert \beta\rVert_1 + \lambda_2 \lVert \beta\rVert^2_2,β^∗=(1+λ2)β^.β^∗=(1+λ2)β^.\hat\beta^* = (1+\lambda_2)\hat\beta. Однако в следующей glmnetстатье Friedman, Hastie &...

27
Как определить разницу между линейной и нелинейной регрессионными моделями?

Я читал следующую ссылку на нелинейную регрессию SAS Non Linear . Из первого раздела «Нелинейная регрессия и линейная регрессия» я понял, что приведенное ниже уравнение на самом деле является линейной регрессией, верно? Если так, то почему? Y= б1Икс3+ б2Икс2+ б3х + сy=b1x3+b2x2+b3x+cy = b_1x^3 +...

27
Ансамбль различных видов регрессоров, использующий scikit-learn (или любую другую среду Python)

Я пытаюсь решить регрессионную задачу. Я обнаружил, что 3 модели прекрасно работают для разных подмножеств данных: LassoLARS, SVR и Gradient Tree Boosting. Я заметил, что когда я делаю прогнозы, используя все эти 3 модели, а затем составляю таблицу «истинного результата» и выходных данных моих 3...

27
Почему штраф Лассо эквивалентен двойному экспоненциальному (Лапласу) ранее?

В ряде ссылок я читал, что оценка Лассо для вектора параметра регрессии эквивалентна апостериорной моде в которой предыдущее распределение для каждого является двойным экспоненциальным распределением (также известным как распределение Лапласа).BBBBBBBiBiB_i Я пытался доказать это, кто-то может...

27
Почему меньшие веса приводят к упрощению моделей в регуляризации?

Я закончил курс по машинному обучению Эндрю Нг около года назад, и сейчас я пишу свои исследования по математике в старших классах по методам логистической регрессии и методам оптимизации производительности. Одним из таких методов является, конечно, регуляризация. Целью регуляризации является...

27
Могут ли степени свободы быть нецелым числом?

Когда я использую GAM, он дает мне остаточный DF, (последняя строка в коде). Что это значит? Выходя за рамки примера GAM, в общем, может ли число степеней свободы быть нецелым числом?26,626.626.6 > library(gam) > summary(gam(mpg~lo(wt),data=mtcars)) Call: gam(formula = mpg ~ lo(wt), data =...

27
Если линейная регрессия связана с корреляцией Пирсона, существуют ли какие-либо методы регрессии, связанные с корреляциями Кендалла и Спирмена?

Может быть, этот вопрос наивный, но: Если линейная регрессия тесно связана с коэффициентом корреляции Пирсона, существуют ли какие-либо методы регрессии, тесно связанные с коэффициентами корреляции Кендалла и...

27
Соответствующие остаточные степени свободы после отбрасывания членов из модели

Я размышляю над обсуждением этого вопроса и, в частности, комментарием Фрэнка Харрелла о том, что для оценки дисперсии в сокращенной модели (т. Е. Той, в которой ряд объясняющих переменных были проверены и отклонены) следует использовать Обобщенные степени свободы Йе . Профессор Харрелл указывает,...

27
Что такое абляция? И есть ли систематический способ сделать это?

Что такое абляция? И есть ли систематический способ сделать это? Например, у меня есть NNn предикторов в линейной регрессии, которые я назову своей моделью. Как я проведу исследование абляции с этим? Какие метрики я должен использовать? Всесторонний источник или учебник был бы оценен....

27
Может ли глубокая нейронная сеть приблизить функцию умножения без нормализации?

Допустим, мы хотим сделать регрессию для простого f = x * yиспользования стандартной глубокой нейронной сети. Я помню, что есть исследования, которые говорят о том, что NN с одним скрытым слоем может апоксировать любую функцию, но я пытался и без нормализации NN не смог приблизиться даже к этому...

27
Как добавить нелинейную линию тренда на график рассеяния в R? [закрыто]

Закрыто. Этот вопрос не по теме . В настоящее время не принимает ответы. Хотите улучшить этот вопрос? Обновите вопрос, чтобы он соответствовал теме перекрестной проверки. Закрыто в прошлом году . У меня есть точечный график. Как я могу добавить нелинейную линию...

27
Значение р-значений в регрессии

Этот вопрос был перенесен из Математического стека обмена, потому что на него можно ответить по перекрестной проверке. Мигрировал 8 лет назад . Когда я выполняю линейную регрессию в некоторых программных пакетах (например, Mathematica), я получаю p-значения, связанные с отдельными параметрами в...

27
Как понять SARIMAX интуитивно?

Я пытаюсь понять статью о прогнозировании электрической нагрузки, но я борюсь с концепциями внутри, особенно с моделью SARIMAX . Эта модель используется для прогнозирования нагрузки и использует многие статистические понятия, которые я не понимаю (я студент старших курсов по информатике - вы можете...

26
Включение лаговой зависимой переменной в регрессию

Меня очень смущает вопрос, законно ли включать в регрессионную модель отстающую зависимую переменную. По сути, я думаю, что если эта модель фокусируется на взаимосвязи между изменением Y и другими независимыми переменными, то добавление зависимой переменной с запаздыванием в правой части может...

26
Преобразование переменных для множественной регрессии в R

Я пытаюсь выполнить множественную регрессию в R. Однако моя зависимая переменная имеет следующий график: Вот матрица диаграммы рассеяния со всеми моими переменными ( WARэто зависимая переменная): Я знаю, что мне нужно выполнить преобразование для этой переменной (и, возможно, независимых...

26
Что на самом деле означает значение logit?

У меня есть модель логита, которая во многих случаях подходит от 0 до 1, но как мы можем это интерпретировать? Давайте возьмем случай с логитом 0,20 Можем ли мы утверждать, что существует 20% вероятность того, что дело принадлежит группе B против группы A? это правильный способ интерпретации...

26
Подгонка синусоидального термина к данным

Хотя я читаю этот пост, я все еще не знаю, как применить это к моим собственным данным, и надеюсь, что кто-то может мне помочь. У меня есть следующие данные: y <- c(11.622967, 12.006081, 11.760928, 12.246830, 12.052126, 12.346154, 12.039262, 12.362163, 12.009269, 11.260743, 10.950483, 10.522091,...

26
Точность измерения логистической регрессионной модели

У меня есть обученная модель логистической регрессии, которую я применяю к набору данных тестирования. Зависимая переменная является двоичной (булевой). Для каждого образца в наборе данных тестирования я применяю модель логистической регрессии для генерации% вероятности того, что зависимая...

26
Как интерпретировать коэффициент стандартных ошибок в линейной регрессии?

Мне интересно, как интерпретировать коэффициент стандартных ошибок регрессии при использовании функции отображения в R. Например, в следующем выводе: lm(formula = y ~ x1 + x2, data = sub.pyth) coef.est coef.se (Intercept) 1.32 0.39 x1 0.51 0.05 x2 0.81 0.02 n = 40, k = 3 residual sd = 0.90,...