Вопросы с тегом «regression»

24
Имеет ли значение порядок объясняющих переменных при расчете их коэффициентов регрессии?

Сначала я думал, что порядок не имеет значения, но потом я прочитал о процессе ортогонализации Грамма-Шмидта для вычисления множественных коэффициентов регрессии, и теперь у меня возникли вторые мысли. Согласно процессу Грамма-Шмидта, чем позже объясняющая переменная индексируется среди других...

24
Геометрическая интерпретация коэффициента множественной корреляции и коэффициента детерминации

Меня интересует геометрический смысл множественной корреляции и коэффициента детерминации в регрессии или в векторной записи,R 2 y i = β 1 + β 2 x 2 , i + ⋯ + β k x k , i + ϵ iRRRR2R2R^2yi=β1+β2x2,i+⋯+βkxk,i+ϵiyi=β1+β2x2,i+⋯+βkxk,i+ϵiy_i = \beta_1 + \beta_2 x_{2,i} + \dots + \beta_k x_{k,i} +...

23
Оценка распределения на основе трех процентилей

Какие методы я могу использовать, чтобы вывести распределение, если я знаю только три процентиля? Например, я знаю, что в определенном наборе данных пятый процентиль равен 8 135, 50-й процентиль - 11 259, а 95-й процентиль - 23 611. Я хочу иметь возможность перейти от любого другого числа к его...

23
Есть ли способ использовать ковариационную матрицу для нахождения коэффициентов множественной регрессии?

Для простой линейной регрессии коэффициент регрессии вычисляется непосредственно из дисперсионно-ковариационной матрицы , используя где - индекс зависимой переменной, а - индекс объясняющей переменной.CCCCd,eCe,eCd,eCe,e C_{d, e}\over C_{e,e} dddeee Если есть только ковариационная матрица, можно ли...

23
Является ли высокий

Этот вопрос был перенесен из переполнения стека, потому что на него можно ответить по перекрестной проверке. Мигрировал 4 года назад . В статистике мы делаем линейные регрессии, самые их начала. В общем, мы знаем, что чем выше тем лучше, но существует ли когда-нибудь сценарий, в котором высокий R...

23
Нелинейная или обобщенная линейная модель: как вы относитесь к логистической, пуассоновской и т. Д. Регрессии?

У меня есть вопрос о семантике, о котором я хотел бы узнать мнение коллег-статистиков. Мы знаем, что такие модели, как логистика, Пуассон и т. Д. Подпадают под действие обобщенных линейных моделей. Модель включает в себя нелинейные функции параметров, которые, в свою очередь, могут быть...

23
Как вы находите веса для регрессии взвешенных наименьших квадратов?

Я немного потерян в процессе регрессии WLS. Мне дали набор данных, и моя задача состоит в том, чтобы проверить, есть ли гетероскедентность, и если да, я должен запустить регрессию WLS. Я провел тест и нашел доказательства гетероскедентности, поэтому мне нужно запустить WLS. Мне сказали, что WLS -...

23
Есть ли у вас рекомендации для книг по самостоятельному обучению прикладной статистике на уровне выпускников?

В колледже я прошел несколько курсов по статистике, но обнаружил, что мое образование основано на теории. Мне было интересно, есть ли у кого-нибудь из вас текст в Прикладной статистике (на уровне выпускника), который вы рекомендуете, или у вас был хороший...

23
В чем разница между функцией потерь и функцией принятия решений?

Я вижу, что обе функции являются частью методов интеллектуального анализа данных, таких как Gradient Boosting Regressors. Я вижу, что это тоже отдельные объекты. Каковы отношения между обоими в...

23
Почему Laplace ранее производил разреженные решения?

Я просматривал литературу по регуляризации, и часто вижу абзацы, которые связывают регуляризацию L2 с априорным гауссианом и L1 с Лапласом с центром в нуле. Я знаю, как выглядят эти априорные значения, но я не понимаю, как это выражается, например, в весах в линейной модели. В L1, если я правильно...

23
Как проверить автокорреляцию остатков?

У меня есть матрица с двумя столбцами, которые имеют много цен (750). На изображении ниже я построил остатки следующей линейной регрессии: lm(prices[,1] ~ prices[,2]) Глядя на изображение, кажется, очень сильная автокорреляция остатков. Однако как я могу проверить, сильна ли автокорреляция этих...

23
Следует ли удалять случаи, отмеченные статистическими программами как выбросы при выполнении множественной регрессии?

Я выполняю множественный регрессионный анализ и не уверен, следует ли удалять выбросы в моих данных. Данные, которые меня беспокоят, отображаются на прямоугольниках SPSS в виде «кружков», однако звездочек нет (что заставляет меня думать, что они не такие уж «плохие»). Случаи, которые меня...

23
Случайные леса для многомерной регрессии

У меня проблема регрессии с несколькими выходами с входными функциями и выходными . Выходы имеют сложную нелинейную корреляционную структуру.dxdxd_xdydyd_y Я хотел бы использовать случайные леса, чтобы сделать регрессию. Насколько я могу судить, случайные леса для регрессии работают только с одним...

22
Как определить достоверность предсказания нейронной сети?

Чтобы проиллюстрировать мой вопрос, предположим, что у меня есть тренировочный набор, где на входе есть уровень шума, а на выходе нет, например; # Training data [1.02, 1.95, 2.01, 3.06] : [1.0] [2.03, 4.11, 5.92, 8.00] : [2.0] [10.01, 11.02, 11.96, 12.04] : [1.0] [2.99, 6.06, 9.01, 12.10] : [3.0]...

22
Что означает «при прочих равных» в множественной регрессии?

Когда мы делаем множественные регрессии и говорим, что смотрим на среднее изменение переменной для изменения переменной , сохраняя все остальные переменные постоянными, при каких значениях мы держим другие переменные постоянными? Их значит? Нуль? Любое значение?yyyxxx Я склонен думать, что это...

22
Отбрасывание одного из столбцов при использовании быстрого кодирования

Насколько я понимаю, в машинном обучении может возникнуть проблема, если ваш набор данных имеет сильно коррелированные функции, поскольку они эффективно кодируют одну и ту же информацию. Недавно кто-то указал, что когда вы выполняете однократное кодирование для категориальной переменной, вы...

22
Мостовой штраф против упругой регуляризации

Некоторые штрафные функции и аппроксимации хорошо изучены, такие как LASSO ( L1L1L_1 ) и Ридж ( L2L2L_2 ) и их сравнение в регрессии. ∑∥βj∥γ∑‖βj‖γ\sum \|\beta_{j}\|^{\gamma}γ=1γ=1\gamma = 1γ=2γ=2\gamma = 2 Вэньцзян [ 1 ] сравнил штраф Бриджа, когда с LASSO, но я не смог найти сравнение с...

22
Тест Вальда в регрессии (OLS и GLM): распределение t- и z-распределения

Я понимаю, что критерий Вальда для коэффициентов регрессии основан на следующем свойстве, которое выполняется асимптотически (например, Вассерман (2006): Вся статистика , стр. 153, 214-215): Где обозначает предполагаемый коэффициент регрессии, обозначает стандартную ошибку коэффициента регрессии, а...