Хорошо известно, что линейная регрессия с штрафом эквивалентна нахождению оценки MAP с учетом гауссовского априорного коэффициента. Точно так же использование штрафа l 1 эквивалентно использованию распределения Лапласа в качестве предыдущего.l2l2l^2l1l1l^1 Нередко используют некоторую взвешенную...
На практике использование стандартного T-критерия для проверки значимости коэффициента линейной регрессии является обычной практикой. Механика расчета имеет смысл для меня. Почему Т-распределение можно использовать для моделирования стандартной тестовой статистики, используемой при проверке гипотез...
Я использую Лассо для выбора объектов в относительно низкой размерности (n >> p). После подбора модели Лассо я хочу использовать ковариаты с ненулевыми коэффициентами, чтобы соответствовать модели без штрафа. Я делаю это, потому что хочу объективных оценок, которые Лассо не может дать мне. Я...
Я видел этот список здесь и не мог поверить, что было так много способов решить наименьших квадратов. «Нормальные уравнения» на Википедии , казалось, довольно прямым α^β^=y¯−β^x¯,=∑ni=1(xi−x¯)(yi−y¯)∑ni=1(xi−x¯)2α^=y¯−β^x¯,β^=∑i=1n(xi−x¯)(yi−y¯)∑i=1n(xi−x¯)2 {\displaystyle {\begin{aligned}{\hat...
Я пытаюсь понять, как выполнить проверку гипотезы о линейной регрессии (нулевая гипотеза не имеет корреляции). Кажется, что каждое руководство и страница по теме, с которой я сталкиваюсь, используют t-тест. Но я не понимаю, что на самом деле означает t-критерий для линейной регрессии. T-тест, если...
Я обучил модели линейной регрессии, используя набор переменных / функций. И модель имеет хорошие показатели. Однако я понял, что нет переменной с хорошей корреляцией с прогнозируемой переменной. Как это...
Говорят, что штрафованные регрессионные оценки, такие как LASSO и ridge, соответствуют байесовским оценкам с определенными априорными значениями. Я предполагаю (поскольку я не знаю достаточно о байесовской статистике), что для фиксированного параметра настройки существует конкретный соответствующий...
Я читал бесчисленные посты на этом сайте, которые невероятно против использования пошагового выбора переменных, используя любой критерий, будь то на основе p-значений, AIC, BIC и т. Д. Я понимаю, почему эти процедуры в целом достаточно плохи для выбора переменных. вероятно, знаменитый пост Ганга...
У меня есть числовая переменная, которая оказывается несущественной в многомерной модели логистической регрессии. Однако, когда я делю это на группы, это внезапно становится значительным. Это очень нелогично для меня: при категоризации переменной мы отказываемся от некоторой информации. Как это...
Кто-нибудь знает хорошую обзорную статью для статистической литературы по нелинейной регрессии? Меня в первую очередь интересуют результаты согласованности и асимптотики. Особый интерес представляет модель Yя т= м ( хя т, θ ) + ϵя т,YяTзнак равном(ИксяT,θ)+εяT,y_{it} = m(x_{it},\theta) +...
В Логистической регрессии, нужно ли заботиться о мультиколлинеарности так же, как если бы вы были в прямой регрессии МНК? Например, в случае логистической регрессии, когда существует мультиколлинеарность, нужно ли вам быть осторожным (как в случае регрессии МНК) с выводом из бета-коэффициентов? Для...
Как определить формульную формулу в R, когда доступно одно (или несколько) точных линейных ограничений, связывающих коэффициенты. В качестве примера, скажем, что вы знаете, что b1 = 2 * b0 в простой модели линейной регрессии....
Поскольку регрессионное моделирование часто является больше «искусством», чем наукой, я часто проверяю множество итераций регрессионной структуры. Каковы некоторые эффективные способы суммирования информации из этих множественных прогонов модели в попытке найти «лучшую» модель? Один из подходов,...
Я пытаюсь реализовать анализ "точки изменения" или многофазную регрессию с использованием nls()R. Вот некоторые фальшивые данные, которые я сделал . Формула, которую я хочу использовать, чтобы соответствовать данным: Y= β0+ β1х + β2Максимум ( 0 , x - δ)Yзнак равноβ0+β1Икс+β2Максимум(0,Икс-δ)y =...
В общем, я стандартизирую свои независимые переменные в регрессиях, чтобы правильно сравнить коэффициенты (таким образом, они имеют одинаковые единицы: стандартные отклонения). Однако с панельными / продольными данными я не уверен, как мне следует стандартизировать мои данные, особенно если я...
Может ли кто-нибудь сказать мне, что означает термин «постоянство» в анализе временных рядов? Это касается эконометрики и прикладной
Страница справки для Prism дает следующее объяснение того, как она вычисляет полосы предсказания для нелинейной регрессии. Пожалуйста, извините за длинную цитату, но я не следую второму абзацу (который объясняет, как определяется и вычисляется d Y / d P ). Любая помощь будет принята с...
У меня классическая линейная модель, с 5 возможными регрессорами. Они не связаны друг с другом и имеют довольно низкую корреляцию с ответом. Я пришел к модели, в которой 3 регрессора имеют значимые коэффициенты для своей t-статистики (р <0,05). Добавление одной или обеих оставшихся 2 переменных...
Я новичок в этом, поэтому я надеюсь, что вы простите меня, если вопрос наивный. (Контекст: я изучаю эконометрику из книги Дэвидсона и Маккиннона "Эконометрическая теория и методы" , и они, кажется, не объясняют этого; я также посмотрел книгу по оптимизации Люенбергера, которая рассматривает...
Рассмотрим линейную регрессию с некоторой регуляризацией: например, найдите который минимизируетxИксx||Ax−b||2+λ||x||1||Ax−b||2+λ||x||1||Ax - b||^2+\lambda||x||_1 Обычно столбцы A стандартизированы, чтобы иметь нулевое среднее и единичную норму, тогда как центрируется, чтобы иметь нулевое среднее....