Есть ли известная байесовская, ML или MDL интерпретация перекрестной проверки? Могу ли я интерпретировать перекрестную проверку как выполнение правильного обновления специально созданного...
У меня есть функция правдоподобия Л (д| θ)L(d|θ)\mathcal{L}(d | \theta) для вероятности моих данных учетом некоторых параметров модели , которые я хотел бы оценить. Принимая плоские априорные значения параметров, вероятность пропорциональна апостериорной вероятности. Я использую метод MCMC для...
Я пытаюсь спланировать учебный план для изучения MLE. Чтобы сделать это, я пытаюсь выяснить, какой минимальный уровень исчисления необходим для понимания MLE. Достаточно ли понять основы исчисления (то есть найти минимум и максимум функций), чтобы понять...
Согласно теореме Байеса, . Но согласно моему эконометрическому тексту говорится, что . Почему это так? Я не понимаю, почему игнорируется.P(y|θ)P(θ)=P(θ|y)P(y)P(y|θ)P(θ)=P(θ|y)P(y)P(y|\theta)P(\theta) = P(\theta|y)P(y)P(θ|y)∝P(y|θ)P(θ)P(θ|y)∝P(y|θ)P(θ)P(\theta|y) \propto...
Недавно я узнал о методах «без правдоподобия», которые обсуждаются в литературе. Однако мне не ясно, что означает, что метод логического вывода или метод оптимизации не имеют правдоподобия . В машинном обучении цель обычно состоит в том, чтобы максимизировать вероятность того, что некоторые...
Я читал книгу Франклина М. Фишера «Проблема идентификации в эконометрике », и меня смутило то, что он демонстрирует идентификацию путем визуализации функции правдоподобия. Проблема может быть упрощена как: Для регрессии , где , и - параметры. Предположим, что имеет коэффициент равный единице. Тогда...
Каковы оценки параметров формул для косой нормали? Если вы можете, деривация через MLE или Mom тоже была бы отличной. Спасибо Редактировать . У меня есть набор данных, для которых я могу сказать визуально по графикам немного перекошен влево. Я хочу оценить среднее значение и дисперсию, а затем...
Название говорит обо всем. Я понимаю, что наименьшие квадраты и максимальное правдоподобие дадут одинаковый результат для коэффициентов регрессии, если ошибки модели будут нормально распределены. Но что произойдет, если ошибки не распределяются нормально? Почему два метода больше не...
Я использую фильтр Калмана очень стандартным способом. Система представлена уравнением состояния xt+1=Fxt+vt+1xt+1=Fxt+vt+1x_{t+1}=Fx_{t}+v_{t+1} и уравнением наблюдения yt=Hxt+Azt+wtyt=Hxt+Azt+wty_{t}=Hx_{t}+Az_{t}+w_{t} . Учебники учат , что после применения фильтра Калмана и получать «прогнозы...
Я читаю теоретическую статью Дуга Бейтса о пакете lme4 в R, чтобы лучше понять суть смешанных моделей, и натолкнулся на интригующий результат, который я хотел бы лучше понять, об использовании ограниченного максимального правдоподобия (REML) для оценки дисперсии , В разделе 3.3, посвященном...
Вопрос в следующем: Случайная выборка из n значений собирается из отрицательного биномиального распределения с параметром k = 3. Найти оценку максимального правдоподобия параметра π. Найти асимптотическую формулу для стандартной ошибки этой оценки. Объясните, почему отрицательное биномиальное...
Рассмотрим модель AR ( ) (предполагая нулевое среднее значение для простоты):ппp ИксT= φ1Икст - 1+ … + ΦпИкст - р+ εTИксTзнак равноφ1ИксT-1+...+φпИксT-п+εT x_t = \varphi_1 x_{t-1} + \dotsc + \varphi_p x_{t-p} + \varepsilon_t Оценщик OLS (эквивалентный условному максимального правдоподобия) для...
Мои актуальные вопросы приведены в двух последних абзацах, но для их мотивации: Если я пытаюсь оценить среднее значение случайной величины, которая следует за нормальным распределением с известной дисперсией, я прочитал, что если поставить перед средним равномерное значение, получится апостериорное...
mgcvПакет Rимеет две функции для установки взаимодействия Тензор продукта: te()и ti(). Я понимаю основное разделение труда между ними (подгонка нелинейного взаимодействия против разложения этого взаимодействия на основные эффекты и взаимодействие). Чего я не понимаю, так это почему te(x1, x2)и...
У меня было достаточно курсов по статистике в школьные годы и в университете. У меня есть четкое понимание таких понятий, как CI, p-значения, интерпретация статистической значимости, множественное тестирование, корреляция, простая линейная регрессия (с наименьшими квадратами) (общие линейные...
Я хотел бы понять несколько фактов о максимальных вероятностных оценках (MLE) для логистических регрессий. Правда ли, что в целом MLE для логистической регрессии является предвзятой? Я бы сказал "да". Я знаю, например, что размер выборки связан с асимптотическим смещением MLE. Знаете ли вы...
Я работаю над набором данных. После использования некоторых методов идентификации моделей я разработал модель ARIMA (0,2,1). Я использовал detectIOфункцию в пакете TSAв R, чтобы обнаружить инновационный выброс (IO) на 48-м наблюдении за моим исходным набором данных. Как включить этот выброс в мою...
Я понимаю, что если у меня есть две модели A и B и A вложено в B, то, учитывая некоторые данные, я могу подобрать параметры A и B с помощью MLE и применить обобщенный тест логарифмического отношения правдоподобия. В частности, распределение теста должно быть с степенями свободы , где есть разность...
Мой вопрос возникает из прочтения чтения Минки «Оценка распределения Дирихле» , в котором без доказательств говорится следующее в контексте получения оценки максимального правдоподобия для распределения Дирихле на основе наблюдений случайных векторов: Как всегда в случае экспоненциального...
Предположим, у нас есть случайная выборка из двумерного нормального распределения, которая имеет нули в качестве средних значений и единицы в качестве дисперсий, поэтому единственным неизвестным параметром является ковариация. Что такое MLE ковариации? Я знаю, что это должно быть что-то вроде но...