Вопросы с тегом «maximum-likelihood»

25
Интуитивное обоснование предвзятых оценок максимального правдоподобия

У меня путаница в оценках предвзятого максимального правдоподобия (ML). Математика всей концепции довольно ясна для меня, но я не могу понять интуитивное обоснование этого. Учитывая определенный набор данных, который имеет выборки из распределения, который сам является функцией параметра, который...

25
Оценка максимального правдоподобия - почему она используется, несмотря на то, что во многих случаях она является предвзятой

Оценка максимального правдоподобия часто приводит к смещенным оценкам (например, ее оценка для выборочной дисперсии смещена для распределения Гаусса). Что же делает его таким популярным? Почему именно так много? Кроме того, что именно делает его лучше, чем альтернативный подход - метод моментов?...

25
Когда я * не * должен использовать функцию R NLM для MLE?

Я наткнулся на пару руководств, предлагающих использовать Rs nlm для оценки максимального правдоподобия. Но ни один из них (включая документацию R ) не дает большого теоретического руководства о том, когда использовать или не использовать функцию. Насколько я могу судить, nlm просто делает...

23
Оценка параметров t-распределения Стьюдента

Каковы оценки максимального правдоподобия для параметров t-распределения Стьюдента? Существуют ли они в закрытом виде? Быстрый поиск в Google не дал мне никаких результатов. Сегодня меня интересует одномерный случай, но, вероятно, мне придется расширить модель до нескольких измерений....

23
Можем ли мы использовать MLE для оценки веса нейронной сети?

Я только начал изучать статистику и моделирование вещей. В настоящее время я понимаю, что мы используем MLE, чтобы оценить лучшие параметры для модели. Однако, когда я пытаюсь понять, как работают нейронные сети, кажется, что они обычно используют другой подход для оценки параметров. Почему мы не...

23
Всегда ли есть максимизатор для любой проблемы MLE?

Интересно, всегда ли есть максимизатор для какой-либо задачи оценки максимального (логарифмического) правдоподобия? Другими словами, есть ли какое-то распределение и некоторые его параметры, для которых у проблемы MLE нет максимизатора? Мой вопрос исходит от утверждения инженера о том, что функция...

22
Как вычислить доверительные интервалы параметров в R с учетом матрицы гессена в R с учетом вывода Optim.

Учитывая вывод от optim с гессианской матрицей, как рассчитать доверительные интервалы параметров, используя гессенскую матрицу? fit<-optim(..., hessian=T) hessian<-fit$hessian Я в основном заинтересован в контексте анализа максимального правдоподобия, но мне любопытно узнать, можно ли...

22
Всегда ли объективный оценщик максимального правдоподобия всегда лучший объективный оценщик?

Я знаю, для обычных задач, если у нас есть лучший регулярный объективный оценщик, это должен быть оценщик максимального правдоподобия (MLE). Но в целом, если у нас есть беспристрастный MLE, будет ли он также лучшим беспристрастным оценщиком (или, может быть, я должен назвать его UMVUE, если он...

22
Как обеспечить свойства ковариационной матрицы при подборе многомерной нормальной модели с использованием максимального правдоподобия?

Предположим, у меня есть следующая модель Yя= ф( хя, θ ) + εяYязнак равное(Икся,θ)+εяy_i=f(x_i,\theta)+\varepsilon_i где , - вектор объясняющих переменных, - параметры нелинейной функции и , где естественно, матрица.Yя∈ RКYя∈рКy_i\in \mathbb{R}^KИксяИксяx_iθθ\thetaееfεя∼ N( 0 , Σ...

22
Вероятность - зачем умножать?

Я изучаю оценку максимального правдоподобия и читаю, что функция правдоподобия является произведением вероятностей каждой переменной. Почему это продукт? Почему не сумма? Я пытался найти в Google, но не могу найти сколько-нибудь значимых ответов....

22
Почему максимальная вероятность, а не ожидаемая вероятность?

Почему так часто получают оценки максимального правдоподобия параметров, но вы практически никогда не слышали об ожидаемых оценках параметров правдоподобия (т. Е. На основе ожидаемого значения, а не режима функции правдоподобия)? Это в первую очередь по историческим причинам или по более предметным...

22
Как вывести функцию вероятности для биномиального распределения для оценки параметров?

Согласно «Вероятности и статистике Миллера и Фрейнда для инженеров», 8ed (стр.217-218), функция правдоподобия, которая должна быть максимизирована для биномиального распределения (испытания Бернулли), определяется как L ( p ) = ∏Nя = 1пИкся( 1 - р )1 - хяL(п)знак равноΠязнак...

21
Что подразумевается под стандартной ошибкой оценки максимального правдоподобия?

Я математик, самостоятельно изучающий статистику и особенно борющийся с языком. В книге, которую я использую, есть следующая проблема: Случайная переменная задается как распределяется с . (Конечно, для этого вопроса можно взять любое распределение в зависимости от одного параметра.) Затем...

20
Оценщики максимального правдоподобия - многомерный гауссов

контекст Многомерный гауссов часто появляется в машинном обучении, и следующие результаты используются во многих книгах и курсах по ML без дериваций. Данные даны в виде матрицы измерений , если мы предположим, что данные следуют вариативному гауссовскому распределению с параметрами mean ( ) и...

20
Каковы правильные значения для точности и отзыва в крайних случаях?

Точность определяется как: p = true positives / (true positives + false positives) Является ли это исправить , что, как true positivesи false positivesподход 0, точность приближается к 1? Тот же вопрос для отзыва: r = true positives / (true positives + false negatives) В настоящее время я выполняю...

19
Каковы недостатки профиля вероятности?

Рассмотрим вектор параметров , где θ 1 представляет интересующий параметр, а θ 2 является параметром помех.(θ1,θ2)(θ1,θ2)(\theta_1, \theta_2)θ1θ1\theta_1θ2θ2\theta_2 Если вероятность того, построена из данных х , профиль правдоподобия для & thetas 1 определяется как L P ( θ 1 ; х ) = L ( θ 1 ,...

19
Почему оценка максимального правдоподобия считается частой техникой

Статистика для меня - это синоним попытки принять решение, подходящее для всех возможных выборок. Т.е., правило принятия решений для частых всегда должно пытаться свести к минимуму частый риск, который зависит от функции потерь и истинного состояния природы :L θ 0δδ\deltaLLLθ0θ0\theta_0...

19
Какова «фундаментальная» идея машинного обучения для оценки параметров?

«Фундаментальная» идея статистики для оценки параметров - это максимальная вероятность . Мне интересно, какова соответствующая идея в машинном обучении. Qn 1. Было бы справедливо сказать, что «фундаментальная» идея в машинном обучении для оценки параметров: «Функции потери» [Примечание: у меня...