Вопросы с тегом «likelihood»

12
Насколько большой должна быть выборка для данной методики и параметров оценки?

Существует ли эмпирическое правило или вообще какой-либо способ сказать, насколько большой должна быть выборка, чтобы оценить модель с заданным количеством параметров? Так, например, если я хочу оценить регрессию наименьших квадратов с 5 параметрами, насколько большой должна быть выборка? Имеет ли...

12
Как узнать, какой метод оценки параметров выбрать?

Существует довольно много способов оценки параметров. MLE, UMVUE, MoM, теоретико-решение и другие - все они кажутся вполне логичными для того, почему они полезны для оценки параметров. Является ли какой-либо один метод лучше, чем другие, или это просто вопрос того, как мы определяем, что такое...

12
Если вы используете точечную оценку, которая максимизирует

Если кто-то сказал «Этот метод использует MLE точечную оценку для параметра, который максимизирует , поэтому он частый; и, кроме того, он не байесовский».P ( x | θ )P(x|θ)\mathrm{P}(x|\theta) Вы бы согласились? Обновление на фоне : я недавно прочитал газету, которая утверждает, что часто. Я не...

12
Как бороться с чрезмерной дисперсией в пуассоновской регрессии: квази-правдоподобие, отрицательный биномиальный GLM или случайный эффект на уровне субъекта?

Я натолкнулся на три предложения по поводу чрезмерной дисперсии в переменной отклика Пуассона и стартовой модели с фиксированными эффектами: Используйте квази-модель; Используйте отрицательный биномиальный GLM; Используйте смешанную модель со случайным эффектом на уровне объекта. Но какой на самом...

12
Насколько значима связь между MLE и кросс-энтропией в глубоком обучении?

Я понимаю, что, учитывая набор из независимых наблюдений максимального правдоподобия оценщик (или, что эквивалентно, карта с плоской / равномерной до) , который идентифицирует параметров \ mathbf {θ} , которые производят распределение модели P_ {модель} \ слева (\, \ cdot \,; \ mathbf {θ} \ right),...

12
Интегрирование оценки плотности ядра в 2D

Я исхожу из этого вопроса на случай, если кто-нибудь захочет пойти по следу. По сути, у меня есть набор данных состоящий из объектов, где к каждому объекту прикреплено заданное количество измеренных значений (два в данном случае):NΩΩ\OmegaNNN...

12
MLE для распределения треугольников?

Можно ли применить обычную процедуру MLE к распределению треугольника? - Я пытаюсь, но я, кажется, заблокирован на том или ином этапе в математике, как определяется распределение. Я пытаюсь использовать тот факт, что я знаю количество выборок выше и ниже c (не зная c): эти 2 числа - cn и (1-c) n,...

12
Сравнение оценки максимального правдоподобия (MLE) и теоремы Байеса

В теореме Байеса , а из книги, которую я читаю, называется вероятность , но я предполагаю , что это всего лишь условная вероятность от дается , не так ли? p(x|y)p(y|x)=p(x|y)p(y)p(x)п(Y|Икс)знак равноп(Икс|Y)п(Y)п(Икс)p(y|x) = \frac{p(x|y)p(y)}{p(x)}p(x|y)п(Икс|Y)p(x|y)уxИксxyYy Оценка...

12
Всегда ли MLE означает, что мы знаем основной PDF наших данных, а EM означает, что мы не знаем?

У меня есть несколько простых концептуальных вопросов, которые я хотел бы прояснить в отношении MLE (Максимальная оценка правдоподобия) и какую связь он имеет, если таковые имеются, с EM (Максимальное ожидание). Насколько я понимаю, если кто-то говорит «Мы использовали MLE», означает ли это...

12
Соотношение вероятностей и соотношение PDF-файлов

Я использую Байес для решения проблемы кластеризации. После выполнения некоторых вычислений у меня возникает необходимость получить соотношение двух вероятностей: п( А ) / П( Б )P(A)/P(B)P(A)/P(B) чтобы иметь возможность получить . Эти вероятности получены путем интегрирования двух разных 2D...

12
Точный критерий Фишера и гипергеометрическое распределение

Я хотел лучше понять точный критерий Фишера, поэтому я разработал следующий пример игрушки, где f и m соответствуют мужской и женской части, а n и y соответствуют «потреблению соды», например: > soda_gender f m n 0 5 y 5 0 Очевидно, это резкое упрощение, но я не хотел, чтобы контекст мешал....

12
Рассчитать логарифмическое правдоподобие «вручную» для обобщенной нелинейной регрессии наименьших квадратов (nlme)

Я пытаюсь вычислить логарифмическую вероятность для обобщенной нелинейной регрессии наименьших квадратов для функции оптимизированной с помощью функция в пакете R , используя ковариационную матрицу дисперсии, генерируемую расстояниями на филогенетическом дереве, предполагающем броуновское движение...

12
Как выполнить вменение значений в очень большом количестве точек данных?

У меня очень большой набор данных и около 5% случайных значений отсутствуют. Эти переменные связаны друг с другом. В следующем примере набор данных R - просто игрушечный пример с фиктивными коррелированными данными. set.seed(123) # matrix of X variable xmat <- matrix(sample(-1:1, 2000000,...

12
Каковы условия регулярности для теста отношения правдоподобия?

Может ли кто-нибудь сказать мне, каковы условия регулярности для асимптотического распределения теста отношения правдоподобия? Куда бы я ни посмотрел, везде написано «В условиях регулярности» или «В вероятностных закономерностях». Какие именно условия? Что существуют первая и вторая логарифмические...

12
Связь между гессенской матрицей и ковариационной матрицей

Пока я изучаю оценку максимального правдоподобия, чтобы сделать вывод в оценке максимального правдоподобия, нам нужно знать дисперсию. Чтобы выяснить разницу, мне нужно знать нижнюю границу Рао Крамера, которая выглядит как гессианская матрица со вторым производным по кривизне. Я вроде как...

12
Оценка максимального правдоподобия совместного распределения с учетом только предельных показателей

Пусть - совместное распределение двух категориальных переменных с . Скажем, из этого распределения было взято выборок, но нам даны только предельные значения, а именно для : X , Y x , y ∈ { 1 , … , K } n j = 1 , … , Kпх , уpx,yp_{x,y}Икс, YX,YX,Yх , у∈ { 1 , … ,...

12
Как понять, что MLE дисперсии смещен в распределении Гаусса?

Я читаю PRML, и я не понимаю картину. Не могли бы вы дать несколько советов, чтобы понять картину и почему MLE дисперсии в распределении Гаусса смещены? формула 1.55: формула 1.56 σ 2 M L E =1μMLE=1N∑n=1NxnμMLE=1N∑n=1Nxn \mu_{MLE}=\frac{1}{N} \sum_{n=1}^N x_n...

12
Понимание логистической регрессии и вероятности

Как работает оценка параметров / тренинг логистической регрессии? Я постараюсь поставить то, что у меня так далеко. Выходными данными являются выходные данные логистической функции в виде вероятности в зависимости от значения x:...

12
Одинаковые коэффициенты, оцениваемые в модели Пуассона и Квази-Пуассона

При моделировании данных подсчета претензий в страховой среде я начал с Пуассона, но затем заметил чрезмерную дисперсию. Квази-Пуассон лучше моделировал большее отношение средней дисперсии, чем основной Пуассон, но я заметил, что коэффициенты были идентичны как в модели Пуассона, так и в модели...