Что такое совместная оценка?

12

У меня простой вопрос: что такое совместная оценка? И что это значит в контексте регрессионного анализа? Как это сделать? Я довольно долго бродил по могучему Интернету, но не нашел ответов на эти вопросы.

Потерял в регрессии
источник
1
Большое спасибо за все полезные ответы и усилия, которые вы приложили, чтобы разъяснить мне это!
Затерянный в регрессе

Ответы:

14

Совместная оценка - это просто совместная оценка двух (или более) вещей одновременно. Это может быть так же просто, как оценка среднего и стандартного отклонения от выборки.

Во многих литературных источниках этот термин используется потому, что необходимо использовать специальную процедуру оценки. Обычно это тот случай, когда одна величина зависит от другой, и наоборот, так что аналитическое решение проблемы неразрешимо. Как именно проводится совместная оценка, полностью зависит от проблемы.

Одним из методов, который часто появляется для «совместного моделирования» или совместной оценки, является EM-алгоритм. EM означает ожидание - максимизация. Чередуя эти шаги, E-шаг заполняет недостающие данные, которые в противном случае зависят от компонента A, и M-шаг находит оптимальные оценки для компонента B. Итерируя шаги E и M, вы можете найти оценку максимального правдоподобия A и B, таким образом, совместно оценивать эти вещи.

Adamo
источник
1
Можете ли вы привести пример, когда мы не оцениваем среднее и стандартное отклонение одной переменной? Какой алгоритм используется тогда?
SMCI
Линейное смешанное моделирование @smci совместно оценивает фиксированные и случайные компоненты.
AdamO
спасибо, я имею в виду, пожалуйста, отредактируйте это (и любые другие примеры) в своем ответе. Алгоритм полностью отличается от EM? (Как ему удается оценить оба компонента одновременно? Гарантирует ли это сходимость? И т. Д.)
smci
@ smci Я не согласен. а) Это не вопрос ОП. б) Есть бесконечные «другие примеры» в) что такое алгоритм LME и чем он отличается от EM - другой вопрос.
AdamO
это помогает проиллюстрировать ответ примерами. И это делает ответ лучше, следовательно, является частью того, что спросили.
SMCI
6

В статистическом контексте термин «совместная оценка» может означать одно из двух:

    1. Одновременное оценивание двух или более скалярных параметров (или , что эквивалентно, оценка векторного параметра с , по меньшей мере , из двух элементов); или же
    1. Оценка единственного параметра, относящегося к суставу (например, при изучении плотницких, сантехнических систем или курения марихуаны).

Из этих двух вариантов второй является шуткой, поэтому почти наверняка совместная оценка относится к одновременной оценке двух скалярных параметров одновременно.

Бен - Восстановить Монику
источник
1
быть педантичным, двое или больше
qwr
1
Педантичность принята - отредактирована.
Бен - Восстановить Монику
3

Совместная оценка использует данные для оценки двух или более параметров одновременно. Отдельная оценка оценивает каждый параметр по одному.

Оценка является результатом некоторой формы процесса оптимизации. Из-за этого в статистике не существует уникальных решений для оценки. Если вы измените свою цель, то вы измените то, что является оптимальным. Когда вы впервые изучаете такие вещи, как регрессия, никто не говорит вам, почему вы делаете то, что делаете. Цель инструктора - дать вам базовую функциональность, используя методы, которые работают в широком диапазоне обстоятельств. В начале вы не узнаете о регрессии. Вместо этого вы изучаете один или два метода регрессии, которые широко применяются в широком диапазоне обстоятельств.

Тот факт, что вы ищете решения, которые решают скрытую цель, немного затрудняет понимание.

Zзнак равноβИксИкс+βYY+α
Z(Икс,Y){βИкс,βY,α}{Икс,Y,Z}

При отдельной оценке вы оцениваете один параметр за раз. В совместной оценке, вы бы оценили их все сразу.

ИксZYY

ИксZИксZZзнак равноβИксИкс+αZзнак равноβYY+α чем вместе.

Теперь о том, как это делается. Вся оценка, исключая несколько исключительных случаев, использует исчисление, чтобы найти оценку, которая минимизирует некоторую форму потери или некоторый тип риска. Дело в том, что вам не повезет в выборе образца. К сожалению, существует бесконечное количество функций потерь. Существует также бесконечное количество функций риска.

Я нашел несколько видео для вас, потому что это гигантская тема, так что вы можете посмотреть ее в более общем виде. Они из математического монаха.

https://www.youtube.com/watch?v=6GhSiM0frIk

https://www.youtube.com/watch?v=5SPm4TmYTX0

https://www.youtube.com/watch?v=b1GxZdFN6cY

и

https://www.youtube.com/watch?v=WdnP1gmb8Hw .

Дейв Харрис
источник