После долгих размышлений о Cross Validated я все еще не чувствую, что я ближе к пониманию дивергенции KL вне области теории информации. Это довольно странно, когда кто-то с математическим образованием находит, что гораздо легче понять объяснение теории информации. Чтобы изложить мое понимание на...
(Заранее извиняюсь за использование языка мирян, а не статистического языка.) Если я хочу измерить шансы накатывания каждой стороны конкретного физического шестигранного кристалла с точностью примерно +/- 2% с достаточной уверенностью в достоверности, сколько потребуется образцовых роликов? т.е....
В байесовском умозаключении прогнозное распределение будущих данных получено путем интегрирования неизвестных параметров; интеграция по апостериорному распределению этих параметров дает апостериорное предиктивное распределение - распределение для будущих данных, зависящее от уже наблюдавшихся....
Я прочитал лемму Неймана – Пирсона из книги « Введение в теорию статистики », написанной Мудом, Грейбиллом и Боесом. Но я не понял лемму. Может ли кто-нибудь объяснить мне лемму в простых словах? Что это заявляет? Лемма Неймана-Пирсона. Пусть X1,…,XnX1,…,XnX_1,\ldots,X_n - случайная выборка из...
Я никоим образом не статистик (у меня был курс математической статистики, но не более того), и недавно, изучая теорию информации и статистическую механику, я встретил то, что называется «мера неопределенности» / «энтропия». Я прочитал вывод Хинчина как меру неопределенности, и это имело смысл для...
Как работает метод инверсии? Скажем , у меня случайную выборку X1,X2,...,XnX1,X2,...,XnX_1,X_2,...,X_n с плотностью f(x;θ)=1θx(1−θ)θf(x;θ)=1θx(1−θ)θf(x;\theta)={1\over \theta} x^{(1-\theta)\over \theta} более...
Насколько я понимаю, описательная статистика количественно описывает особенности выборки данных, в то время как логическая статистика делает выводы о группах населения, из которых были взяты выборки. Тем не менее, страница Википедии для статистического вывода состояний: По большей части...
Для этой одномерной модели линейной регрессии заданного набора данных оценки коэффициентов: Вот мой вопрос, согласно книга и Википедия , стандартная ошибка : Как и почему?yi=β0+β1xi+ϵiyi=β0+β1xi+ϵiy_i = \beta_0 + \beta_1x_i+\epsilon_iβ 1 = Σ я х я у я - п ˉ х ˉ...
Насколько я понимаю, при использовании байесовского подхода для оценки значений параметров: Апостериорное распределение представляет собой комбинацию предшествующего распределения и распределения правдоподобия. Мы моделируем это, генерируя выборку из апостериорного распределения (например,...
В комментарии, недавно размещенном здесь, один комментатор указал на блог Ларри Вассермана, который указывает (без каких-либо источников), что частые выводы противоречат принципу вероятности. Принцип правдоподобия просто говорит о том, что эксперименты, дающие сходные функции правдоподобия, должны...
Я действительно заинтересован в процедуре эластичной сетки для усадки / выбора предиктора. Это кажется очень мощным. Но с научной точки зрения я не знаю, что делать, когда получу коэффициенты. На какой вопрос я отвечаю? Это те переменные, которые больше всего влияют на этот результат, и это те...
Пусть . Информационная матрица Фишера определяется как:θ∈Rnθ∈Rn\theta \in R^{n} I(θ)i,j=−E[∂2log(f(X|θ))∂θi∂θj∣∣∣θ]I(θ)i,j=−E[∂2log(f(X|θ))∂θi∂θj|θ]I(\theta)_{i,j} = -E\left[\frac{\partial^{2} \log(f(X|\theta))}{\partial \theta_{i} \partial \theta_{j}}\bigg|\theta\right] Как я могу доказать, что...
Я знаю о преимуществах регуляризации при построении прогностических моделей (смещение против дисперсии, предотвращение переоснащения). Но мне интересно, будет ли хорошей идеей также выполнять регуляризацию (лассо, гребень, упругая сеть), когда основной целью регрессионной модели является вывод на...
Меня просят найти p-значения для описательной статистики. Тем не менее, я понимаю, что р-значения для статистики теста. Если я не ошибаюсь, p-значение - это вероятность наблюдения значения, столь же экстремального, как и тестовая статистика, если нулевая гипотеза была верной....
Содержат ли pdf, pmf и cdf одну и ту же информацию? Для меня pdf дает всю вероятность до определенной точки (в основном это область под вероятностью). PMF дает вероятность определенного момента. Cdf дает вероятность под определенным пунктом. Так что для меня pdf и cdf имеют одинаковую информацию, а...
Я слежу за А. В. ван дер Ваартом за асимптотической статистикой (1998). Он говорит о статистических экспериментах, утверждая, что они отличаются от статистической модели, но он не определяет ни того, ни другого. Мой вопрос: Что такое (1) статистический эксперимент, (2) статистическая модель и (3)...
В R, я использую ldaфункцию из библиотеки, MASSчтобы сделать классификацию. Как я понимаю LDA, входу будет присвоен ярлык , что максимизирует , верно?ИксИксxYYyр ( у| х)п(Y|Икс)p(y|x) Но когда я к модели, в которой я не совсем понимаю вывод , х = ( Л а г1 , L a g2 )Иксзнак...
Я думаю, что было бы справедливо сказать, что статистика является прикладной наукой, поэтому, когда рассчитываются средние и стандартные отклонения, это происходит потому, что кто-то хочет принять некоторые решения на основе этих чисел. Будучи хорошим статистиком, я надеюсь, что смогу...
Я изучал статистику из многих книг за последние 3 года, и благодаря этому сайту я многому научился. Тем не менее, один фундаментальный вопрос все еще остается без ответа для меня. У него может быть очень простой или очень сложный ответ, но я точно знаю, что это требует некоторого глубокого...
Для данной проблемы вывода мы знаем, что байесовский подход обычно отличается как по форме, так и по результатам феечистского подхода. Частые участники (обычно это я) часто указывают на то, что их методы не требуют предварительного и, следовательно, в большей степени «основаны на данных», чем...