Почему стандартное отклонение выборки является смещенной оценкой

Согласно статье в Википедии об объективной оценке стандартного отклонения, образец SD

$$s = \sqrt{\frac{1}{n-1} \sum_{i=1}^n (x_i - \overline{x})^2}$$

является предвзятой оценкой SD населения. Утверждается, что .$E(\sqrt{s^2}) \neq \sqrt{E(s^2)}$

NB. Случайные величины являются независимыми, и каждая $x_{i} \sim N(\mu,\sigma^{2})$

У меня вопрос двоякий:

• Что является доказательством предвзятости?
• Как рассчитать ожидание стандартного отклонения выборки

Мои знания по математике / статистике только промежуточные.

Ответ @ NRH на этот вопрос дает хорошее простое доказательство предвзятости стандартного отклонения выборки. Здесь я явно вычислю ожидание стандартного отклонения выборки (второй вопрос оригинального плаката) от нормально распределенной выборки, в этот момент смещение очевидно.

Несмещенная выборочная дисперсия из множества точек является$x_1, ..., x_n$

$$s^{2} = \frac{1}{n-1} \sum_{i=1}^{n} (x_i - \overline{x})^2$$

Если нормально распределены, это факт, что$x_i$

$$\frac{(n-1)s^2}{\sigma^2} \sim \chi^{2}_{n-1}$$

где - истинная дисперсия. Распределение χ 2 k имеет плотность вероятности$\sigma^2$$\chi^2_{k}$

$$p(x) = \frac{(1/2)^{k/2}}{\Gamma(k/2)} x^{k/2 - 1}e^{-x/2}$$

используя это, мы можем получить ожидаемое значение ;$s$

$$\begin{align} E(s) &= \sqrt{\frac{\sigma^2}{n-1}} E \left( \sqrt{\frac{s^2(n-1)}{\sigma^2}} \right) \\ &= \sqrt{\frac{\sigma^2}{n-1}} \int_{0}^{\infty} \sqrt{x} \frac{(1/2)^{(n-1)/2}}{\Gamma((n-1)/2)} x^{((n-1)/2) - 1}e^{-x/2} \ dx \end{align}$$

$\sqrt{\frac{s^2(n-1)}{\sigma^2}}$$\chi^2$$\chi^2$

$$\begin{align} E(s) &= \sqrt{\frac{\sigma^2}{n-1}} \int_{0}^{\infty} \frac{(1/2)^{(n-1)/2}}{\Gamma(\frac{n-1}{2})} x^{(n/2) - 1}e^{-x/2} \ dx \\ &= \sqrt{\frac{\sigma^2}{n-1}} \cdot \frac{ \Gamma(n/2) }{ \Gamma( \frac{n-1}{2} ) } \int_{0}^{\infty} \frac{(1/2)^{(n-1)/2}}{\Gamma(n/2)} x^{(n/2) - 1}e^{-x/2} \ dx \\ &= \sqrt{\frac{\sigma^2}{n-1}} \cdot \frac{ \Gamma(n/2) }{ \Gamma( \frac{n-1}{2} ) } \cdot \frac{ (1/2)^{(n-1)/2} }{ (1/2)^{n/2} } \underbrace{ \int_{0}^{\infty} \frac{(1/2)^{n/2}}{\Gamma(n/2)} x^{(n/2) - 1}e^{-x/2} \ dx}_{\chi^2_n \ {\rm density} } \end{align}$$

$\chi^2_{n}$

$$E(s) = \sigma \cdot \sqrt{ \frac{2}{n-1} } \cdot \frac{ \Gamma(n/2) }{ \Gamma( \frac{n-1}{2} ) }$$

$s$

$$\sigma - E(s) = \sigma \bigg(1 - \sqrt{ \frac{2}{n-1} } \cdot \frac{ \Gamma(n/2) }{ \Gamma( \frac{n-1}{2} ) } \bigg) \sim \frac{\sigma}{4 n} \>$$ $n \to \infty$

$n$$n$$\sigma=1$$1/4n$

$$s^2 = \frac{1}{n-1} \sum_{i=1}^n(x_i - \bar{x})^2$$ $\sigma^2$
$$E(\sqrt{s^2}) < \sqrt{E(s^2)} = \sigma$$ $s^2$$\sigma^2$

$$S_n = \sqrt{\sum_{i=1}^n\frac{(X_i-\bar{X}_n)^2}{n-1}} ,$$ $S_n$$\mathrm{Var}[S_n]\ne0$ $$0 < \mathrm{Var}[S_n] = \mathrm{E}[S_n^2] - \mathrm{E}^2[S_n] \;\;\Leftrightarrow\;\; \mathrm{E}^2[S_n] < \mathrm{E}[S_n^2] \;\;\Leftrightarrow\;\; \mathrm{E}[S_n] < \sqrt{\mathrm{E}[S_n^2]} =\sigma.$$