Как оптимально распределить ничьи при расчете множественных ожиданий

Предположим, мы хотим вычислить некоторое ожидание:

$$E_YE_{X|Y}[f(X,Y)]$$

Предположим, мы хотим приблизить это с помощью моделирования Монте-Карло.

$$E_YE_{X|Y}[f(X,Y)] \approx \frac1{RS}\sum_{r=1}^R\sum_{s=1}^Sf(x^{r,s},y^r)$$

Но предположим , что это дорого брать пробы из обоих распределений, так что мы только можем себе позволить сделать фиксированное число . $K$

Как мы должны выделить ? Примеры включают в себя ничьи для каждого распределения или в крайнем случае, одну ничью во внешнем и во внутреннем, и т. Д. .....К / 2 К - $K$$K/2$$K-1$

Моя интуиция говорит мне, что это будет связано с дисперсией / энтропией распределений относительно друг друга. Предположим , что внешняя одна точка массы, то деление , что сводит к минимуму MC ошибка будет ничья 1 из и нарисовать из . Y K - 1 X | $K$$Y$$K-1$$X|Y$

Надеюсь, это было ясно.

Это очень интересный вопрос с небольшим количеством документации в литературе Монте-Карло, кроме как в связи со стратификацией и Рао-Блэквеллизацией . Возможно, это связано с тем, что вычисления ожидаемой условной дисперсии и дисперсии условного ожидания редко осуществимы.

Во-первых, давайте предположим, что вы запускаете симуляций из π X , x 1 , … , x R, и для каждого симулированного x r вы запускаете S симуляций из π Y | X = x r , y 1 r , … , y s r . Ваша оценка Монте-Карло тогда δ ( R , S ) = $R$$\pi_X$$x_1,\ldots,x_R$$x_r$$S$$\pi_{Y|X=x_r}$$y_{1r},\ldots,y_{sr}$ Дисперсия этой оценки разлагается следующим образом: var { δ ( R , S )

$$\delta(R,S)=\frac{1}{RS}\sum_{r=1}^R\sum_{s=1}^S f(x_r,y_{rs})$$ Поэтомуесли ктохочетчтобы свестиминимуму эту дисперсию при выборе оптимальной являетсяР=К. Подразумевается, чтоS=1. За исключением случаев, когда первый член отклонения является нулевым, в этом случае это не имеет значения. Однако, как обсуждалось в комментариях, предположениеK=RSнереально, поскольку оно не учитывает производство одногоxr[или предполагает, что это приходит бесплатно]. $$\begin{align*} \text{var} \{\delta(R,S)\} &= \frac{1}{R^2S^2} R\text{var} \left\{\sum_{s=1}^S f(x_r,y_{rs})\right\}\\ &= \frac{1}{RS^2} \text{var}_X\mathbb{E}_{Y|X}\left\{\sum_{s=1}^S f(x_r,y_{rs})\big|x_r\right\}+\frac{1}{RS^2}\mathbb{E}_{X}\text{var}_{Y|X} \left\{\sum_{s=1}^S f(x_r,y_{rs})\big|x_r\right\}\\ &=\frac{1}{RS^2} \text{var}_X\{ S \mathbb{E}_{Y|X}[f(x_r,Y)|x_r]\}+ \frac{1}{RS^2} \mathbb{E}_{X}[S\text{var}_{Y|X}\{f(x_r,Y)|x_r\}]\\ &=\frac{1}{R} \text{var}_X\{\mathbb{E}_{Y|X}[f(x_r,Y)|x_r]\}+ \frac{1}{RS} \mathbb{E}_{X}[\text{var}_{Y|X}\{f(x_r,Y)|x_r\}]\\ &\stackrel{K=RS}{=}\frac{1}{R}\text{var}_X\{\mathbb{E}_{Y|X}[f(x_r,Y)|x_r]\}+ \frac{1}{K} \mathbb{E}_{X}[\text{var}_{Y|X}\{f(x_r,Y)|x_r\}] \end{align*}$$ $R=K$$S=1$$K=RS$$x_r$

Теперь давайте предположим , различные затраты моделирования и бюджетное ограничение , а это означает , что у г s «s стоимости через несколько раз , чтобы смоделировать , чем х Г » с. Вышеуказанное разложение дисперсии составляет $R+aRS=b$$y_{rs}$$a$$x_r$ которое можно минимизировать вRкак R∗=b/1+{aEX[varY| X{f(xr,Y)| х

$$\frac{1}{R}\text{var}_X\{\mathbb{E}_{Y|X}[f(x_r,Y)|x_r]\}+ \frac{1}{R(b-R)/aR} \mathbb{E}_{X}[\text{var}_{Y|X}\{f(x_r,Y)|x_r\}]$$ $R$ [ближайшее целое число при ограничениях R ≥ 1 и S ≥ 1 ],исключениемкогда первая дисперсия равна нулю,в этом случае R = 1 . Когда E X [ var Y | X { f ( x r $$R^*=b\big/1+\{a\mathbb{E}_{X}[\text{var}_{Y|X}\{f(x_r,Y)|x_r\}/\text{var}_X\{\mathbb{E}_{Y|X}[f(x_r,Y)|x_r]\}\}^{1/2}$$ $R\ge 1$$S\ge 1$$R=1$ , минимальная дисперсия соответствует максимуму R , что приводит к S = 1 в текущем формализме.$\mathbb{E}_{X}[\text{var}_{Y|X}\{f(x_r,Y)|x_r\}]=0$$R$$S=1$

Отметим также, что это решение следует сравнивать с симметричным решением, когда внутренний интеграл находится в заданном Y, а внешний интеграл против маргинального в Y (предполагая, что моделирования также возможны в этом порядке).$X$$Y$$Y$

$S(x_r)$$x_r$$\text{var}_{Y|X}\{f(x_r,Y)|x_r\}$