Vantagem de múltiplas simulações em Monte Carlo à moda antiga?

O espírito dessa pergunta vem do "Monte Carlo comum", também conhecido como "bom e velho Monte Carlo"

Suponha que eu tenha uma variável aleatória , com $X$

μ := E [X] σ^{2} := V a r [X]

$\mu := E[X]\\ \sigma^2:=Var[X]$

Ambos são valores desconhecidos, porque a função de distribuição de probabilidade de é desconhecida (ou os cálculos são intratáveis). $X$

De qualquer forma, suponha que podemos de alguma forma simular desenha (estes são independentes e identicamente distribuídas) a partir da distribuição de . Vamos definir os parâmetros de amostra $n$ $X_1,X_2,\dots,X_n$ $X$

{\hat{μ}}_{n} := \frac{1}{n} \sum_{i = 1}^{n} X_{i} {\hat{σ}}_{n}^{2} := \frac{1}{n} \sum_{i = 1}^{n} (X_{i} - {\hat{μ}}_{n})^{2}

$\hat{\mu}_n := \frac{1}{n}\sum_{i=1}^{n}X_i\\ \hat{\sigma}_n^2 : = \frac{1}{n}\sum_{i=1}^{n}(X_i-\hat{\mu}_n)^2$

De acordo com o Teorema do Limite Central, quando se tornar muito grande, a média da amostra obedecerá de perto a uma distribuição normal $n$ $\hat{\mu}_n$

\hat{μ} \sim N (μ, \frac{σ^{2}}{n})

$\hat{\mu} \sim N(\mu,\frac{\sigma^2}{n})$

Antes de calcularmos os intervalos de confiança, o autor afirma que, como não conhecemos , faremos a estimativa de que , ou mais precisamente, para uma estimativa imparcial , e podemos prosseguir a partir daí usando técnicas padrão. $\sigma^2$ $\sigma^2 \approx \hat{\sigma}^2$ $\sigma^2 \approx \frac{n}{n-1}\hat{\sigma}^2$

Agora, enquanto o autor menciona a importância de suficientemente grande ( número de empates por simulação), não há menção sobre o número de simulações e seus efeitos sobre a nossa confiança. $n$

Existe alguma vantagem em executar simulações (executando draws de cada vez) para obter vários meios de amostra e use os meios para melhorar nossas estimativas e confiança em relação ao desconhecido de ? $k$ $n$ $\hat{\mu}_{n,1}, \hat{\mu}_{n,2}, \dots \hat{\mu}_{n,k}$ $\mu,\sigma$ $X$

Ou basta desenhar amostras de em uma única simulação, desde que seja suficientemente grande? $n$ $X$ $n$

probability monte-carlo computational-statistics

— jII
fonte

Desde que sejam evitados problemas relacionados à geração de números pseudo-aleatórios (ver nota no final), as duas abordagens ( simulações com empates vs. simulação única com suficientemente grande ) são equivalentes em relação à estimativa da média . Em relação à memória, observe que, no caso de simulações, é necessário armazenar os meios de amostra antes de executar o média final, embora isso não ocorra no cenário de simulação única. Nos computadores modernos, executar uma única simulação com suficientemente grande não deve ser mais difícil do que o descrito anteriormente e, de fato, economizar tempo. $k$ $n$ $n$ $k$ $\hat{\mu}_{n,1}, \dots, \hat{\mu}_{n,k}$ $n$

A razão matemática além da equivalência é linearidade. Para ser mais preciso, no cenário de simulações , você calcula a média da amostra "final" seguinte forma onde indica o sorteio numerado na simulação . Essa ordenação é arbitrária se nada de estranho acontecer; portanto, você pode re-rotular cada com um novo índice, digamos , obtendo $k$ $\hat{\mu}$

\hat{μ} = \frac{1}{k} \sum_{h = 1}^{k} {\hat{μ}}_{n, h} = \frac{1}{k} \sum_{h = 1}^{k} \frac{1}{n} \sum_{i = 1}^{n} X_{i}^{(h)} = \frac{1}{n k} \sum_{h = 1}^{k} \sum_{i = 1}^{n} X_{i}^{(h)}

$\hat{\mu} = \frac{1}{k} \sum_{h=1}^k \hat{\mu}_{n,h} = \frac{1}{k} \sum_{h=1}^k \frac{1}{n} \sum_{i=1}^n X^{(h)}_i = \frac{1}{nk} \sum_{h=1}^k \sum_{i=1}^n X^{(h)}_i$

X_{i}^{(h)}

$X_i^{(h)}$

i

$i$

h

$h$

X_{i}^{(h)}

$X_i^{(h)}$

m = 1, \dots, n k

$m=1,\dots,nk$

\hat{μ} = \frac{1}{n k} \sum_{m = 1}^{n k} X_{m}

$\hat{\mu} = \frac{1}{nk} \sum_{m=1}^{nk} X_m$ Mas isso é equivalente a executar uma única simulação com draws (obviamente, os draws devem ser iid, como já foi observado).

n k

$nk$

Nota: Problemas potenciais com PRNGs são descritos na página da Wikipedia .

— PseudoRandom
fonte

Ótima resposta! Eu fiz essa percepção um pouco depois de postar. E como a variação de nossa amostragem é inversamente proporcional a (o número de amostras), nossa confiança também é melhorada (pelo menos teoricamente).

n

$n$

— jii