E se as probabilidades não forem iguais na "Regra .632?"

Esta pergunta é derivada desta sobre a "regra .632". Estou escrevendo com referência particular à resposta / notação do user603 na medida em que simplifica as coisas.

Essa resposta começa com uma amostra do tamanho $n,$ com substituição, de $n$ itens distintos na coleção (chame) de N. A probabilidade de que a $i^{th}$ amostra $s_i$ seja diferente de um determinado elemento $m$ de N é então $(1 - 1/n).$

Nesta resposta, todos os elementos de N têm igual chance de serem sorteados aleatoriamente.

Minha pergunta é a seguinte: suponha que, na pergunta acima, os itens a serem desenhados sejam tais que sejam distribuídos normalmente. Ou seja, subdividimos a curva normal padrão de $Z = -4$ a $Z = 4$ em (digamos) 100 subintervalos de comprimento igual. Cada um dos 100 itens em N tem uma probabilidade de ser desenhada igual à área subtendida pela curva em seu respectivo intervalo.

Meu pensamento foi o seguinte:

O raciocínio é semelhante ao da resposta vinculada, eu acho. A probabilidade de que $s_i \ne m$ , com $m$ um elemento de N, é $P(s_i \neq m) = (1 - F_i)$ na qual $F_i$ é a probabilidade de desenhar $s_i.$

A probabilidade de um elemento m específico estar na amostra S de tamanho n é

P (m \in S) = 1 - P (m \notin S) = 1 - \prod_{1}^{n} P (s_{i} \neq m)

$P(m \in S) = 1 - P(m \notin S) = 1 - \prod_1^n P(s_i \neq m)$

= 1 - \prod_{1}^{n} (1 - F_{i}) .

$= 1 - \prod_1^n(1 - F_i).$

Um cálculo parece mostrar que, à medida que o comprimento dos subintervalos diminui, a resposta converge para o mesmo número que no primeiro caso (probabilidades de todas iguais). $s_i$

Isso parece contra-intuitivo (para mim) porque a construção parece incluir elementos de N que são raros, então eu esperaria um número menor que 0,632.

Além disso, se isso estiver correto, acho que teríamos

lim_{n \to \infty} \prod_{1}^{n} (1 - F_{i}) = lim (1 - 1 / n)^{n} = 1 / e,

$\lim_{n \to \infty} \prod_1^n(1 - F_i) =\lim (1- 1/n)^n = 1/e,$

que ainda não sei como verdadeiro ou falso.

Edit: Se for verdade, provavelmente generalizaria alguns.

Obrigado por qualquer insight.

probability sampling

— daniel
fonte

Acabei de perguntar sobre a última equação em Matemáticas SE (pergunta 791114), porque também estou interessada em como ela se generaliza.

— Daniel

... e a resposta curta é que a última igualdade está correta para PDFs bem comportados, então a resposta para a pergunta é que a regra .632 vale para uma ampla variedade de distribuições subjacentes.

— Daniel

Posso retirar a resposta de outra pessoa de outro site e publicá-la aqui como minha? Foi por isso que postei o breve comentário. Talvez haja uma maneira aceita de fazer isso, se for o caso, sou favorável.

— Daniel

é claro que você pode, basta mencionar a fonte em algum ponto :)

— Firebug

@ Firebug: você pode apontar para uma instância em que isso é feito para que eu possa ver o que você quer dizer? Obrigado.

— Daniel

A pergunta é sobre o comportamento limitante da

\begin{matrix} (1) & = 1 - \prod_{i = 1}^{n} (1 - F_{i}) \end{matrix}

$= 1 - \prod_{i=1}^n(1 - F_i)\tag{1}$

à medida que cresce e o encolhe uniformemente de tal maneira que (a) todos são não negativos e (b) somam à unidade. (Eles decorrem da construção do e dos axiomas da probabilidade.) $n$ $F_i$ $F_i$

Por definição, este produto é o exponencial de seu logaritmo:

\prod_{i = 1}^{n} (1 - F_{i}) = \exp (\sum_{i = 1}^{n} \log (1 - F_{i})) .

$\prod_{i=1}^n(1 - F_i) = \exp\left(\sum_{i=1}^n\log\left(1-F_i\right)\right).$

O Teorema de Taylor (com a forma Lagrange do restante) , aplicado a , estabelece que $\log$

\log (1 - F_{i}) = - F_{i} - \frac{1}{2} ϕ_{i}^{2} \geq - F_{i} - \frac{1}{2} F_{i}^{2}

$\log\left(1-F_i\right) = -F_i - \frac{1}{2}\phi_i^2 \ge -F_i - \frac{1}{2}F_i^2$

para alguns no intervalo . Em outras palavras, esses logaritmos são iguais a até termos que são no máximo vezes . Mas quando é grande o suficiente para garantir que todos os sejam menores que alguns (uma condição assegurada pelo encolhimento uniforme de ), então (b) implica e portanto $\phi_i$ $[0, F_i]$ $-F_i$ $1/2$ $F_i^2$ $n$ $F_i$ $\epsilon\gt 0$ $F_i$ $n\epsilon \gt \sum F_i = 1$

\sum_{i = 1}^{n} F_{i}^{2} \leq \sum_{i = 1}^{n} ϵ^{2} < \sum_{i = 1}^{n} {(\frac{1}{n})}^{2} = \frac{1}{n} .

$\sum_{i=1}^n F_i^2 \le \sum_{i=1}^n \epsilon^2 \lt \sum_{i=1}^n \left(\frac{1}{n}\right)^2 =\frac{1}{n}.$

Consequentemente

- 1 = - \sum_{i = 1}^{n} F_{i} \geq \sum_{i = 1}^{n} \log (1 - F_{i}) \geq - \sum_{i = 1}^{n} F_{i} - \frac{1}{2} \frac{1}{n} = - 1 - \frac{1}{2 n}

$-1 = -\sum_{i=1}^n F_i \ge \sum_{i=1}^n\log\left(1-F_i\right) \ge -\sum_{i=1}^n F_i - \frac{1}{2}\frac{1}{n} = -1 - \frac{1}{2n}$

espremer o logaritmo entre duas seqüências convergindo para . Como é contínuo, o produto converge para o exponencial desse limite, . Consequentemente $-1$ $\exp$ $\prod_{i=1}^n(1 - F_i)$ $\exp(-1)$

lim_{n \to \infty} (1 - \prod_{i = 1}^{n} (1 - F_{i})) = 1 - \exp (- 1) \approx 0.632,

$\lim_{n\to\infty} \left(1 - \prod_{i=1}^n(1 - F_i)\right) = 1 - \exp(-1) \approx 0.632,$

QED .

Uma análise mais detalhada dessa análise estabelece que o erro nessa aproximação (que sempre será um limite inferior ) não é maior em tamanho que Por exemplo, a divisão de uma distribuição normal padrão em fatias entre e produz um máximo próximo ao modo , onde será aproximadamente igual à área de um retângulo, . . O limite anterior estabelece que o valor da fórmula estará dentro de do seu valor limite. O erro real é uma ordem de magnitude menor,

(\exp ((n / 2) max (F_{i}^{2})) - 1) \exp (- 1) .

$\left(\exp\left((n/2)\max(F_i^2)\right) - 1\right)\exp(-1).$

n = 400

$n=400$

- 4

$-4$

4

$4$

F_{i}

$F_i$

0

$0$

\exp (- 1 / 2) / 50 \approx 0.012

$\exp(-1/2)/50 \approx 0.012$

(1)

$(1)$

0.011

$0.011$

0.001041

$0.001041$ . Aqui está o cálculo R( no qual podemos confiar, porque nenhum dos é verdadeiramente pequeno em relação a ):

f_{i}

$f_i$

1

$1$

f <- diff(pnorm(seq(-4, 4, length.out=401))) # The normal "slices".
f <- f / sum(f)                              # Make them sum to unity.
exp(-1) - prod(1 - f)                        # Compute the error.

De fato, 1 - prod(1-f)é enquanto é . $0.6331615\ldots$ $1-\exp(-1)$ $0.6321206\ldots$

— whuber
fonte

A análise de erro é um aspecto muito útil desta resposta.

— Daniel