O que são variáveis aleatórias iid?

49

Como você explicaria o iid (independente e identicamente distribuído) a pessoas não técnicas?

random-variable intuition

— user333
fonte

55

Significa "Independente e identicamente distribuído".

Um bom exemplo é uma sucessão de lançamentos de uma moeda justa: a moeda não tem memória, portanto todos os lançamentos são "independentes".

E todo arremesso é 50:50 (cara: coroa), então a moeda é e permanece justa - a distribuição a partir da qual cada arremesso é sacado, por assim dizer, é e permanece a mesma: "distribuída identicamente".

Um bom ponto de partida seria a página da Wikipedia .

::EDITAR::

Siga este link para explorar ainda mais o conceito.

— vonjd
fonte

11

Pergunto-me se a moeda lance exemplo seria falsamente dar a impressão de que cada evento deve ser equiprovável ...

— Michael McGowan

1

Portanto, não é necessário que as variáveis aleatórias do IID sejam equivalentes? se não são equiprobáveis, como explicar a "distribuição idêntica"? Thanks a lot in advance ...

6

@Nalini "equi-provável" não é sinônimo de "distribuído de forma idêntica". Se e são iid, isso significa que eles são obtidos da mesma distribuição, não que todos os valores nessa distribuição sejam igualmente prováveis (pense na distribuição normal). e teriam o mesmo valor esperado, no entanto.

x

$x$

y

$y$

x

$x$

y

$y$

— Jason Morgan

Se duas variáveis são independentes e distribuídas normalmente, mas com média e variância diferentes, elas ainda são iid?

— Spurra

1

@ Spurra Acho que não ... eles são apenas independentes

— user3595632

22

Explicação não técnica:

Independência é uma noção muito geral. Dizem que dois eventos são independentes se a ocorrência de um não fornecer informações sobre se o outro evento ocorreu ou não. Em particular, a probabilidade de atribuirmos ao segundo evento não é afetada pelo conhecimento de que o primeiro evento ocorreu.

Exemplo de eventos independentes, possivelmente distribuídos de forma idêntica
Considere jogar duas moedas diferentes uma após a outra. Supondo que o seu polegar não tenha se cansado demais quando ele jogou a primeira moeda, é razoável supor que saber que o primeiro lançamento da moeda resultou em Heads de forma alguma influencia a probabilidade de você pensar que a probabilidade de Heads no segundo lançamento é. Os dois eventos são eventos independentes .
${first coin toss resulted in Heads} and {second coin toss resulted in Heads}$
- Se soubermos, ou insistirmos obstinadamente, que as duas moedas têm probabilidades diferentes de resultar em Chefes, os eventos não serão distribuídos de forma idêntica.
- Se soubermos ou assumirmos que as duas moedas têm a mesma probabilidade de aparecer, então os eventos acima também são distribuídos de forma idêntica, o que significa que ambos têm a mesma probabilidade de ocorrer. Mas observe que, a menos que , a probabilidade de Heads não seja igual à probabilidade de Tails. Conforme observado em um dos Comentários, "distribuição idêntica" não é o mesmo que "igualmente provável". $p$ $p$ $p = \frac 12$
Exemplo de eventos não-independentes distribuídos de forma idêntica
Considere uma urna com duas bolas, uma preta e uma branca. Nós alcançamos e extraímos as duas bolas uma após a outra, escolhendo a primeira aleatoriamente (e isso, é claro, determina a cor da próxima bola). Assim, os dois resultados igualmente prováveis do experimento são (Branco, Preto) e (Preto, Branco), e vemos que a primeira bola tem a mesma probabilidade de ser Preta ou Branca e a segunda bola também tem a mesma probabilidade de ser Preta. ou branco. Em outras palavras, os eventos certamente são distribuídos de forma idêntica, mas são definitivamente não
${first ball drawn is Black} and {second ball drawn is Black}$ $\{\text{first ball drawn is Black}\}~~\text{and}~~\{\text{second ball drawn is Black}\}$ eventos independentes. De fato, se sabemos que o primeiro evento ocorreu, sabemos com certeza que o segundo não pode ocorrer. Portanto, embora nossa avaliação inicial da probabilidade do segundo evento seja , uma vez que sabemos que o primeiro evento ocorreu, é melhor revisar nossa avaliação da probabilidade do segundo evento ser preta de a . $\frac 12$ $\frac 12$ $0$

— Dilip Sarwate
fonte

"Como observado em um dos Comentários," distribuição idêntica "não é o mesmo que" igualmente provável "." Qual é a diferença? "igualmente provável" significa cara é igualmente provável como coroa? Enquanto "distribuição idêntica" significa que cada evento tem a mesma probabilidade de chefes?

— A Red Pea

3

@TheRedPea Não é bem assim. Se tivermos uma moeda tendenciosa que gera H com probabilidade , os eventos "Primeiro sorteio são H" e o evento "Segundo sorteio é H" são independentes e igualmente prováveis (ambos têm probabilidade ) Além disso, os lançamentos são distribuídos de forma idêntica: ambos têm as mesmas probabilidades ( e para H e T, respectivamente) nos vários lançamentos. Mas os eventos "Primeiro arremesso é H" e "Primeiro arremesso é T" não são igualmente prováveis . Nem são independentes. Distribuição idêntica = todos os lançamentos têm a mesma distribuição .

p \neq \frac{1}{2}

$p \ne \frac 12$

p

$p$

p

$p$

1 - p

$1-p$

— Dilip Sarwate

2

@TheRedPea (continuação) Igualmente provável significa que dois eventos têm a mesma probabilidade. Os eventos podem ser definidos nos arremessos como acima, ou dentro de um único experimento. O modelo canônico simples de um experimento é um espaço de amostra com resultados, nos quais todos os resultados têm a mesma probabilidade . É comum descrever isso dizendo "uma moeda justa" ou "um dado justo" ou dizendo coisas como "Uma bola é escolhida aleatoriamente a partir de uma urna com 3 bolas verdes e 2 vermelhas" etc. São apenas os puristas que vai contestar e insistir que ela deve ser "um justo morrer" ....

n

$n$

\frac{1}{n}

$\frac 1n$

— Dilip Sarwate

OK, então a distribuição idêntica se refere a toda a distribuição de probabilidade, enquanto a probabilidade igual se refere a partes dessa distribuição de probabilidade. Eu entendo agora, obrigado.

— The Red Pea

Não tenho certeza de que o último exemplo seja distribuído de forma idêntica. É discutível que " se dois eventos não são independentes, eles não podem ser de distribuições idênticas"? Por exemplo, no seu exemplo, eu diria que o segundo desenho de bola tem uma distribuição diferente devido ao primeiro evento.

— Jggunjer # 5/16

3

Uma variável aleatória é uma variável que contém a probabilidade de todos os eventos possíveis em um cenário. Por exemplo, vamos criar uma variável aleatória que represente o número de caras em 100 lançamentos de moedas. A variável aleatória conterá a probabilidade de obter 1 cabeça, 2 cabeças, 3 cabeças ..... até 100 cabeças. Vamos chamar esta variável aleatória X .

Se você tiver duas variáveis aleatórias, elas serão IID (independentes identicamente distribuídas) se:

Se eles são independentes . Como explicado acima, independência significa que a ocorrência de um evento não fornece nenhuma informação sobre o outro evento. Por exemplo, se eu receber 100 caras após 100 lançamentos, as probabilidades de obter cara ou coroa no próximo lançamento são as mesmas.
Se cada variável aleatória compartilhar a mesma distribuição . Por exemplo, vamos dar a variável aleatória de cima - X . Vamos dizer que X representa Obama prestes a jogar uma moeda 100 vezes. Agora, digamos que Y representa um sacerdote prestes a jogar uma moeda 100 vezes. Se Obama e o Sacerdote jogam moedas com a mesma probabilidade de cair na cara, então X e Y são considerados distribuídos de forma idêntica. Se amostrarmos repetidamente do Padre ou Obama, as amostras serão consideradas distribuídas de forma idêntica.

Nota lateral: Independência também significa que você pode multiplicar probabilidades. Digamos que a probabilidade de cabeças é p, então a probabilidade de obter duas cabeças seguidas é p * p ou p ^ 2.

— thebajo
fonte

2

Que duas variáveis dependentes podem ter a mesma distribuição pode ser mostrada com este exemplo:

Suponha duas experiências sucessivas envolvendo cada 100 lançamentos de uma moeda tendenciosa, em que o número total de Head é modelado como uma variável aleatória X1 para o primeiro experimento e X2 para o segundo experimento. X1 e X2 são variáveis aleatórias binomiais com os parâmetros 100 ep, onde p é o viés da moeda.
Como tal, eles são distribuídos de forma idêntica. No entanto, eles não são independentes, uma vez que o valor do primeiro é bastante informativo sobre o valor do último. Ou seja, se o resultado do primeiro experimento for 100 cabeças, isso nos diz muito sobre o viés da moeda e, portanto, nos fornece muitas informações novas sobre a distribuição de X2.
Ainda X2 e X1 são distribuídos de forma idêntica, pois são derivados da mesma moeda.

O que também é verdade é que, se duas variáveis aleatórias são dependentes, o posterior de X2, dado X1, nunca será o mesmo que o anterior de X2 e vice-versa. Enquanto quando X1 e X2 são independentes, os posteriores são iguais aos anteriores. Portanto, quando duas variáveis são dependentes, a observação de uma delas resulta em estimativas revisadas quanto à distribuição da segunda. Ainda assim, ambos podem ser da mesma distribuição, é apenas que aprendemos no processo mais sobre a natureza dessa distribuição. Portanto, voltando às experiências de sorteio, inicialmente na ausência de qualquer informação, podemos assumir que X1 e X2 seguem uma distribuição binomial com os parâmetros 100 e 0,5. Mas depois de observar 100 cabeças seguidas, certamente revisaríamos nossa estimativa sobre o parâmetro p para torná-lo bem próximo de 1.

— rf7
fonte

1

Uma agregação de vários sorteios aleatórios da mesma distribuição. Um exemplo é puxar um mármore da sacola 10.000 vezes e contar as vezes em que você puxa o mármore vermelho.

— Caleb
fonte

1

Você pode expandir como isso contribui para as respostas existentes?

— Mdwey #

0

$X$ $\mu=3$ $\sigma^2=4$ $X \sim N(3 , 4)$

$Y$ $Y \sim N(3, 4)$ $X$ $Y$

No entanto, ser distribuído de forma idêntica não implica necessariamente independência.

— S Jalal
fonte

8

Você deve ter um conjunto interessante de "pessoas não técnicas" em mente quando se basear em termos técnicos como "variável aleatória", "distribuição normal", "pdf", "variação" e "independência". Atrevo-me a dizer que é o cenário vazio.

— whuber

" ser distribuído de forma idêntica não implica necessariamente independência ". Como a dependência pode afetar duas variáveis identicamente distribuídas? Parece-me que a dependência causa não-identidade, mas nem toda não-identidade é devido à dependência .

— jiggunjer 5/09/16

O que são variáveis ​​aleatórias iid?

O que são variáveis aleatórias iid?