Valor esperado da estimativa do parâmetro de moeda com probabilidade máxima


8

Suponha que eu tenha um experimento de sorteio no qual desejo calcular a estimativa de probabilidade máxima do parâmetro de moeda p ao lançar a moeda n vezes. Depois de calcular a derivada da função de probabilidade binomial L(p)=(nx)px(1p)nx , obtenho o valor ideal para p ser p=xn , com x sendo o número de sucessos.

Minhas perguntas agora são:

  • Como eu calcularia o valor / variação esperado dessa estimativa de probabilidade máxima para p ?
  • Preciso calcular o valor / variação esperado para ?L(p)
  • Se sim, como eu faria isso?

1
Eu acho que isso é algum tipo de auto-estudo (você deve identificá-lo como tal). O que exatamente você quer? Inferência no seu parâmetro?
Pkofod 26/01/14

O que você quer dizer com inferência no parâmetro? Não tenho certeza de como calcularia o valor / variação esperado para a quantidade . Quero dizer, eu sei o que significa média / variância e como calculá-lo para exemplos simples, mas não entendo como aplicá-lo a . p pp
Manu

Respostas:


6

Antes de tudo, é uma pergunta de auto-estudo, por isso vou me aprofundar em cada pequeno detalhe técnico, mas também não vou a um frenesi de derivação. Existem diversas formas de fazer isto. Ajudarei você usando propriedades gerais do estimador de probabilidade máxima.

Informações básicas

Para resolver seu problema, acho que você precisa estudar a máxima probabilidade desde o início. Você provavelmente está usando algum tipo de livro de texto, e a resposta deve estar realmente em algum lugar. Vou ajudá-lo a descobrir o que procurar.

Máxima verossimilhança é um método de estimativa que é basicamente o que chamamos de estimador M (pense no "M" como "maximizar / minimizar"). Se as condições necessárias para o uso desses métodos forem atendidas, podemos mostrar que as estimativas dos parâmetros são consistentes e normalmente assintoticamente distribuídas, portanto, temos:

N(θ^θ0)dNormal(0,A01B0A01),

onde e são algumas matrizes. Ao usar a probabilidade máxima, podemos mostrar que e, portanto, temos uma expressão simples: Temos que onde denota o hessiano. É isso que você precisa estimar para obter sua variação.B 0 A 0 = B 0 A0B0A0=B0A0-E(H(θ0))H

N(θ^θ0)dNormal(0,A01).
A0E(H(θ0))H

Seu problema específico

Então, como fazemos isso? Aqui vamos chamar nosso vetor de parâmetro como você faz: . Como é apenas um escalar, nossa "pontuação" é apenas a derivada e o "hessiano" é apenas a derivada de segunda ordem. Nossa função de probabilidade pode ser escrita como: que é o que queremos maximizar. Você usou a primeira derivada disso ou a probabilidade do log para encontrar seu . Em vez de definir a primeira derivada igual a zero, podemos diferenciar novamente, para encontrar a derivada de segunda ordem . Primeiro pegamos logs: Então nossa 'pontuação' é: e nosso 'hessian': p l ( p ) = ( p ) x ( 1 - p ) n - x , p H ( p ) l l ( p ) log ( l ( p ) ) = x log ( p ) + ( n - x ) log ( 1 - p ) l l (θp

l(p)=(p)x(1p)nx,
pH(p)
ll(p)log(l(p))=xlog(p)+(nx)log(1p)
ll(p)=xp+nx1p,
H(p)=ll(p)=xp2nx(1p)2.
Então nossa teoria geral acima diz apenas para você encontrar . Agora você só precisa assumir a expectativa de (Dica: use ), multiplique por e faça o inverso. Então você terá sua variação do estimador.(E(H(p)))1H(p)E(x/n)=p1

É correto? Var(p)=p21n1np
Manu

@ Manu: Não é bem assim, mas parece que você acabou de cometer um pequeno erro em algum lugar. Você pode postar mais algumas etapas?
Pkofod 26/01/14

(-E(H(p)))-1=E(-H(p))-1]=(E(xp2)+E(n-x(1-p)2))-1=(p-2np+(1-p)-2(n-np))-1 . a partir daí simplifiquei multiplicando e tomando o inverso.
Manu

Está tudo correto, agora basta simplificar. Na primeira parte, p cancela e, na segunda parte, você pode pegar n fora dos parênteses.
Pkofod 26/01/14

2
(n/p+n/[1-p])-1 é o que você tem acima. Basta fatorar para fora, colocar um denominador comum e depois pegar o recíproco. n
Ekvall

6

Para começar, vamos fazer o valor esperado:

Se é o número de sucessos em lançamentos, é a proporção de sucessos em sua amostra. Considere ; para cada lançamento, a probabilidade de sucesso é acordo com as premissas; portanto, ao jogar a moeda uma vez, o "número de sucessos" esperado é , certo? Assim, se você jogar a moeda vezes, esperaria sucesso vezes porque os lançamentos são independentes. Então, como é o número esperado de sucessos em lançamentos, você obtémxnx/nExpp×1+(1-p)×0 0=pnnpnpn

Ep=En-1x=n-1Ex=n-1×np=p

Portanto, o estimador é imparcial. Você pode descobrir como fazer a variação daqui?

Edit: Vamos fazer a variação também. Usamos que . O segundo termo que já temos do cálculo do valor esperado, então vamos fazer o primeiro: Para simplificar alguns , podemos expressar o número de sucessos em lançamentos da seguinte forma: que assume o valor 1 se throw foi um sucesso e 0 em caso contrário. Portanto, e assim, juntando as coisas, você chega a .Var(p)=Ep2-(Ep)2

Ep2=n-2Ex2
n
x=1nχEu,
χEuEuVar(p*)=p(1-P)
Ex2=E(1nχEu)2=E[1nχEu2+2Eu<jχEuχj]=np+n(n-1)p2,
Var(p)=p(1-p)n

Se você jogar cabeças seguidas, seu . No entanto, qual valor exato Var ( ) levaria? p M L E = 1,0 p n=3pMeuE=1.0p
Piccolo
Ao utilizar nosso site, você reconhece que leu e compreendeu nossa Política de Cookies e nossa Política de Privacidade.
Licensed under cc by-sa 3.0 with attribution required.