Valor esperado e variância da estimativa do parâmetro de inclinação


8

Estou lendo um texto, "Probability and Statistics", de Devore. Estou analisando 2 itens na página 740: o valor esperado e a variância da estimativa de β1 , que é o parâmetro de inclinação na regressão linear Yi=β0+β1Xi+ϵEu . ϵEu é uma Gaussiana ( μ=0 0,vumarEuumance=σ2 ) variável aleatória e a ϵEu são independentes.

A estimativa de β1 pode ser expressa como: β1^=(xEu-x¯)(YEu-Y¯)(xEu-x¯)2=(xEu-x¯)YEuSxx , ondeSxx=(xEu-x¯)2. Então, minha pergunta é: como derivarE(β1^)eVumar(β1^)? O livro já forneceu os resultados:E(β1^)=β1eVumar(β1^)=σ2Sxx .

Meu trabalho na derivação: E((xEu-x¯)YEuSxx)=E((xEu-x¯)(β0 0+β1xEu+ϵ)Sxx)=E((xEu-x¯)β1xEuSxx), uma vez que(xEu-x¯)c=0 0eE(cϵ)=0 0. Mas eu estou preso.

Além disso, Vumar((xEu-x¯)YEuSxx)=Vumar((xEu-x¯)(β0 0+β1xEu+ϵ)Sxx)=Vumar((xEu-x¯)ϵSxx)=Vumar((xEu-x¯)Sxx)σ2, mas estou preso.


Meu comentário em 22 de Junho de 2011, em resposta de whuber usuário deve incluir o índice na ε é, e deve fazer uso do fato de que os termos de erro £ i são independentes. EuϵϵEu
jrand

Var(β1^)=Var((xix¯)yiSxx)=Var((xix¯)ϵiSxx)=Var((x1x¯)ϵ1Sxx+(x2x¯)ϵ2Sxx++(xnx¯)ϵnSxx)=(x1x¯)2σ2(Sxx)2+(x2x¯)2σ2(Sxx)2++(xnx¯)2σ2(Sxx)2=σ2[(xix¯)2(Sxx)2]=σ2Sxx
jrand

A "resposta" padrão é uma subestimação, ignora a variação de S_ {xx}.
precisa saber é o seguinte

1
Na situação ser perguntado sobre, está sendo condicionada a, por isso é tratado como fixo em vez de aleatórioX
Glen_b -Reinstate Monica

Respostas:


8
  1. =(xi- ˉ x )β1xiE((xix¯)β1xiSxx) porque tudo é constante. O resto é apenas álgebra. Evidentemente, você precisa mostrar(xi- ˉ x )xi=Sxx. Observar a definição deSxxe comparar os dois lados leva a suspeitar(xi- ˉ x ) ˉ x =0. Isso se segue facilmente da definição de ˉ x .(xix¯)β1xiSxx(xix¯)xi=SxxSxx(xix¯)x¯=0x¯

  2. =[(xi- ˉ x )2Vumar((xEu-x¯)ϵSxx). Simplifica, usando a definição deSxx, para o resultado desejado.[(xEu-x¯)2Sxx2σ2]Sxx


2
Para o segundo ponto, a variância, a equação deve ser: Var((xEu-x¯)ϵSxx)=Vumar((x1-x¯)ϵ+(x2-x¯)ϵ++(xn-x¯)ϵSxx)=(Eun(xEu-x¯)2Sxx2)×σ2=SxxSxx2×σ2=σ2Sxx
jrand

1
@ jrand Sim, foi exatamente isso que escrevi (embora sua primeira igualdade não realize nada: é apenas uma maneira mais trabalhosa de escrever a soma). O ponto todo - e o que vale a pena lembrar - é que quando é uma variável aleatória com uma variação e λ é constante, V a r ( λ ε ) = λ 2 V a r ( ε ) . ελVumar(λε)λ2Vumar(ε)
whuber

A menos que eu estou recebendo o errado notação, esta é uma afirmação falsa: . A quantidade no lado esquerdo é a soma dos quadrados e a outra é o quadrado da soma. Eun(xEu)2=(EunxEu)2
jrand

@ jrand Você está correto: há um erro tipográfico na minha resposta. Obrigado por apontar. Eu o reformatei para corrigir o erro e tornar a lógica mais clara.
whuber
Ao utilizar nosso site, você reconhece que leu e compreendeu nossa Política de Cookies e nossa Política de Privacidade.
Licensed under cc by-sa 3.0 with attribution required.