Regressão linear com ruído de tiro


8

Estou procurando a terminologia estatística correta para descrever o seguinte problema.

Eu quero caracterizar um dispositivo eletrônico que tenha uma resposta linear

Y=β0+β1X+ϵ

onde é um termo devido ao ruído de leitura do dispositivo. Para determinar eu media uma série de respostas e aplicava a caixa de ferramentas de regressão linear padrão. Mas não sei exatamente o que são os , porque uso uma fonte que é afetada pelo ruído da tomada. Ou seja, eu sei que se eu definir o dial na fonte para um determinado valor então (um gaussiano com e variância ) médios .β 0 , β 1 , σ 2 r o { X i , Y i } X i J i X i ~ N ( μ , μ ) μ μϵN(0,σro2)β0,β1,σro2{Xi,Yi}XiJiXiN(μ,μ)μμ

Parece um modelo de erro nas variáveis ​​de regressão linear ( http://en.wikipedia.org/wiki/Errors-in-variables_models ), onde não é o fato de que, para caracterizar meu dispositivo em todo o seu intervalo de entrada , durante as medições, tenho que alterar o valor de , e agora a variação do não é fixa, mas depende de (através de J_i), embora, devido ao ruído do tiro, se isso não significa que o a variação de é a mesma que a variação de .X i X i X i = X j X i X jJiXiXiXi=XjXiXj

Como é chamado esse modelo e existem artigos em que posso descobrir que esse problema é abordado? Ou estou formulando da maneira errada?


Var (Xi) = μ = E (Xi)> 0. Se isso fosse corrigido, isso seria um erro no modelo de variáveis ​​com razão de variância σ / μ. Não é porque μ muda com o Xi. Já vi modelos com variação não constante em Y e modelos com erros em variáveis, mas não esse tipo de modelo que apresenta erros em variáveis ​​com variação não constante. Quando a variação em Y não é constante, às vezes é possível modelar a variação em função do valor da covariável x. Talvez algo como isso poderia ser feito para o erro em X.r ó2 ro
Michael R. Chernick

Respostas:


3

O modelo de probabilidade para esse ruído de tiro é

XPoisson(μ),Y|XNormal(β0+β1X,σ2).

Uma boa estimativa de é a média de e uma boa estimativa de é fornecida por mínimos quadrados comuns, porque os valores de são assumidos independentes, distribuídos de forma idêntica e normais.X ( β 0 , β 1 ) YμX(β0,β1)Y

A estimativa de dado por OLS é inapropriado aqui, porém, devido à aleatoriedade dos . A estimativa de probabilidade máxima é Xσ2X

s2=Sxy22SxSySxy+Sxx(Sy2Syy)+Sx2SyySx2Sxx.

Nesta notação, é o valor médio , é a média dos produtos dos valores e , etc.SxXSxyXY

Podemos esperar que os erros padrão de estimativa nas duas abordagens (OLS, o que não está certo e MLE, conforme descrito aqui) sejam diferentes . Existem várias maneiras de obter erros padrão de ML: consulte uma referência. Como a probabilidade do log é relativamente simples (especialmente quando a distribuição Poisson é aproximada por uma distribuição Normal para grandes ), esses erros padrão podem ser calculados de forma fechada, se desejar.(μ)(μ,μ)μ


Como exemplo trabalhado, gerei valores partir de uma distribuição Poisson :12 X(100)

94,99,106,87,91,101,90,102,93,110,97,123

Em seguida, definindo , e , valores correspondentes :β 1 = 1 / 2 σ = 1 12 Yβ0=3β1=1/2σ=112Y

47.4662,53.5622,54.6656,45.3592,49.0347,53.8803,48.3437,54.2255,48.4506,58.6761,50.7423,63.9922

O valor médio de é igual a , a estimativa de . Os resultados do OLS (que são idênticos ao MLE dos coeficientes) estimam como e como . Não é surpresa que a estimativa da interceptação, , se afaste do seu valor real de , porque esses valores permanecem longe da origem. A estimativa da inclinação, , está próxima do valor real de .99,4167 μ β 0 1,24 β 1 0,514271 β 0 3 X β 1 0,5X99.4167μβ01.24β10.514271β03Xβ10.5

A estimativa de OLS de , no entanto, é , menor que o valor verdadeiro de . O MLE de em . (É um acidente que ambas as estimativas sejam baixas e que o MLE seja maior que a estimativa do OLS.) 0,715 1 σ 2 0,999351σ20.7151σ20.999351

Figura

A linha é tanto o ajuste do OLS quanto a estimativa de probabilidade máxima para o modelo de probabilidade conjunta de Poisson-Normal.

Ao utilizar nosso site, você reconhece que leu e compreendeu nossa Política de Cookies e nossa Política de Privacidade.
Licensed under cc by-sa 3.0 with attribution required.