Qual é a lógica por trás do método dos momentos?

Por que, no "Método dos momentos", equiparamos momentos de amostra a momentos de população para encontrar um estimador de pontos?

Onde está a lógica por trás disso?

intuition method-of-moments

— usuário 31466
fonte

Seria bom se tivéssemos um físico em nossa comunidade para enfrentar este.

— Mugen

@mugen, não vejo relação alguma com a física.

— Aksakal

@ Aksakal também usam momentos de funções na física, e sempre é bom quando alguém faz um paralelo para uma melhor interpretação.

— mugen

Conforme mencionado na esta resposta , a lei dos grandes números fornece uma justificativa (embora assintótica) para estimar um momento população por um momento de amostra, resultando em (muitas vezes) simples, estimadores consistentes

— Glen_b -Reinstate Monica

A idéia não é representar os parâmetros usando momentos? Como se você tentar estimar o parâmetro da distribuição de Poisson, encontrando a média (primeiro momento), você pode usá-lo como um estimador para o seu parâmetro lambda.

— Denis631 9/08

Respostas:

Uma amostra que consiste em $n$ realizações de variáveis aleatórias distribuídas de forma idêntica e independente é ergódica. Nesse caso, "momentos de amostra" são estimadores consistentes de momentos teóricos da distribuição comum, se os momentos teóricos existem e são finitos.

Isso significa que

\begin{matrix} (1) & {\hat{μ}}_{k} (n) = μ_{k} (θ) + e_{k} (n), e_{k} (n) \overset{p}{\to} 0 \end{matrix}

$\hat \mu_k(n) = \mu_k(\theta) + e_k(n), \;\;\; e_k(n) \xrightarrow{p} 0 \tag{1}$

Então, equiparando o momento teórico ao momento amostral correspondente, temos

{\hat{μ}}_{k} (n) = μ_{k} (θ) \Rightarrow \hat{θ} (n) = μ_{k}^{- 1} ({\hat{μ}}_{k} (n)) = μ_{k}^{- 1} [μ_{k} (θ) + e_{k} (n)]

$\hat \mu_k(n) = \mu_k(\theta) \Rightarrow \hat \theta(n) = \mu_k^{-1}(\hat \mu_k(n)) = \mu_k^{-1}[\mu_k(\theta) + e_k(n)]$

Então ( não depende de ) $\mu_k$ $n$

plim \hat{θ} (n) = plim [μ_{k}^{- 1} (μ_{k} (θ) + e_{k})] = μ_{k}^{- 1} (μ_{k} (θ) + plim e_{k} (n))

$\text{plim} \hat \theta(n) = \text{plim}\big[\mu_k^{-1}(\mu_k(\theta) + e_k)\big] = \mu_k^{-1}\big(\mu_k(\theta) + \text{plim}e_k(n)\big)$

= μ_{k}^{- 1} (μ_{k} (θ) + 0) = μ_{k}^{- 1} μ_{k} (θ) = θ

$=\mu_k^{-1}\big(\mu_k(\theta) + 0\big) = \mu_k^{-1}\mu_k(\theta) = \theta$

Fazemos isso porque obtemos estimadores consistentes para os parâmetros desconhecidos.

— Alecos Papadopoulos
fonte

o que significa "plim"? Não estou familiarizado com "p" em

e_{k} (n) \overset{p}{\to} 0

$e_k(n) \xrightarrow{p} 0$

— usuário 31466

@leaf probability limit

— Alecos Papadopoulos

O que aconteceria se fosse o limite regular em vez do limite de probabilidade?

— usuário 31466

Nos diria que o estimador se torna uma constante, não que tende probabilisticamente a um. Talvez você deva procurar modos de convergência de variáveis aleatórias, a wikipedia tem uma introdução decente, en.wikipedia.org/wiki/Convergence_of_random_variables

— Alecos Papadopoulos

@AlecosPapadopoulos Agreed. Gostaria de saber então se faz sentido colocar algo simples como "... e sob certas condições em "?

μ_{k}

$\mu_k$

— Jerome Baum

Os economometristas chamam isso de "princípio da analogia". Você calcula a média da população como o valor esperado em relação à distribuição da população; você calcula o estimador como o valor esperado em relação à distribuição da amostra e acaba sendo a média da amostra. Você tem uma expressão unificada na qual você conecta a população , diga ou a amostra , de modo que seja um monte de delta -funções e a integrante (Lebesgue) com relação a

T (F) = \int t (x) d F (x)

$T(F) = \int t(x) \, {\rm d}F(x)$

F (x)

$F(x)$

F (x) = \int_{\infty}^{x} \frac{1}{\sqrt{2 π σ^{2}}} \exp [- \frac{(u - μ)^{2}}{2 σ^{2}}] d u

$F(x) = \int_{\infty}^x \frac1{\sqrt{2\pi\sigma^2}} \exp\bigl[ - \frac{(u-\mu)^2}{2\sigma^2} \bigr] \, {\rm d}u$

F_{n} (x) = \frac{1}{n} \sum_{i = 1}^{n} 1 {x_{i} \leq x}

$F_n(x) = \frac 1n \sum_{i=1}^n 1\{ x_i \le x \}$

d F_{n} (x)

${\rm d}F_n(x)$

d F_{n} (x)

${\rm d}F_n(x)$ é a soma da amostra . Se o seu é (fracamente) diferenciável e converge no sentido apropriado para , é fácil estabelecer que a estimativa é consistente, embora, obviamente, sejam necessárias mais discussões. obter digamos normalidade assintótica.

\frac{1}{n} \sum_{i = 1}^{n} t (x_{i})

$\frac1n \sum_{i=1}^n t(x_i)$

T (\cdot)

$T(\cdot)$

F_{n} (x)

$F_n(x)$

F (x)

$F(x)$

— StasK
fonte

Não ouvi isso chamado "princípio da analogia", mas é um padrão de análise econométrica frequentemente usado: conecte o estimador de amostra sempre que o parâmetro populacional for necessário, mas desconhecido.

— Aksakal

@Aksakal: "conecte o estimador de amostra sempre que o parâmetro populacional for necessário, mas desconhecido." Essa abordagem não é simplesmente chamada de estatística?

— user603

@ user603: Não, não. Existem outras abordagens alternativas, e os estimadores de plu-in podem ser ruins.

— b Kjetil Halvorsen