Cálculo da função de ligação canônica no GLM

Eu pensei que a função de ligação canônica vem do parâmetro natural da família exponencial. Digamos, considere a família então é a função de link canônico. Tomemos a distribuição de Bernoulli como exemplo, temos Portanto, a função de link canônico $g(\cdot)$

f (y, θ, ψ) = \exp {\frac{y θ - b (θ)}{a (ψ)} - c (y, ψ)}

$f(y,\theta,\psi)=\exp\left\{\frac{y\theta-b(\theta)}{a(\psi)}-c(y,\psi)\right\}$

θ = θ (μ)

$\theta=\theta(\mu)$

P (Y = y) = μ^{y} (1 - μ)^{1 - y} = \exp {y \log \frac{μ}{1 - μ} + \log (1 - μ)}

$P(Y=y)=\mu^{y}(1-\mu)^{1-y}=\exp\left\{y\log\frac{\mu}{1-\mu}+\log{(1-\mu)}\right\}$

g (μ) = \log \frac{μ}{1 - μ}

$g(\mu)=\log\frac{\mu}{1-\mu}$

Mas quando vejo esse slide , ele afirma que Embora possa ser facilmente verificado para essa distribuição específica (e algumas outras distribuições, como a distribuição de Poisson), Não vejo a equivalência para o caso geral. Alguém pode dar dicas? Obrigado ~

g^{'} (μ) = \frac{1}{V (μ)}

$g'(\mu)=\frac{1}{V(\mu)}$

generalized-linear-model link-function

— ziyuang
fonte

A função de variação para a variável Bernoulli é . Verificamos facilmente que, com o link canônico e $V(\mu) = \mu(1-\mu)$ $g(\mu) = \log \frac{\mu}{1-\mu} = \log \mu - \log(1-\mu)$

g^{'} (μ) = \frac{1}{μ} + \frac{1}{1 - μ} = \frac{1 - μ + μ}{μ (1 - μ)} = \frac{1}{μ (1 - μ)} = \frac{1}{V (μ)} .

$g'(\mu) = \frac{1}{\mu} + \frac{1}{1-\mu} = \frac{1 - \mu + \mu}{\mu(1-\mu)} = \frac{1}{\mu(1-\mu)} = \frac{1}{V(\mu)}.$

Para o caso geral, deriva-se da definição de que consulte por exemplo, as páginas 28-29 em McCullagh e Nelder . Com o link canônico, temos , e a função de variância é definida como , que em termos de se torna Por diferenciação da identidade obtemos

E (Y) = μ = b^{'} (θ) and Var (Y) = b^{″} (θ) a (ψ),

$E(Y) = \mu = b'(\theta) \quad \text{ and } \quad \text{Var}(Y) = b''(\theta) a(\psi),$

g

$g$

θ = g (μ) = g (b^{'} (θ))

$\theta = g(\mu) = g(b'(\theta))$

b^{″} (θ)

$b''(\theta)$

μ

$\mu$

V (μ) = b^{″} (g (μ)) .

$V(\mu) = b''(g(\mu)).$

θ = g (b^{'} (θ))

$\theta = g(b'(\theta))$

1 = g^{'} (b^{'} (θ)) b^{″} (θ) = g^{'} (μ) V (μ),

$1 = g'(b'(\theta)) b''(\theta) = g'(\mu) V(\mu),$

Na construção de funções quase probabilidade é natural para iniciar com a relação entre a média e da variância, dado em termos da função de variância . Nesse contexto, o anti-derivado de pode ser interpretado como uma generalização da função de link, veja, por exemplo, a definição de quase-probabilidade (log) na página 325 (fórmula 9.3 ) em McCullagh e Nelder . $V$ $V(\mu)^{-1}$

— NRH
fonte

Obrigado @NRH. Na verdade, eu sei a equivalência da distribuição de Bernoulli. Estou pensando no caso geral. E obrigado por sua referência, eu vou verificar isso :)

— ziyuang

@ziyuang, o caso geral agora está incluído.

— NRH 20/10/11

@NRH - apenas para adicionar a esta resposta, as fórmulas de média e variância podem ser derivadas pela diferenciação da equação em ambos os lados em relação a (ou equivalente ) A primeira derivada fornece a média, a segunda fornece a variação.

\int f (y, θ, ψ) d y = 1

$\int f(y,\theta,\psi)dy=1$

θ

$\theta$

μ

$\mu$

— probabilityislogic

Obrigado. E eu encontrei outro link de referência: fedc.wiwi.hu-berlin.de/xplore/ebooks/html/spm/…

— ziyuang