Interpretação dos números AIC e BIC

23

Estou procurando exemplos de como interpretar as estimativas AIC (critério de informação de Akaike) e BIC (critério de informação bayesiano).

As diferenças negativas entre os BICs podem ser interpretadas como as chances posteriores de um modelo em relação ao outro? Como posso colocar isso em palavras? Por exemplo, o BIC = -2 pode implicar que as chances do melhor modelo em relação ao outro modelo são aproximadamente ? $e^2= 7.4$

Qualquer conselho básico é apreciado por esse neófito.

interpretation aic bic

— Juan
fonte

Dê uma olhada no capítulo 2. A Seção 2.6 - que está parcialmente disponível nos livros google - pode ajudá-lo em particular. books.google.se/... (Ref: Selecção do modelo e Multi-Modelo de Inferência por Kenneth P. Burnham e David R. Anderson Springer Verlag.)

— Boscovich

6

para o modelo de umaa prioriconjunto modelo pode ser recaled para , onde o melhor modelo do conjunto modelo terá . Podemos usar o valores para estimar a força de evidência ( ) para os todos os modelos no conjunto modelo onde: $AIC$ $i$ $\mathsf{\Delta}_i=AIC_i-minAIC$ $\mathsf{\Delta}=0$ $\mathsf{\Delta}_i$ $w_i$ Isso costuma ser chamado de "peso da evidência" para o modelodado oconjunto de modelos apriori. Comoaumenta,diminui modelo sugerindoé menos plausível. Estesvalores pode ser interpretado como a probabilidade de que modeloé o melhor modelo dada apriorimodelo set. Também poderíamos calcular a probabilidade relativa do modeloversus o modelocomo

W_{Eu} = \frac{e^{(- 0,5 Δ_{Eu})}}{\sum_{r = 1}^{R} e^{(- 0,5 Δ_{Eu})}} .

$w_i = \frac{e^{(-0.5\mathsf{\Delta}_i)}}{\sum_{r=1}^Re^{(-0.5\mathsf{\Delta}_i)}}.$

i

$i$

Δ_{i}

$\mathsf{\Delta}_i$

w_{i}

$w_i$

i

$i$

w_{i}

$w_i$

i

$i$

i

$i$

j

$j$

. Por exemplo, se

e

, poderíamos dizer que o modelo

é 8 vezes mais provável que o modelo

.

w_{i} / w_{j}

$w_i/w_j$

w_{i} = 0.8

$w_i = 0.8$

w_{j} = 0.1

$w_j = 0.1$

i

$i$

j

$j$

Observe que quando o modelo 1 é o melhor modelo (menor ). Burnham e Anderson (2002) chamam isso de razão de evidência. Esta tabela mostra como a taxa de evidência muda em relação ao melhor modelo. $w_1/w_2 = e^{0.5\Delta_2}$ $AIC$

Information Loss (Delta)    Evidence Ratio
0                           1.0
2                           2.7
4                           7.4
8                           54.6
10                          148.4
12                          403.4
15                          1808.0

Referência

Burnham, KP e DR Anderson. 2002. Seleção de modelos e inferência multimodal: uma abordagem teórica da informação prática. Segunda edição. Springer, Nova York, EUA.

Anderson, DR 2008. Inferência baseada em modelo nas ciências da vida: uma cartilha sobre evidências. Springer, Nova York, EUA.

— RioRaider
fonte

você se importaria de esclarecer a que

se refere, principalmente porque o índice da soma não aparece dentro da soma. Does

abrangem o espaço do modelo?

r

$r$

R

$R$

— Dopexxx # 16/18

Existem modelos R no conjunto de modelos.

— RioRaider 17/10/19

3

Eu não acho que exista uma interpretação simples da AIC ou da BIC assim. Ambas são quantidades que assumem a probabilidade do log e aplicam uma penalidade a ela pelo número de parâmetros que estão sendo estimados. As penalidades específicas são explicadas para a AIC por Akaike em seus trabalhos a partir de 1974. A BIC foi selecionada por Gideon Schwarz em seu trabalho de 1978 e é motivada por um argumento bayesiano.

— Michael R. Chernick
fonte

2

A penalidade pode ser interpretada como modelos favoráveis anteriores de um tamanho específico. Se você adotar o anterior (que tem algumas justificativas teóricas da informação), poderá calcular uma razão de chances posterior diretamente dos valores de IC. Além disso, o @RioRaider menciona os pesos Akaike, que oferecem a probabilidade de um determinado modelo ser o melhor modelo do conjunto em termos de divergência de KL. ( ref. veja p. 800).

— David J. Harris

1

Você provavelmente usa o BIC como resultado da aproximação ao fator Bayes. Portanto, você não considera (mais ou menos) uma distribuição anterior. O BIC em um estágio de seleção de modelo é útil quando você compara os modelos. Para entender completamente o fator BIC, Bayes, recomendo a leitura de um artigo (seção 4): http://www.stat.washington.edu/raftery/Research/PDF/socmeth1995.pdf para complementar o conhecimento com: http: // www .stat.washington.edu / raftery / Pesquisa / PDF / kass1995.pdf

— Robert
fonte