O que significa a pontuação do Akaike Information Criterion (AIC) de um modelo?

Eu já vi algumas perguntas aqui sobre o que isso significa em termos leigos, mas estas são muito leigas para o meu propósito aqui. Estou tentando entender matematicamente o que significa a pontuação da AIC.

Mas, ao mesmo tempo, não quero uma prova de rigor que me faça não ver os pontos mais importantes. Por exemplo, se isso fosse cálculo, eu ficaria feliz com infinitesimais, e se isso fosse teoria da probabilidade, eu ficaria feliz sem a teoria da medida.

Minha tentativa

lendo aqui e com alguma anotação, é o critério AIC do modelo no conjunto de dados seguinte maneira: onde é o número de parâmetros de modelo , e é o valor da função de probabilidade máxima de modelo no conjunto de dados . $\text{AIC}_{m,D}$ $m$ $D$

{AIC}_{m, D} = 2 k_{m} - 2 \ln (L_{m, D})

$\text{AIC}_{m,D} = 2k_m - 2 \ln(L_{m,D})$

k_{m}

$k_m$

m

$m$

L_{m, D}

$L_{m,D}$

m

$m$

D

$D$

Aqui está o meu entendimento do que implica acima:

m = \underset{θ}{arg max} Pr (D | θ)

$m = \underset{\theta}{\text{arg max}\,} \Pr(D|\theta)$

Deste jeito:

$k_m$ é o número de parâmetros de $m$ .
$L_{m,D} = \Pr(D|m) = \mathcal{L}(m|D)$ .

Vamos agora reescrever AIC:

\begin{aligned} {AIC}_{m, D} = & 2 k_{m} - 2 \ln (L_{m, D}) \\ = & 2 k_{m} - 2 \ln (Pr (D | m)) \\ = & 2 k_{m} - 2 \log_{e} (Pr (D | m)) \end{aligned}

$\begin{split} \text{AIC}_{m,D} =& 2k_m - 2 \ln(L_{m,D})\\ =& 2k_m - 2 \ln(\Pr(D|m))\\ =& 2k_m - 2 \log_e(\Pr(D|m))\\ \end{split}$

Obviamente, $\Pr(D|m)$ é a probabilidade de observar o conjunto de dados $D$ no modelo $m$ . Portanto, quanto melhor o modelo $m$ se ajustar ao conjunto de dados $D$ , maior será o $\Pr(D|m)$ e, portanto, menor será o termo $-2\log_e(\Pr(D|m))$ .

Tão claramente que a AIC recompensa modelos que se encaixam em seus conjuntos de dados (porque menor $\text{AIC}_{m,D}$ é melhor).

Por outro lado, o termo $2k_m$ pune claramente modelos com mais parâmetros, tornando $\text{AIC}_{m,D}$ maior.

Em outras palavras, a AIC parece ser uma medida que:

Recompensa modelos precisos (aqueles que se encaixam melhor em $D$ ) logaritmicamente. Por exemplo, recompensa o aumento do condicionamento físico de $0.4$ a $0.5$ mais do que recompensa o aumento do condicionamento físico de $0.8$ a $0.9$ . Isso é mostrado na figura abaixo.
Recompensa a redução nos parâmetros linearmente. Portanto, a redução nos parâmetros de para é recompensada tanto quanto recompensa a redução de para . $9$ $8$ $2$ $1$

Em outras palavras (novamente), a AIC define uma troca entre a importância da simplicidade e a importância do condicionamento físico .

Em outras palavras (novamente), a AIC parece sugerir que:

A importância do condicionamento físico diminui.
Mas a importância da simplicidade nunca diminui, mas é sempre sempre importante.

Q1: Mas uma pergunta é: por que devemos nos preocupar com essa troca específica de simplicidade de condicionamento físico?

P2: Por que e por que ? Por que não apenas: ou seja, deve aparecer em y seja igualmente útil para e possa servir para comparar relativamente diferentes modelos (ele não é redimensionado em ; precisamos disso?). $2k$ $2 \log_e(\ldots)$

\begin{aligned} {AIC}_{m, D} = & 2 k_{m} - 2 \ln (L_{m, D}) \\ = & 2 (k_{m} - \ln (L_{m, D})) \\ \frac{{AIC}_{m, D}}{2} = & k_{m} - \ln (L_{m, D}) \\ {AIC}_{m, D, SIMPLE} = & k_{m} - \ln (L_{m, D}) \end{aligned}

$\begin{split} \text{AIC}_{m,D} =& 2k_m - 2 \ln(L_{m,D})\\ =& 2(k_m - \ln(L_{m,D}))\\ \frac{\text{AIC}_{m,D}}{2} =& k_m - \ln(L_{m,D})\\ \text{AIC}_{m,D,\text{SIMPLE}} =& k_m - \ln(L_{m,D})\\ \end{split}$

{AIC}_{m, D, SIMPLE}

$\text{AIC}_{m,D,\text{SIMPLE}}$

{AIC}_{m, D}

$\text{AIC}_{m,D}$

2

$2$

Q3: Como isso se relaciona com a teoria da informação? Alguém poderia derivar isso de um começo teórico da informação?

— homem das cavernas
fonte

O que sua notação em significa? Você está sugerindo algo sobre a escolha do modelo lá? O que você tinha acima não significa realmente que a AIC exige que você escolha um modelo. Q2, como você diz, é algo bastante arbitrário em algum sentido, mas vem de fazer da AIC uma estimativa para a divergência Kullback-Leibler, que também se relaciona à resposta para Q1 e dá algum significado a quantidades como .

m = \arg max_{θ} P r (D | θ)

$m=\arg \max_\theta Pr(D|\theta)$

\exp (({AIC}_{m} - min ({AIC}_{1}, \dots, {AIC}_{M})) / 2)

$\exp((\text{AIC}_m-\min(\text{AIC}_1,\ldots,\text{AIC}_M))/2)$

— Björn

{arg max}_{θ} Pr (D | θ)

$\text{arg max}_{\theta} \Pr(D|\theta)$ significa continuar procurando muitos s até encontrar um que minimize a probabilidade . Cada é uma tupla / vector de parâmetros que define nosso modelo que tenta explicar conjunto de dados . Então, basicamente, ele diz: temos o conjunto de dados , qual é a probabilidade de ele ter sido gerado por um modelo parametrizado por ? Nosso modelo é essencialmente que resolve esse problema de maximização.

θ

$\theta$

Pr (D | θ)

$\Pr(D|\theta)$

θ

$\theta$

D

$D$

D

$D$

θ

$\theta$

m

$m$

θ

$\theta$

— homem das cavernas

Desculpe, mas você está procurando vários modelos (desde que você escreve ) ou está falando da estimativa de probabilidade máxima ? Observe também que é a probabilidade dos dados surgirem sob o modelo fornecido e para os parâmetros fornecidos, não a probabilidade de que os dados foram gerados por esse modelo parametrizado por .

m = \dots

$m=\ldots$

\hat{θ} := \arg max_{θ} P_{given model} (D | θ)

$\hat{\theta} := \arg\max_\theta P_\text{given model}(D|\theta)$

P_{given model} (D | θ)

$P_\text{given model}(D|\theta)$

θ

$\theta$

— Björn

MLE é o que eu quero dizer. Mas estou apenas tentando dizer que os parâmetros tupla

são tão abrangentes que também definem o modelo. Também posso ter vários modelos, digamos

cada um com uma pontuação AIC diferente

. Estou apenas inventando essa notação porque acho que é mais simples. Estou sendo terrivelmente errado ou desnecessariamente confundindo isso? (e obrigado por me corrigir sobre o que os meios MLE)

θ

$\theta$

m_{1}, m_{2}

$m_1,m_2$

{AIC}_{1}, {AIC}_{2}

$\text{AIC}_1, \text{AIC}_2$

— homem das cavernas

Uma derivação da AIC como uma aproximação à perda esperada de informações de KL é dada em Pawitan (2001), In All Likelihood , Ch 13.

— Scortchi - Reinstate Monica

Respostas:

Essa pergunta do homem das cavernas é popular, mas não houve resposta por meses até a minha controversa . Pode ser que a resposta real abaixo não seja, por si só, controversa, apenas que as perguntas sejam "carregadas", porque o campo parece (pelo menos para mim) ser preenchido por acólitos da AIC e da BIC que preferem usar OLS do que os métodos uns dos outros. Observe todas as suposições listadas e restrições impostas aos tipos de dados e métodos de análise e comente-as; conserte isso, contribua. Até agora, algumas pessoas muito inteligentes contribuíram, e está sendo feito um progresso lento. Reconheço contribuições de Richard Hardy e GeoMatt22, palavras amáveis de Antoni Parellada e tentativas valentes de Cagdas Ozgenc e Ben Ogorek de relacionar a divergência de KL com uma divergência real.

Antes de começarmos, vamos revisar o que é AIC, e uma fonte para isso é Pré - requisitos para comparação de modelos AIC e outra é de Rob J Hyndman . Especificamente, o AIC é calculado para ser igual a

2 k - 2 \log (L (θ)),

$2k - 2 \log(L(\theta))\,,$

$k$ $L(\theta)$ $2k$ $2\log(L(\theta))$ você escolhe usar. Por exemplo, para resolver a AIC para resíduos distribuídos pelo Student-t, poderíamos usar a solução de probabilidade máxima para Student-t . A probabilidade logarítmica normalmente aplicada à AIC é derivada da probabilidade logarítmica gaussiana e é dada por

\log (L (θ)) = - \frac{| D |}{2} \log (2 π) - \frac{1}{2} \log (| K |) - \frac{1}{2} (x - μ)^{T} K^{- 1} (x - μ),

$\log(L(\theta)) =-\frac{|D|}{2}\log(2\pi) -\frac{1}{2} \log(|K|) -\frac{1}{2}(x-\mu)^T K^{-1} (x-\mu),$

$K$ $|D|$ $\mu$ $x$ $K>>|D|>2$ $K>|D|$ $K>>|D|$ $K$ $|D|$ $_c$ veja o segundo parágrafo da resposta ao segundo trimestre abaixo. Essa proliferação de "medidas" apenas reforça a noção de que a AIC é um índice. No entanto, recomenda-se cautela ao usar a palavra "i", já que alguns advogados da AIC equiparam o uso da palavra "índice" com o mesmo carinho que pode ser atribuído a se referir à sua ontogenia como extraconjugal.

Q1: Mas uma pergunta é: por que devemos nos preocupar com essa troca específica de simplicidade de condicionamento físico?

Responda em duas partes. Primeiro a pergunta específica. Você deve se importar apenas porque foi assim que foi definido. Se você preferir, não há razão para não definir um CIC; como critério de informação do homem das cavernas, não será o AIC, mas o CIC produziria as mesmas respostas que o AIC, não afetando a troca entre qualidade de ajuste e postura de simplicidade. Qualquer constante que pudesse ter sido usada como multiplicador da AIC, inclusive uma vez, teria que ter sido escolhida e respeitada, pois não há um padrão de referência para impor uma escala absoluta. No entanto, a adesão a uma definição padrão não é arbitrária no sentido de que há espaço para uma e apenas uma definição, ou "convenção", para uma quantidade, como AIC, que é definida apenas em uma escala relativa. Veja também o pressuposto 3 da AIC, abaixo.

$_c$

\begin{aligned} A I C_{c} & = A I C + \frac{2 k (k + 1)}{n - k - 1} \\ = \frac{2 k n}{n - k - 1} - 2 \ln (L) \end{aligned},

$\begin{align}AIC_c &= AIC + \frac{2k(k + 1)}{n - k - 1}\\ &= \frac{2kn}{n-k-1} - 2 \ln{(L)}\end{align} \,,$

$n$ $_c$ . Em geral, qualquer método de avaliação da adequação de um modelo terá suas vantagens e desvantagens. Meu conselho seria testar o desempenho de qualquer método de seleção de modelo para sua aplicação à metodologia de regressão de dados com mais vigor do que testar os próprios modelos. Alguma razão para duvidar? Sim, deve-se tomar cuidado ao construir ou selecionar qualquer teste de modelo para selecionar métodos metodologicamente adequados. AIC é útil para um subconjunto de avaliações de modelos, para isso, veja o terceiro trimestre, a seguir. Por exemplo, a extração de informações com o modelo A pode ser melhor executada com o método de regressão 1 e para o modelo B com o método de regressão 2, em que o modelo B e o método 2 às vezes produzem respostas não físicas e onde nenhum método de regressão é MLR,

Q3 Como isso se relaciona com a teoria da informação :

Suposição # 1 da MLR. A AIC é baseada nas premissas de aplicabilidade de máxima verossimilhança (MLR) a um problema de regressão. Há apenas uma circunstância em que a regressão ordinária de mínimos quadrados e a regressão de máxima probabilidade foram apontadas para mim como sendo a mesma. Isso seria quando os resíduos da regressão linear de mínimos quadrados ordinários (OLS) são normalmente distribuídos e a MLR tem uma função de perda gaussiana. Em outros casos de regressão linear OLS, para regressão OLS não linear e funções de perda não-Gaussiana, MLR e OLS podem diferir. Existem muitos outros alvos de regressão além de OLS ou MLR ou mesmo qualidade de ajuste e, frequentemente, uma boa resposta tem pouco a ver com, por exemplo, para a maioria dos problemas inversos. Existem tentativas altamente citadas (por exemplo, 1100 vezes) de usar o AIC generalizado para quase-probabilidade, para que a dependência da regressão de máxima probabilidade seja relaxada para admitir funções de perda mais gerais . Além disso, a MLR para Student's-t, embora não na forma fechada, é robusta e convergente . Como as distribuições residuais de Student-t são mais comuns e mais gerais do que as condições gaussianas, inclusive as inclusive, não vejo razão especial para usar a suposição gaussiana da AIC.

Suposição # 2 da MLR. MLR é uma tentativa de quantificar a qualidade do ajuste. Às vezes, é aplicado quando não é apropriado. Por exemplo, para dados de intervalo aparado, quando o modelo usado não é aparado. A qualidade do ajuste é ótima e boa se tivermos uma cobertura completa de informações. Em séries temporais, geralmente não temos informações rápidas o suficiente para entender completamente quais eventos físicos acontecem inicialmente ou que nossos modelos podem não estar completos o suficiente para examinar dados muito precoces. Ainda mais preocupante é que muitas vezes não é possível testar a qualidade do ajuste em momentos muito tardios, por falta de dados. Assim, a qualidade do ajuste pode apenas modelar 30% da área ajustada sob a curva e, nesse caso, estamos julgando um modelo extrapolado com base na localização dos dados e não estamos examinando o que isso significa. Para extrapolar, precisamos olhar não apenas para a qualidade do ajuste das 'quantias', mas também para os derivados dessas quantias que falham e que não temos "bondade" de extrapolação. Assim, técnicas de ajuste como splines B encontram uso porque podem prever com mais suavidade quais são os dados quando os derivados são adequados ou tratamentos alternativos inversos, por exemplo, tratamento integral incorreto em toda a gama de modelos, como Tikhonov adaptável à propagação de erros. regularização.

Outra preocupação complicada, os dados podem nos dizer o que devemos fazer com eles. O que precisamos para a adequação do ajuste (quando apropriado) é ter os resíduos que são distâncias no sentido de que um desvio padrão é uma distância. Ou seja, a qualidade do ajuste não faria muito sentido se um resíduo que fosse duas vezes mais longo que um único desvio padrão também não tivesse o comprimento de dois desvios padrão. A seleção das transformações de dados deve ser investigada antes da aplicação de qualquer método de seleção / regressão de modelo. Se os dados apresentarem erro de tipo proporcional, normalmente não é inapropriado usar o logaritmo antes de selecionar uma regressão, pois transforma desvios padrão em distâncias. Como alternativa, podemos alterar a norma a ser minimizada para acomodar dados proporcionais adequados. O mesmo se aplicaria à estrutura de erros de Poisson, podemos pegar a raiz quadrada dos dados para normalizar o erro ou alterar nossa norma de ajuste. Existem problemas que são muito mais complicados ou até intratáveis se não pudermos alterar a norma de ajuste, por exemplo, estatísticas de contagem de Poisson de decaimento nuclear quando o decaimento de radionuclídeos introduz uma associação exponencial baseada no tempo entre os dados da contagem e a massa real que teria emanava essas contagens se não houvesse decadência. Por quê? Se decairmos corretamente as taxas de contagem, não teremos mais estatísticas de Poisson, e os resíduos (ou erros) da raiz quadrada das contagens corrigidas não serão mais distâncias. Se, em seguida, quisermos realizar um teste de adequação dos dados corrigidos por decaimento (por exemplo, AIC), teríamos que fazê-lo de uma maneira desconhecida para o meu eu humilde. Pergunta aberta aos leitores, se insistirmos no uso da MLR, podemos alterar sua norma para dar conta do tipo de erro dos dados (desejável) ou devemos sempre transformá-los para permitir o uso da MLR (não tão útil)? Observe que o AIC não compara métodos de regressão para um único modelo, compara modelos diferentes para o mesmo método de regressão.

Premissa # 1 da AIC. Parece que a MLR não está restrita a resíduos normais, por exemplo, veja esta pergunta sobre MLR e Student's-t . Em seguida, vamos supor que a MLR seja apropriada para o nosso problema, para rastrearmos seu uso na comparação de valores da AIC em teoria. A seguir, assumimos que temos 1) informações completas, 2) o mesmo tipo de distribuição de resíduos (por exemplo, ambos normais, ambos Student- t ) para pelo menos 2 modelos. Ou seja, temos um acidente em que dois modelos agora devem ter o tipo de distribuição de resíduos. Isso poderia acontecer? Sim, provavelmente, mas certamente nem sempre.

Premissa 2 da AIC. AIC relaciona o logaritmo negativo da quantidade (número de parâmetros no modelo dividido pela divergência de Kullback-Leibler ). Essa suposição é necessária? No papel das funções gerais de perda, é usada uma "divergência" diferente. Isso nos leva a questionar se essa outra medida é mais geral que a divergência de KL, por que não a estamos usando também para a AIC?

As informações incompatíveis para a AIC da divergência de Kullback-Leibler são "Embora ... muitas vezes intuidas como uma maneira de medir a distância entre distribuições de probabilidade, a divergência de Kullback-Leibler não é uma métrica verdadeira". Veremos o porquê em breve.

O argumento KL chega ao ponto em que a diferença entre duas coisas que o modelo (P) e os dados (Q) são

D_{K L} (P ‖ Q) = \int_{X} \log (\frac{d P}{d Q}) \frac{d P}{d Q} d Q,

$D_{\mathrm{KL}}(P\|Q) = \int_X \log\!\left(\frac{{\rm d}P}{{\rm d}Q}\right) \frac{{\rm d}P}{{\rm d}Q} \, {\rm d}Q \,,$

que reconhecemos como entropia de '' P '' em relação a '' Q ''.

$AIC_{data,model 1}<AIC_{data,model 2}$ $<$ . Como é arbitrário, definir a constante como um valor específico como uma questão de definição também não é inadequado.

Suposição # 4 da AIC. Isso significa que a AIC mede a entropia de Shannon ou as informações pessoais . "O que precisamos saber é" A entropia é o que precisamos para uma métrica de informações? "

Para entender o que é "auto-informação", cabe a normalizar as informações em um contexto físico, como qualquer um fará. Sim, quero que uma medida de informação tenha propriedades físicas. Então, como isso seria em um contexto mais geral?

$\Delta G = ΔH – TΔS$ ) relaciona a mudança de energia à mudança na entalpia menos a temperatura absoluta vezes a variação na entropia. A temperatura é um exemplo de um tipo bem-sucedido de conteúdo normalizado de informações, porque se um tijolo quente e um frio forem colocados em contato um com o outro em um ambiente termicamente fechado, o calor fluirá entre eles. Agora, se pularmos nisso sem pensar muito, dizemos que o calor é a informação. Mas é a informação relativa que prediz o comportamento de um sistema. A informação flui até o equilíbrio ser alcançado, mas o equilíbrio de quê? Temperatura, é isso, não calor como na velocidade das partículas de certas massas de partículas, não estou falando de temperatura molecular, estou falando de temperatura bruta de dois tijolos que podem ter massas diferentes, feitos de materiais diferentes, com densidades diferentes etc., e nada disso eu preciso saber, tudo o que preciso saber é que a temperatura bruta é o que equilibra. Portanto, se um tijolo é mais quente, ele tem mais conteúdo de informação relativo e, quando mais frio, menos.

Agora, se me disseram que um tijolo tem mais entropia que o outro, e daí? Isso, por si só, não prevê se ganhará ou perderá entropia quando colocado em contato com outro tijolo. Então, somente a entropia é uma medida útil de informação? Sim, mas somente se estivermos comparando o mesmo bloco consigo mesmo, o termo "auto-informação".

Daí vem a última restrição: Para usar a divergência KL, todos os tijolos devem ser idênticos. Portanto, o que faz da AIC um índice atípico é que ele não é portátil entre conjuntos de dados (por exemplo, tijolos diferentes), o que não é uma propriedade especialmente desejável que possa ser tratada pela normalização do conteúdo das informações. A divergência de KL é linear? Talvez sim, talvez não. No entanto, isso não importa, não precisamos assumir linearidade para usar o AIC e, por exemplo, a entropia em si não acho que esteja linearmente relacionada à temperatura. Em outras palavras, não precisamos de uma métrica linear para usar cálculos de entropia.

Uma boa fonte de informação sobre a AIC está nesta tese . No lado pessimista, isso diz: "Em si, o valor da AIC para um determinado conjunto de dados não tem significado". No lado otimista, isso diz que os modelos que têm resultados próximos podem ser diferenciados suavizando para estabelecer intervalos de confiança e muito mais.

— Carl
fonte

Você poderia indicar a principal diferença entre a nova resposta e a antiga resposta excluída? Parece que há alguma sobreposição.

— Richard Hardy

Eu estava no meio de editar minha resposta por algumas horas quando ela foi excluída. Houve muitas mudanças em relação a quando eu comecei, pois era um trabalho em andamento, exigia muita leitura e reflexão, e meus colegas deste site parecem não se importar com isso, mas não estão ajudando a responder nada. AIC parece bom demais para revisão crítica, como ouso? Concluí minha edição e re-publiquei. Quero saber o que está incorreto na minha resposta. Eu trabalhei duro nisso, tentei ser sincero e ninguém mais se incomodou.

— Carl

Não fique chateado. Minha primeira experiência aqui também foi frustrante, mas depois aprendi a fazer perguntas de maneira apropriada. Manter um tom neutro e evitar opiniões fortes que não se baseiam em fatos concretos seria um bom primeiro passo, IMHO. (Eu upvoted sua pergunta, por sinal, mas ainda hesita sobre a resposta.)

— Richard Hardy

+1 Apenas para o seu preâmbulo. Agora vou continuar lendo a resposta.

— Antoni Parellada

@AntoniParellada Você ajudou apenas mantendo a pergunta de ser excluída, o que eu aprecio. Trabalhar através da AIC tem sido difícil e preciso de ajuda. Claro que algumas das minhas ideias são boas, mas também tenho casco em aftosa, que outras mentes são melhores na captura do que eu

— Carl

$f$ $g$

A divergência de KL é um tópico da teoria da informação e funciona intuitivamente (embora não rigorosamente) como uma medida da distância entre duas distribuições de probabilidade. Na minha explicação abaixo, estou referenciando esses slides de Shuhua Hu. Essa resposta ainda precisa de uma citação para o "resultado principal".

$f$ $g_{\theta}$

d (f, g_{θ}) = \int f (x) \log (f (x)) d x - \int f (x) \log (g_{θ} (x)) d x

$d(f, g_{\theta}) = \int f(x) \log(f(x)) dx -\int f(x) \log(g_{\theta}(x)) dx$

$y$ $f$ $\hat{\theta}(y)$ $\theta$ $\hat{\theta}(y)$ $y$ $L$ $k$ $\theta$

- E_{y} [\int f (x) \log (g_{\hat{θ} (y)} (x)) d x] \approx - \log (L (\hat{θ} (y))) + k .

$-\text{E}_y\left[\int f(x) \log(g_{\hat{\theta}(y)}(x)) \, dx \right] \approx -\log(L(\hat{\theta}(y))) + k.$

$f$ $g_{\hat{\theta}(y)}$

— Ben Ogorek
fonte

Como você sabe, o termo desvio quando aplicado à probabilidade de log é jargão e inexato. Omiti a discussão disso porque apenas a monotonicidade é necessária para que as diferenças da AIC tenham valor comparativo, não linearidade. Portanto, não vejo a relevância de tentar excessivamente "visualizar" algo que provavelmente não existe e, de qualquer maneira, não é necessário.

— Carl

Entendo que o último parágrafo acrescenta um arenque vermelho, e percebo que ninguém precisa estar convencido de que 2 * x é o mesmo que x. Seria justo dizer que a quantidade é multiplicada por 2 "por convenção"?

— Ben Ogorek

Algo parecido. Pessoalmente, eu votaria em "é definido como", porque foi escolhido inicialmente dessa maneira. Ou, para colocar isso em perspectiva temporal, qualquer constante que pudesse ter sido usada, inclusive uma vez, teria que ter sido escolhida e respeitada, pois não há um padrão de referência para impor uma escala.

— Carl

- 2 E [\ln P r (D | θ)] \approx - \frac{2}{N} E [\ln L_{m, D}] + \frac{2 k_{m}}{N} = \frac{1}{N} E [{A I C}_{m, D}]

$-2 \, \mathrm{E}[\ln \mathrm{Pr}(D|\theta)] \approx -\frac{2}{N} \, \mathrm{E}[\ln L_{m,D}] + \frac{2k_m}{N} = \frac{1}{N} E[\mathrm{AIC}_{m,D}]$

k_{m}

$k_m$

m

$m$

L_{m, D}

$L_{m,D}$

$m = \{ \theta \}$

$2k_m/N$

$N$

— jwimberley
fonte