Valor esperado de

Estou curioso sobre a declaração feita na parte inferior da primeira página neste texto sobre o $R^2_\mathrm{adjusted}$ ajuste

R_{a d j u s t e d}^{2} = 1 - (1 - R^{2}) (\frac{n - 1}{n - m - 1}) .

$R^2_\mathrm{adjusted} =1-(1-R^2)\left({\frac{n-1}{n-m-1}}\right).$

O texto declara:

A lógica do ajuste é a seguinte: na regressão múltipla comum, um preditor aleatório explica em média uma proporção da variação da resposta, de modo que preditores aleatórios explicam juntos, em média, da variação da resposta; em outras palavras, o valor esperado de é . A aplicação da fórmula [ ] a esse valor, onde todos os preditores são aleatórios, fornece ". $1/(n – 1)$ $m$ $m/(n – 1)$ $R^2$ $\mathbb{E}(R^2) = m/(n – 1)$ $R^2_\mathrm{adjusted}$ $R^2_\mathrm{adjusted} = 0$

Essa parece ser uma motivação muito simples e interpretável para . No entanto, não consegui descobrir que para um único preditor aleatório (isto é, não correlacionado). $R^2_\mathrm{adjusted}$ $\mathbb{E}(R^2)=1/(n – 1)$

Alguém poderia me apontar na direção certa aqui?

— gregory_britten
fonte

Caso o link fique inoperante no futuro, você poderia fornecer uma referência completa? Obrigado.

— Richard Hardy

Esta é uma estatística matemática precisa. Veja este post para obter a derivação da distribuição de $R^2$ , sob a hipótese de que todos os regressores (barra o termo constante) não estão correlacionadas com a variável dependente ( "preditores aleatórias").

Essa distribuição é Beta, com sendo o número de preditores sem contar o termo constante, e $m$ $n$ o tamanho da amostra,

R^{2} \sim B e t a (\frac{m}{2}, \frac{n - m - 1}{2})

$R^2 \sim Beta\left (\frac {m}{2}, \frac {n-m-1}{2}\right)$

e entao

E (R^{2}) = \frac{m / 2}{(m / 2) + [(n - m - 1) / 2]} = \frac{m}{n - 1}

$E(R^2) = \frac {m/2}{(m/2)+[(n-m-1)/2]} = \frac{m}{n-1}$

Esta parece ser uma maneira inteligente de "justificar" a lógica por trás da ajustado : Se de fato todos os regressores não são correlacionadas, então o ajustado é "em média" zero. $R^2$ $R^2$

— Alecos Papadopoulos
fonte

Apenas o pouco de informação que eu precisava! Obrigado! E viva a Stack Exchange!

— 15Publicado em

Eu estaria interessado no caso em que nem todos os regressores estão correlacionados com a variável dependente. Você tem alguma referência sobre isso?

— Olivier

@ Olivier Não, eu não tenho medo. Procure em "Teste F para significância da regressão, distribuição sob a alternativa" ou algo parecido.

— Alecos Papadopoulos