Valor esperado de um logaritmo natural

22

Eu sei com constantes , então, dado , é fácil de resolver. Eu também sei que você não pode aplicar isso quando é uma função não linear, como neste caso , e para resolver isso, eu tenho que fazer uma aproximação com Taylor. Então, minha pergunta é como resolver ?? também me aproximo de Taylor? $E(aX+b) = aE(X)+b$ $a,b$ $E(X)$ $E(1/X) \neq 1/E(X)$ $E(\ln(1+X))$

mathematical-statistics

— Matt
fonte

4

Sim, você pode aplicar o método delta neste caso.

— Michael R. Chernick 29/09/12

5

Você também deve examinar a desigualdade de Jensen.

— Kjetil b halvorsen

27

No papel

YW Teh, D. Newman e M. Welling (2006), um algoritmo de inferência bayesiana variacional em colapso para a alocação de Dirichlet latente , NIPS 2006 , 1353–1360.

uma expansão de Taylor de segunda ordem em torno de é usada para aproximar : $x_0=\mathbb{E}[x]$ $\mathbb{E}[\log(x)]$

E [\log (x)] \approx \log (E [x]) - \frac{V [x]}{2 E [x]^{2}} .

$\mathbb{E}[\log(x)]\approx\log(\mathbb{E}[x])-\frac{\mathbb{V}[x]}{2\mathbb{E}[x]^2} \>.$

Essa aproximação parece funcionar muito bem para a aplicação deles.

Modificar isso levemente para atender à questão em questão gera, pela linearidade da expectativa,

E [\log (1 + x)] \approx \log (1 + E [x]) - \frac{V [x]}{2 (1 + E [x])^{2}} .

$\mathbb{E}[\log(1+x)]\approx\log(1+\mathbb{E}[x])-\frac{\mathbb{V}[x]}{2(1+\mathbb{E}[x])^2} \>.$

No entanto, pode acontecer que o lado esquerdo ou o lado direito não exista enquanto o outro existe e, portanto, deve-se tomar cuidado ao empregar essa aproximação.

— user1149913
fonte

3

Curiosamente, isso pode ser usado para obter uma aproximação à função digamma.

— probabilityislogic

6

Além disso, se você não precisar de uma expressão exata para , muitas vezes o limite fornecido pela desigualdade de Jensen é bom o suficiente: $\text{E}[\log(X + 1)]$

\log [E (X) + 1] \geq E [\log (X + 1)]

$\log [\text{E}(X) + 1] \geq\text{E}[\log(X + 1)]$

— dsaxton
fonte

só queria acrescentar: se nenhum cálculo direto for possível e você observar uma única variável , a desigualdade de jensen é sua única opção para obter qualquer resultado útil. Embora a aproximação de Taylor sugerida possa realmente funcionar na práxis, não há justificativa teórica que possa ser usada para motivar a exclusão dos termos restantes. (o que foi dito: mantenha em mente que a série infinitamente taylor de ln (1 + x) converge somente em um raio | x | <1) de qualquer maneira).

X

$X$

— chRrr

Eu acho que deviam ser desde é baixo côncava.

\geq

$\ge$

\log

$\log$

— Deep North

5

Suponha que tenha densidade de probabilidade . Antes de começar a aproximar, lembre-se de que, para qualquer função mensurável , é possível provar que no sentido de que, se a primeira integral existe, o mesmo acontece com a segunda e eles têm o mesmo valor. $X$ $f_X$ $g$

E [g (X)] = \int g (X) d P = \int_{- \infty}^{\infty} g (x) f_{X} (x) d x,

$E[g(X)]=\int g(X)\,dP = \int_{-\infty}^\infty g(x)\,f_X(x)\,dx \, ,$

— zen
fonte

1

Se a segunda integral existir. Não precisa. Tome a distribuição de Cauchy .

g (x) = x^{2}

$g(x)=x^2$

— precisa saber é o seguinte

Eu acrescentaria uma segunda camada de pediatria dizendo que você realmente precisa de para que a expectativa seja bem definida.

E [| g (X) |] < \infty

$E[|g(X)|]<\infty$

— probabilityislogic

2

@mpiktas - Essa expectativa realmente existe, mas é infinita. Um exemplo melhor é para a distribuição de Cauchy. Essa expectativa depende de como os limites inferior e superior da integração tendem ao infinito.

g (x) = x

$g(x)=x$

— probabilityislogic

2

@ pro: Não, você não precisa dessa condição em seu primeiro comentário, e mesmo em uma situação que pode ser muito relevante para essa pergunta! (+1 para o seu segundo comentário, porém, que era algo que eu tinha sido significado para comentar também.)

— cardeal

2

@ pro: É suficiente , mas se você comparar seu primeiro comentário com o segundo, verá por que não é necessário ! :-)

— cardeal

4

Existem duas abordagens comuns:

Se você conhece a distribuição de , poderá encontrar a distribuição de e, a partir daí, encontrar sua expectativa; alternativamente, você poderá usar a lei do estatístico inconsciente diretamente (ou seja, integrar sobre o domínio de ). $X$ $\ln(1+X)$ $\ln(1+x) f_{X}(x)$ $x$
Como você sugere, se você conhece os primeiros momentos, pode calcular uma aproximação de Taylor.

— Glen_b -Reinstate Monica
fonte