Variação de uma função de uma variável aleatória

Digamos que temos a variável aleatória com variação e média conhecidas. A questão é: qual é a variação de para alguma função dada f. O único método geral que eu conheço é o método delta, mas fornece apenas uma aproximação. Agora estou interessado em , mas também seria bom conhecer alguns métodos gerais. $X$ $f(X)$ $f(x)=\sqrt{x}$

Editar 29.12.2010
Eu fiz alguns cálculos usando a série Taylor, mas não tenho certeza se eles estão corretos, por isso ficaria feliz se alguém pudesse confirmá- los.

Primeiro, precisamos aproximar $E[f(X)]$
$E[f(X)] \approx E[f(\mu)+f'(\mu)(X-\mu)+\frac{1}{2}\cdot f''(\mu)(X-\mu)^2]=f(\mu)+\frac{1}{2}\cdot f''(\mu)\cdot Var[X]$

Agora podemos aproximar $D^2 [f(X)]$
$E[(f(X)-E[f(X)])^2] \approx E[(f(\mu)+f'(\mu)(X-\mu)+\frac{1}{2}\cdot f''(\mu)(X-\mu)^2 -E[f(X)])^2]$

Usando a aproximação de $E[f(X)]$ , sabemos que $f(\mu)-Ef(x) \approx -\frac{1}{2}\cdot f''(\mu)\cdot Var[X]$

Usando isso, obtemos:
$D^2[f(X)] \approx \frac{1}{4}\cdot f''(\mu)^2\cdot Var[X]^2-\frac{1}{2}\cdot f''(\mu)^2\cdot Var[X]^2 + f'(\mu)^2\cdot Var[X]+\frac{1}{4}f''(\mu)^2\cdot E[(X-\mu)^4] +\frac{1}{2}f'(\mu)f''(\mu)E[(X-\mu)^3]$
$D^2 [f(X)] \approx \frac{1}{4}\cdot f''(\mu)^2 \cdot [D^4 X-(D^2 X)^2]+f'(\mu)\cdot D^2 X +\frac{1}{2}f'(\mu)f''(\mu)D^3 X$

variance random-variable delta-method

— Tomek Tarczynski
fonte

O método Delta é usado para distribuições assintóticas. Você não pode usar quando você possui apenas uma variável aleatória.

— Mvctas

@mpiktas: Na verdade, eu não sei muito sobre o método Delta, acabei de ler algo na wikipedia. Esta é uma citação da wiki: "O método delta usa expansões de Taylor de segunda ordem para aproximar a variação de uma função de uma ou mais variáveis aleatórias".

— Tomek Tarczynski

parece que a wikipedia tem exatamente o que você deseja: en.wikipedia.org/wiki/… . Reeditarei minha resposta, parece que subestimei a expansão de Taylor.

— mpiktas

Tomek, se você não concorda com as edições que foram feitas (não por mim), sempre pode alterá-las novamente ou revertê-las, ou apenas apontar as diferenças e pedir esclarecimentos.

— Glen_b -Reinstate Monica

@Glen_b: Eu de acordo com eles E (X-mu) = 0 não implyt que E [(X-mu) ^ 3] = 0.

— Tomek Tarczynski

Atualizar

Eu subestimei expansões de Taylor. Eles realmente funcionam. Eu assumi que a integral do termo restante pode ser ilimitada, mas com um pouco de trabalho, podemos mostrar que esse não é o caso.

A expansão de Taylor trabalha para funções em intervalo fechado limitado. Para variáveis aleatórias com variância finita, a desigualdade de Chebyshev fornece

P (| X - E X | > c) \leq \frac{V uma r (X)}{c}

$P(|X-EX|>c)\le \frac{Var(X)}{c}$

Portanto, para qualquer , podemos encontrar suficientemente grande para que $\varepsilon>0$ $c$

P (X \in [E X - c, E X + c]) = P (| X - E X | \leq c) < 1 - ε

$P(X\in [EX-c,EX+c])=P(|X-EX|\le c)<1-\varepsilon$

Primeiro vamos estimar . Temos em que é a função de distribuição para . $Ef(X)$

\begin{aligned} E f (X) = \int_{| x - E X | \leq c} f (x) d F (x) + \int_{| x - E X | > c} f (x) d F (x) \end{aligned}

$\begin{align} Ef(X)=\int_{|x-EX|\le c}f(x)dF(x)+\int_{|x-EX|>c}f(x)dF(x) \end{align}$

F (x)

$F(x)$

X

$X$

Como o domínio da primeira integral é o intervalo que é um intervalo fechado limitado, podemos aplicar a expansão de Taylor: onde , e a igualdade vale para todos os . Tomei apenas 4 termos na expansão de Taylor, mas, em geral, podemos pegar quantos quisermos, desde que a função seja suave o suficiente. $[EX-c,EX+c]$

\begin{aligned} f (x) = f (E X) + f^{'} (E X) (x - E X) + \frac{f^{″} (E X)}{2} (x - E X)^{2} + \frac{f^{‴} (α)}{3} (x - E X)^{3} \end{aligned}

$\begin{align} f(x)=f(EX)+f'(EX)(x-EX)+\frac{f''(EX)}{2}(x-EX)^2+\frac{f'''(\alpha)}{3}(x-EX)^3 \end{align}$

α \in [E X - c, E X + c]

$\alpha\in [EX-c,EX+c]$

x \in [E X - c, E X + c]

$x\in[EX-c,EX+c]$

f

$f$

Substituindo esta fórmula pela anterior, obtemos

\begin{aligned} E f (X) & = \int_{| x - E X | \leq c} f (E X) + f^{'} (E X) (x - E X) + \frac{f^{″} (E X)}{2} (x - E X)^{2} d F (x) \\ + \int_{| x - E X | \leq c} \frac{f^{‴} (α)}{3} (x - E X)^{3} d F (x) + \int_{| x - E X | > c} f (x) d F (x) \end{aligned}

$\begin{align} Ef(X)&=\int_{|x-EX|\le c}f(EX)+f'(EX)(x-EX)+\frac{f''(EX)}{2}(x-EX)^2dF(x)\\\\ &+\int_{|x-EX|\le c}\frac{f'''(\alpha)}{3}(x-EX)^3dF(x) +\int_{|x-EX|>c}f(x)dF(x) \end{align}$ Agora podemos aumentar o domínio da integração para obter a seguinte fórmula

\begin{aligned} E f (X) & = f (E X) + \frac{f^{″} (E X)}{2} E (X - E X)^{2} + R_{3} \end{aligned}

$\begin{align} Ef(X)&=f(EX)+\frac{f''(EX)}{2}E(X-EX)^2+R_3\\\\ \end{align}$ onde Agora, sob algumas condições momentâneas, podemos mostrar que o segundo termo desse termo restante é tão grande quanto que é pequeno. Infelizmente, o primeiro termo permanece e, portanto, a qualidade da aproximação depende de e do comportamento da terceira derivada de em intervalos limitados. Essa aproximação deve funcionar melhor para variáveis aleatórias com .

\begin{aligned} R_{3} & = \frac{f^{‴} (α)}{3} E (X - E X)^{3} + \\ + \int_{| x - E X | > c} (f (E X) + f^{'} (E X) (x - E X) + \frac{f^{″} (E X)}{2} (x - E X)^{2} + f (X)) d F (x) \end{aligned}

$\begin{align} R_3&=\frac{f'''(\alpha)}{3}E(X-EX)^3+\\\\ &+\int_{|x-EX|>c}\left(f(EX)+f'(EX)(x-EX)+\frac{f''(EX)}{2}(x-EX)^2+f(X)\right)dF(x) \end{align}$

P (| X - E X | > c)

$P(|X-EX|>c)$

E (X - E X)^{3}

$E(X-EX)^3$

f

$f$

E (X - E X)^{3} = 0

$E(X-EX)^3=0$

Agora, para a variação, podemos usar a aproximação de Taylor para , subtrair a fórmula para e quadrar a diferença. Então $f(x)$ $Ef(x)$

$E(f(x)-Ef(x))^2=(f'(EX))^2Var(X)+T_3$

onde envolve os momentos para . Também podemos chegar a essa fórmula usando apenas a expansão de Taylor de primeira ordem, ou seja, usando apenas a primeira e a segunda derivadas. O termo do erro seria semelhante. $T_3$ $E(X-EX)^k$ $k=4,5,6$

Outra maneira é expandir : $f^2(x)$

\begin{aligned} f^{2} (x) & = f^{2} (E X) + 2 f (E X) f^{'} (E X) (x - E X) \\ + [(f^{'} (E X))^{2} + f (E X) f^{″} (E X)] (X - E X)^{2} + \frac{(f^{2} (β))^{‴}}{3} (X - E X)^{3} \end{aligned}

$\begin{align} f^2(x)&=f^2(EX)+2f(EX)f'(EX)(x-EX)\\\\ &+[(f'(EX))^2+f(EX)f''(EX)](X-EX)^2+\frac{(f^2(\beta))'''}{3}(X-EX)^3 \end{align}$

Da mesma forma, obtemos então que é semelhante ao .

\begin{aligned} E f^{2} (x) = f^{2} (E X) + [(f^{'} (E X))^{2} + f (E X) f^{″} (E X)] V a r (X) + {\tilde{R}}_{3} \end{aligned}

$\begin{align*} Ef^2(x)=f^2(EX)+[(f'(EX))^2+f(EX)f''(EX)]Var(X)+\tilde{R}_3 \end{align*}$

{\tilde{R}}_{3}

$\tilde{R}_3$

R_{3}

$R_3$

A fórmula da variância se torna onde tem apenas terceiros momentos e acima.

\begin{aligned} V a r (f (X)) = [f^{'} (E X)]^{2} V a r (X) - \frac{[f^{″} (E X)]^{2}}{4} V a r^{2} (X) + {\tilde{T}}_{3} \end{aligned}

$\begin{align} Var(f(X))=[f'(EX)]^2Var(X)-\frac{[f''(EX)]^2}{4}Var^2(X)+\tilde{T}_3 \end{align}$

{\tilde{T}}_{3}

$\tilde{T}_3$

— mpiktas
fonte

Eu não preciso saber o valor exato da variação, a aproximação deve funcionar para mim.

— Tomek Tarczynski

De fato, a fórmula aproximada para no OP é frequentemente usada na análise de risco em economia, finanças e seguros.

E [f (X)]

$\mathbb{E}[f(X)]$

— Raskolnikov

@Raskolnikov, sim, mas contradiz meu conhecimento admitavelmente obsoleto da expansão de Taylor. Claramente, o termo restante deve ser levado em consideração. Se a variável aleatória estiver delimitada, não há problema, pois os polinômios aproximam funções contínuas no intervalo delimitado uniformemente. Mas lidamos com variáveis aleatórias ilimitadas. É claro que, para o normal aleatório, podemos dizer que ele é efetivamente limitado, mas ainda em geral, algumas surpresas desagradáveis podem surgir ou não. Vou consertar minha resposta quando tiver a resposta clara.

— mpiktas

@Tomek Tarczynski, o terceiro derivado de chega a zero rapidamente para o grande , mas é ilimitado perto de zero. Portanto, se você escolher uma distribuição uniforme com suporte próximo de zero, o prazo restante poderá aumentar.

\sqrt{x}

$\sqrt{x}$

x

$x$

— Mvctas

Observe que no seu link a igualdade é aproximada. Nesta resposta, todas as equações são exatas. Além disso, para a variação, observe que o primeiro derivado é estimado no , e não . Também nunca afirmei que isso não funcionará para , apenas que para a fórmula aproximada pode ter um erro enorme se o domínio estiver próximo de zero.

E X

$EX$

x

$x$

\sqrt{x}

$\sqrt{x}$

\sqrt{x}

$\sqrt{x}$

X

$X$

— mpiktas

Conhecer os dois primeiros momentos de X (média e variância) não é suficiente, se a função f (x) for arbitrária (não linear). Não apenas para calcular a variação da variável transformada Y, mas também para sua média. Para ver isso - e talvez atacar seu problema -, você pode supor que sua função de transformação tenha uma expansão de Taylor em torno da média de X e trabalhe a partir daí.

— leonbloy
fonte