Resíduos de inicialização: estou fazendo certo?

Primeiro de tudo: Pelo que entendi, os resíduos de autoinicialização funcionam da seguinte maneira:

1. Ajustar modelo aos dados
2. Calcular os resíduos
3. Amostra novamente os resíduos e adicione-os a 1.
4. Ajuste o modelo ao novo conjunto de dados de 3.
5. Repita os ntempos, mas sempre adicione os resíduos reamostrados ao ajuste de 1.

Isso está correto até agora?

O que eu quero fazer é algo um pouco diferente:

Quero estimar a incerteza de parâmetro e previsão para um algoritmo que estima alguma variável ambiental.

O que eu tenho é uma série temporal livre de erros (de uma simulação) dessa variável x_true, à qual adiciono algum ruído, x_noisepara gerar um conjunto de dados sintético x. Em seguida, tento encontrar parâmetros ideais ajustando meu algoritmo com a soma dos quadrados sum((x_estimate - x_true)^2)(! Não x_estimate - x!) Como uma função objetiva. Para ver o desempenho do meu algoritmo e criar amostras das distribuições dos meus parâmetros, quero reamostrar x_noise, adicioná-lo x_true, ajustar meu modelo novamente, enxaguar e repetir. Essa é uma abordagem válida para avaliar a incerteza dos parâmetros? Posso interpretar os ajustes nos conjuntos de dados iniciados como incerteza de previsão ou tenho que seguir o procedimento publicado acima?

/ edit: Eu acho que realmente não deixei claro o que meu modelo faz. Pense nisso como algo essencialmente como um método anti-ruído. Não é um modelo preditivo, é um algoritmo que tenta extrair o sinal subjacente de uma série temporal ruidosa de dados ambientais.

/ edit ^ 2: Para os usuários do MATLAB , escrevi alguns exemplos de regressão linear rápida e suja do que quero dizer.

Isto é o que eu acredito que o bootstrapping "comum" de resíduos é (por favor, corrija-me se estiver errado): http://pastebin.com/C0CJp3d1

Isto é o que eu quero fazer: http://pastebin.com/mbapsz4c

Aqui está o algoritmo geral (semi-paramétrico-bootstrap) com mais detalhes:

$\text{B}$ = número de autoinicializações

o modelo:
$y = x\beta + \epsilon$

que sejam os resíduos$\hat{\epsilon}$

1. Execute a regressão e obtenha os estimadores e resíduos . $\hat\beta$$\hat\epsilon$
2. Amostra novamente os resíduos com a substituição e obtenha o vetor residual com boot .$\hat\epsilon_\text{B}$
3. Obtenha a variável dependente de inicialização multiplicando o (s) estimador (es) de (1) pelos regressores originais e adicionando o resíduo inicial: .$y_\text{B} = x\hat\beta + \hat\epsilon_\text{B}$
4. Execute a regressão com as variáveis ​​dependentes de inicialização e os regressores originais, isso fornece ao estimador de inicialização, ou seja, regressão em , isso fornece . x β$y_B$$x$$\hat\beta_\text{B}$
5. Repita o procedimento -vezes, retornando para (2).$\text{B}$

Não tenho certeza se meu entendimento está correto. Mas aqui está minha sugestão para modificar seu código ("inicialização comum de resíduos", linhas 28-34) em:

for i = 2:n_boot  
x_res_boot = x_residuals( randi(n_data,n_data,1) );  
x_boot = x_res_boot+ x_best_fit;  
p_est(:, i) = polyfit( t, x_boot, 1 );  
x_best_fit2 = polyval( p_est(:, i), t );  
x_residuals = x_best_fit2 - x_boot;
x_best_fit=x_best_fit2;
end  

A idéia é que, toda vez que você estiver usando resíduos, não da primeira execução, mas do ajuste de inicialização anterior. Quanto a mim, todos os outros parecem válidos.

Esta é uma versão revisada que foi verificada no MATLAB. Dois erros foram corrigidos.

Para ver o desempenho de um algoritmo em termos de precisão preditiva / erro ao quadrado médio, você provavelmente precisará da inicialização do "otimismo" do Efron-Gong. Isso é implementado para facilitar o uso no rmspacote R. Veja suas funções ols, validate.ols, calibrate.