Regressão linear com erros de Laplace

Considere um modelo de regressão linear:

$$y_i = \mathbf x_i \cdot \boldsymbol \beta + \varepsilon _i, \, i=1,\ldots ,n,$$ que $\varepsilon _i \sim \mathcal L(0, b)$ , ou seja , A distribuição de Laplace com 0 parâmetro de $0$média $b$ , são todos independentes entre si. Considere uma estimativa de probabilidade máxima de parâmetro desconhecido $\boldsymbol \beta$ : $$-\log p(\mathbf y \mid \mathbf X, \boldsymbol \beta, b) = n\log (2b) + \frac 1b\sum _{i=1}^n |\mathbf x_i \cdot \boldsymbol \beta - y_i|$$ a partir do qual $$\hat{\boldsymbol \beta}_{\mathrm {ML}} = {\arg\min }_{\boldsymbol \beta \in \mathbb R^m} \sum _{i=1}^n |\mathbf x_i \cdot \boldsymbol \beta - y_i|$$

Como encontrar uma distribuição de resíduos $\mathbf y - \mathbf X\hat{\boldsymbol \beta}_{\mathrm {ML}}$ neste modelo?

Presume-se que os resíduos (realmente chamados de erros) sejam distribuídos aleatoriamente com uma distribuição exponencial dupla (distribuição de Laplace). Se você estiver ajustando esses pontos de dados x e y, faça-o numericamente. Você primeiro calcula beta-hat_ML para esses pontos como um todo, usando a fórmula publicada acima. Isso determinará uma linha através dos pontos. Subtraia o valor y de cada ponto do valor y da linha nesse valor x. Este é o resíduo para esse ponto. Os resíduos de todos os pontos podem ser usados ​​para construir um histograma que fornecerá a distribuição dos resíduos.

Há um bom artigo matemático sobre Yang (2014) .

--Lee