Descobri que, para um modelo de regressão linear simples, o OLS e o método de máxima verossimilhança (assumindo a distribuição Normal) fornecem a mesma saída (valores de parâmetros). A partir disso, podemos dizer que o OLS também faz suposições implícitas sobre a distribuição Normal ou vice-versa? Não estou interessado em saber por que os dois produzem o mesmo valor, mas qual deles faz suposições menos rigorosas sobre os dados?
Respostas:
O OLS não faz uma suposição de normalidade para os erros do modelo. O OLS pode ser usado sob diferentes premissas distributivas e o estimador ainda fará sentido como estimador linear imparcial de variância mínima.
A verossimilhança máxima (ML) também pode acomodar distribuições diferentes, mas a distribuição deve ser escolhida antecipadamente. Se a distribuição real parecer diferente da distribuição assumida, o estimador de ML não fará mais sentido como estimador que maximiza a densidade de probabilidade conjunta dos dados.
Assim, podemos dizer que, em um aplicativo específico, o ML faz uma suposição mais rigorosa sobre os erros de modelo do que o OLS.