Livros didáticos sobre cálculo de matriz?

20

Resumindo: li Os elementos do aprendizado estatístico e fiquei frustrado quando estava tentando verificar alguns dos resultados, por exemplo, dado então

RSS (β) = {(y - X β)}^{T} (y - X β),

$\text{RSS}(\beta) = \left(\mathbf{y}-\mathbf{X}\beta\right)^{T}\left(\mathbf{y}-\mathbf{X}\beta\right)\text{,}$

Estou procurando um livro de cálculo matricial que seja escrito como o seu livro tradicional de cálculo (ou seja, provas de teoremas, exemplos, exercícios de computação etc.). Eu já viessa perguntae sinto que o texto de Magnus e Neudecker se concentra demais na teoria, e o texto deGentlese concentra muito pouco na teoria e no lado da computação.

\begin{aligned} \frac{\partial RSS}{\partial β} = - 2 X^{T} (y - X β) \\ \frac{\partial^{2} RSS}{\partial β \partial β^{T}} = 2 X^{T} X . \end{aligned}

$\begin{align}&\dfrac{\partial\text{RSS}}{\partial \beta} = -2\mathbf{X}^{T}\left(\mathbf{y}-\mathbf{X}\beta\right) \\ &\dfrac{\partial^2\text{RSS}}{\partial \beta\text{ }\partial \beta^{T}} = 2\mathbf{X}^{T}\mathbf{X}\text{.} \end{align}$

Existe um meio feliz lá fora, acessível a alguém com experiência em análise de graduação?

references matrix matrix-calculus

— clarinetista
fonte

4

Você considerou a álgebra matricial de Harville sob uma perspectiva estatística ? Os primeiros capítulos devem ser relativamente elementares, mas depois são retomados.

— usεr11852 diz Reinstate Monic

2

amazon.com/Matrix-Algebra-Econometric-Exercises-Vol/dp/...

— Khashaa

1

Costumo usar esta entrada Wikipedia para encontrar identidades dos problemas de cálculo de matriz: en.wikipedia.org/wiki/Matrix_calculus

— Tommy L

9

Para a maioria das perguntas sobre matriz, eu sempre me refiro ao "The Matrix Cookbook" (veja aqui ).

É atualizado regularmente devido ao feedback de várias fontes. Existem provas contidas nele, no entanto, a maioria é um manual.

— Laurens van de Wiel
fonte

3

Se você encontrou muita teoria no livro de Magnus e Neudecker, recomendo esta, também de autoria de Magnus:

Abadir, KM e Magnus, JR Matrix Algebra Cambridge University Press, 2005

que tem mais ênfase nas aplicações de cálculo matricial.

— Arrigo Benedetti
fonte

2

Um usuário excluiu automaticamente a seguinte resposta útil, que aqui reproduzo na íntegra para que suas informações não sejam perdidas:

Você realmente não precisa de muitos resultados em derivadas vetoriais e matriciais para ML, e o artigo de Tom Minka cobre a maior parte, mas o tratamento definitivo é o Cálculo Diferencial de Matriz de Magnus & Neudecker com Aplicações em Estatística e Econometria .

De fato, Magnus & Neudecker tem excelentes resenhas no artigo de Amazon e Tom Minka ( Álgebra de matrizes antiga e nova, útil para estatísticas , 2000), contém muitas fórmulas úteis, embora ele avise "este é um material avançado".

— whuber
fonte

1

Eu recomendo este artigo de 26 páginas da Universidade de Stanford:

" Revisão e referência de álgebra linear " por Zico Kolter

Ele realmente se concentra nos cálculos típicos da soma com muitos iej em todos os lugares e informa o cálculo da matriz correspondente (ou seja, usando sua implementação "vetorizada").

Ele ajuda a reconhecer imediatamente que tipo de fórmula de matriz você deve escrever para fazer seus cálculos.

— tmangin
fonte