Que tal limites inferiores de complexidade usando álgebra linear ? O livro não é exatamente o que você deseja, pois pesquisa limites mais baixos usando álgebra linear, não a complexidade dos problemas de álgebra linear. No entanto, acho que é útil de qualquer maneira, já que é primeiro necessário entender a complexidade dos problemas de álgebra linear e depois usá-lo para provar limites mais baixos em outros problemas.
Aqui está a descrição do livro:
Embora tenha sido feito um rápido progresso nos limites superiores (algoritmos), o progresso nos limites inferiores na complexidade de problemas explícitos permaneceu lento, apesar dos esforços intensos ao longo de várias décadas. Como é natural com resultados típicos de impossibilidade, as questões de limite inferior são problemas matemáticos difíceis e, portanto, dificilmente serão resolvidas por ataques ad hoc. Em vez disso, são necessárias técnicas baseadas em noções matemáticas que capturam a complexidade computacional. Limites inferiores da complexidade usando álgebra linear examina várias técnicas para provar limites inferiores em complexidade booleana, algébrica e de comunicação com base em certas abordagens algébricas lineares. O tema comum entre essas abordagens é estudar medidas de robustez da classificação da matrizque capturam a complexidade em um determinado modelo. Limites inferiores adequadamente fortes em tais funções de robustez de matrizes explícitas levam a importantes conseqüências no circuito correspondente ou nos modelos de comunicação. Compreender a complexidade computacional inerente dos problemas é de fundamental importância na matemática e na ciência da computação teórica. Os limites inferiores da complexidade usando a álgebra linear são uma referência inestimável para quem trabalha no campo.
PS: Você pediu um livro, mas acredito que este artigo: A complexidade computacional de alguns problemas da álgebra linear também é útil (ainda que remonta a 1999).