Como de costume, o @whuber fornece uma resposta perspicaz. Eu acrescentaria que a resposta depende da aplicação específica do SIG em que você está interessado. Este é um termo geral para um campo muito grande de aplicações espaciais. Como tal, o trabalho do curso deve ser guiado por um foco específico de análise espacial ou ciência da computação.
Meu foco particular é em estatística espacial em aplicações ecológicas. Neste campo específico de análise espacial, oriento os alunos para o trabalho do curso em álgebra matricial e estatística matemática. Um histórico da teoria das probabilidades, fornecido pela estatística matemática, pode ser bastante útil no entendimento estatístico em geral e fornecer habilidades no desenvolvimento de novos métodos. Isso exige uma sólida formação em cálculo e os pré-requisitos de dois semestres do cálculo da divisão superior não são incomuns.
Os cursos de álgebra matricial fornecem habilidades que ajudam a entender os mecanismos por trás da estatística espacial e da implementação baseada em código (programação) de métodos espaciais complexos. Embora eu deva acrescentar que concordo plenamente com o @whuber, pois muitos problemas espaciais complexos podem ser destilados em soluções matemáticas básicas.
Aqui estão alguns cursos que eu recomendo para um fundo matemático em estatística espacial disponível na Universidade de Wyoming. Obviamente, eu não faço meus alunos fazerem todos esses cursos e os pré-requisitos associados, mas essa é uma boa seleção potencial. Embora eu faça todos os meus alunos adotarem a teoria das probabilidades. Como sua pergunta era específica da matemática, excluí os cursos de estatística e ecologia quantitativa.
MATEMÁTICA 4255 (STAT 5255). Teoria matemática da probabilidade. Baseado em cálculo. Introduz propriedades matemáticas de variáveis aleatórias. Inclui distribuições de probabilidade discretas e contínuas, independência e probabilidade condicional, expectativa matemática, distribuições multivariadas e propriedades da lei de probabilidade normal.
MATEMÁTICA 5200. Variáveis Reais I. Desenvolve a teoria de medidas, funções mensuráveis, teoria da integração, teoremas de densidade e convergência, medidas de produtos, decomposição e diferenciação de medidas e elementos de análise de funções em espaços Lp. A teoria de Lebesgue é uma aplicação importante desse desenvolvimento.
MATEMÁTICA 1050. Matemática finita. Introduz matemática finita. Inclui álgebra matricial, eliminação gaussiana, teoria dos conjuntos, permutações, probabilidade e expectativa.
MATEMÁTICA 4500. Teoria das matrizes. O estudo de matrizes, uma ferramenta importante em estatística, física, engenharia e matemática aplicada em geral. Concentra-se na estrutura das matrizes, incluindo a diagonalizabilidade; matrizes simétricas, eremitas e unitárias; e formas canônicas.