Respostas:
É um fenômeno físico? ou numérico?
Esta questão meio que implica para mim que você realmente não sabe o que significa aliasing / anti-aliasing. Quero dizer, você diz que "sabe como é", mas se realmente soubesse o que os termos significam, provavelmente perceberia que sua pergunta não faz sentido. O alias é um efeito colateral de como os gráficos de computador são renderizados, e os gráficos de computador são, por definição, fenómenos físicos.
"Aliasing" refere-se apenas à aparência da escada em linhas angulares porque os gráficos de computador são na verdade compostos de muitos pequenos quadrados em uma grade. Aqui está uma imagem para ilustrar o que estou falando:
Esse é um problema sempre que você renderiza os pixels em uma imagem, esteja desenhando à mão livre ou escrevendo um algoritmo para calcular os pixels de um polígono 3D. É apenas um efeito colateral do fato de a imagem ser uma grade quadrada de pixels. "Anti-aliasing" é quando você disfarça a aparência da escada misturando as cores ao longo dos pixels da aresta.
A resposta aceita não é estritamente correta, apesar de abordar o uso mais comum em computação gráfica. O alias é um conceito fundamental no processamento de sinais e a teoria matemática anterior a telas de computador. Também não é realmente verdade que "é um efeito colateral do fato de os pixels serem quadrados". O aliasing existe sempre que você amostrar discretamente um sinal a uma taxa abaixo da taxa Nyquist para esse sinal e afetar o áudio digital, assim como imagens e muitos outros tipos de sinais amostrados discretamente. O aliasing na computação gráfica é um efeito colateral da amostragem discreta, não da forma dos pixels.
Anti-aliasing em computação gráfica é um tópico profundo e complexo e há muito mais do que apenas anti-aliasing de borda. Novamente, há muita teoria subjacente ao processamento de sinais e é uma área ativa de pesquisa em computação gráfica como anti-alias de forma eficaz, não apenas para bordas, mas também para aliasing temporal, para aliasing ao reconstruir um BRDF em pixel shaders, para shadow bordas e em muitas outras áreas. O mapeamento mip de texturas em gráficos 3D é uma técnica anti-aliasing bem estabelecida que está abordando um problema importante que não seja o anti-aliasing de borda, por exemplo.
É realmente um fenômeno matemático mais do que físico, mas aparece na engenharia em muitas áreas além da computação gráfica. Também não o descreveria como um fenômeno numérico - é resultado de amostragem discreta, não da representação discreta de valores numéricos em um computador, embora isso também possa causar efeitos alternativos. Compreender os fundamentos do processamento de sinal é uma boa base para entender como o aliasing se manifesta na computação gráfica e para entender como proceder para reduzi-la.
Adicionando as outras duas respostas, aqui está uma explicação mais intuitiva do que acontece.
Os quadrados da grade representam pixels. O polígono vermelho à esquerda é a forma que está sendo desenhada, representada internamente como uma sequência de pontos. Quando é renderizado, é convertido de uma lista de pontos em um buffer de cores de pixel. A amostragem discreta determina quais pixels são escuros e quais pixels são claros, com base em quanto do polígono cobre cada pixel.
Para responder sua pergunta, esse é um fenômeno numérico / matemático porque as informações sobre a forma original são perdidas devido à aproximação.
Anti-aliasing é quando a renderização tenta corrigir o aliasing, tornando os pixels parcialmente cobertos menos intensos.
No campo de processamento de sinal, aliasing refere-se à identificação incorreta da frequência do sinal. Por exemplo, devido à falta de consideração adequada na etapa de subamostragem, isso pode levar à geração de erros e distorção. Pode ser generalizado para o sinal discreto 2D, como uma imagem.