Normalmente, eu pós-processo uma cópia da colina bruta em algum programa externo de edição de gráficos que eu posso sobrescrever diretamente (salvar, em vez de salvar como)
Photoshop e GIMP são dois que vêm à mente.
O processo, resumidamente, sigo: Importar GeoTiff'd Hillshade -> Tom -> Mediana -> Reduzir ruído -> Gaussian Blur
- Seu geotiff deve ser acompanhado de um arquivo do mundo (como .tfw) para portabilidade entre o GIS e o programa gráfico que você usa)
Use a ferramenta Tom para redistribuir seus valores mínimo / máximo da colina em escala de cinza. No GIMP você usa a ferramenta 'Níveis'. Costumo usar um intervalo muito pequeno com um mínimo de 5% de cinza e 25% de cinza. Raramente eu uso intervalos de tons de cinza brancos a pretos.
Mediana é usada para generalizar. Esta é a parte em que pode facilmente deturpar sua colina. No GIMP, a ferramenta equivalente é 'Despeckle'.
A ferramenta mediana / remoção de manchas reduz as bordas afiadas e as torna arredondadas, como topos e vales mountianos. Assim, muitas vezes fazendo parecer que alguns vales estão preenchidos e alguns topos de montanhas são mais planos do que parecem. Use esta ferramenta levemente, ou não use.
Reduzir ruído é usado para remover artefatos estranhos que a mediana não conseguia - geralmente nem uso ruído de redução. Quase como uma maneira trapaceira de remover o DEM se ele sofrer 'passos' - resultado de criação de perfil manual.
O desfoque gaussiano apresentará a suavização final da colina e geralmente é a última coisa que faço (isso também ajudará a remover quaisquer artefatos introduzidos).
A outra opção é executar o processo acima em uma colina HDR.
Crie cortinas de vários aspectos, como 360 (ou 0 °), 15, 30, 45. Esses são os quatro ângulos que eu poderia usar para minha região local, porque essa é a direção geral de onde o sol vem durante a manhã e o meio-dia. Faça o HDR das quatro imagens usando o GIMP ou o photoshop e use os filtros de generalização desejados, como os mencionados acima.
Experimente e veja o que funciona melhor para você.
O bom de trabalhar em um GeoTiff é que nenhum dos georreferenciados é perdido, pois o tamanho e a extensão dos pixels não são alterados no processo.
Existem muitos outros filtros / sobreposições para usar e brincar. Os que eu mencionei são os que eu uso com mais frequência. Lembre-se também de que quanto menos filtros você tiver que aplicar, melhor, para que o terreno não se torne dramaticamente deturpado.
Quando aplico os filtros, eles são feitos em pequenas doses. Por exemplo, eu me pego nunca aplicando um borrão gaussiano acima de 5%.
Recursos úteis:
http://www.shadedrelief.com/bumping/bumping.html
http://www.shadedrelief.com/shading/Swiss.html