Tudo depende de onde você desenha a linha. Independentemente disso, parece que esse problema pode ser facilmente resolvido usando as funções morfológicas disponíveis no Spatial Analyst, principalmente o limiar (realizado com operações locais "<" e ">")) e o "RegionGroup" para identificar e extrair componentes.
Embora eu não tenha acesso ao DEM para ilustrar, a primeira imagem é quase boa o suficiente para fazer o trabalho de qualquer maneira. Por exemplo, aqui está uma sequência de versões agrupadas por região da faixa vermelha (com valores dimensionados de 0,0 = preto a 1,0 = branco), iniciando no limiar de 0 e movendo-se da esquerda para a direita, de cima para baixo, em incrementos de 0,02:
(Essas imagens foram reduzidas para reprodução aqui: todas as análises foram feitas com a resolução da imagem original.)
Os diques emergem ao redor do limite da região negra no início da segunda linha (limite = 0,08). No início da terceira linha (limite = 0,16), os diques formam seus próprios componentes (em azul escuro) e nesse ponto podem ser facilmente extraídos como grades ou polígonos separados (e seus limites podem ser extraídos como polilinhas após uma etapa de detecção de arestas) ) Somente os diques mais largos permanecem na última linha (limite = 0,24 e superior). Você precisará selecionar um limite apropriado para obter exatamente o que deseja.
No DEM original, as elevações desempenham o papel de intensidade; portanto, esses procedimentos devem ser igualmente eficazes com o próprio DEM. Se o DEM tiver uma grande extensão (incluindo recursos distantes do rio ou diques), os recursos relevantes podem ser selecionados como aqueles adjacentes ao componente em que o recurso do rio se encontra.
As regiões finas e indesejadas encontradas pelo RegionGroup podem ser eliminadas aplicando uma pequena erosão (tampão negativo) seguida de uma dilatação equivalente (tampão positivo). Pequenas regiões indesejadas podem ser excluídas em um critério de tamanho (contagem total de células ou área). Os pontos mais altos de cada dique (se é realmente necessário) podem ser encontrados comparando o DEM com as grades máximas zonais (usando os diques como zonas).
Aliás, essa sequência de imagens foi produzida no Mathematica 8. Aqui estão os comandos para quem desejar seguir essa opção.
original = Import["http://i.stack.imgur.com/gV7Du.jpg"];
{r, g, b} = ColorSeparate[original];
frames = ParallelTable[Colorize[MorphologicalComponents[Binarize[r, t/100]],
ColorFunction -> "ThermometerColors"], {t, 0, 30, 2}];
Rasterize @ TableForm[Partition[frames, 4]]
O tempo total do relógio (após a importação da imagem) foi de 0,94 segundos, dos quais metade foi necessária para reduzir e exportar todas as 16 imagens: as operações morfológicas tendem a ser rápidas (o que é bom, pois os DEIDs do LIDAR podem ser enormes).