Um dos métodos mais simples que você pode usar é
Esquema "região em crescimento". Aqui, o algoritmo começa com pontos iniciais e continua registrando o pixel cercado por ele, desde que a região como um todo tenha a mesma propriedade de antes e após a inclusão do pixel. Isso é aplicado com um conjunto razoavelmente bom de pontos de semente recursivamente.
Essa propriedade pode ser variações de cores, propriedades estatísticas, como média e variação de intensidade das regiões, ou pode ser textura. E o critério de segmentação é a homogeneidade da região.
O mesmo princípio, mas implementação alternativa, é a abordagem de divisão e mesclagem de região. Aqui, uma imagem é dividida primeiro em partes fixas - digamos 4 partes e as pontuações correspondentes das propriedades acima são calculadas. Agora, cada sub-região é dividida ainda mais e podemos verificar se alguma região é significativamente diferente das outras ou a mesma. Se a homongenety de sub-partes é a mesma, essencialmente, ela é mesclada novamente. Mas se o elemento tiver propriedades diferentes, ele agora cairá em diferentes regiões.
Leia isto para obter mais detalhes: http://vplab.iitm.ac.in/courses/CV_DIP/PDF/lect-Segmen.pdf