Eu já comentei sobre o uso do preenchimento de inundação e como seria melhor, pois é mais flexível, mas outra solução possível é a scanline. (Eu digo possível, porque ele faz muitas suposições sobre sua geometria, mas para o conjunto específico mostrado e muitos similares, ele funcionaria.)
Para o seu exemplo com 3 pontos: encontre o vértice de interseção do segmento v1, v2 e a linha em que v3 está. (O vértice no canto superior esquerdo da v2) Vamos chamar esse vértice v4.
For every vertex pair a,b down v1,v4 and v1,v3
For every vertex from a to b
Mark as in the set
For every vertex pair a,b down v3,v2 and v4,v3
For every vertex from a to b
Mark as in the set
Isso se chama scanline porque (na imagem acima) você desce as linhas vermelha e verde simultaneamente e depois as linhas vermelha e azul escaneiam simultaneamente as linhas à medida que avança.
Essa solução seria muito rápida se houver um padrão de índice, o que geralmente ocorre. Caso contrário, seria necessário um cálculo para determinar qual vértice vizinho está na linha.
O engraçado é o scanline, o teste bariátrico (na caixa delimitadora do triângulo) e o preenchimento de inundação são formas de desenhar triângulos na renderização em 3D.