Atualização para maior clareza:
Para a parte visível de uma galáxia independente, todas as estrelas podem ser medidas para orbitar o núcleo da galáxia. Portanto, se você quiser medir a maior extensão nesse nível simplificado, seria muito fácil. O problema é que há muita massa que não é estrelas e que é matéria escura. Algumas delas estão tão longe, pode ser impossível calcular o que está orbitando.
Se você ler o artigo, verá que eles escolheram um limite além do qual o efeito da massa desprezível mais adiante não era relevante para esse cálculo.
Uma galáxia pode ser vista como uma esfera achatada, no que diz respeito à massa. As estrelas, pelo menos para galáxias espirais, tendem a estar em um plano, mas há massa orbitando o centro comum em todos os planos. Portanto, não há um ponto de partida, é apenas necessário decidir até que ponto queremos dizer que a galáxia se estende.
Para a Via Láctea e Andrômeda, foi tomada uma decisão que é a mesma para ambos (a decisão exata não parece ter sido publicada para este artigo, mas enquanto for consistente, as massas relativas estarão corretas)
Para galáxias que estão colidindo ou próximas umas das outras, é muito mais difícil - você calcula a que galáxia uma estrela pertence pela direção de seu movimento? As estrelas podem trocar de uma para outra. Na página da Via Láctea da Wikipedia:
Ao redor do disco galáctico está um Halo Galáctico esférico de estrelas e aglomerados globulares que se estende para fora, mas é limitado em tamanho pelas órbitas de dois satélites da Via Láctea, as Grandes e as Pequenas Nuvens de Magalhães, cuja aproximação mais próxima ao centro Galáctico é sobre 180.000 ly (55 kpc). [51] A essa distância ou além, as órbitas da maioria dos objetos de halo seriam interrompidas pelas nuvens de Magalhães. Portanto, esses objetos provavelmente seriam ejetados da vizinhança da Via Láctea.
tl; dr - é uma decisão bastante arbitrária :-)