A resposta curta é que o MSTP realmente usa uma instância especial, além das definidas pelo usuário, para lidar com todo o tráfego de controle do MSTP, chamado instância interna da Spanning Tree (IST0).
From: http://blog.ine.com/2010/02/22/understanding-mstp/
A implementação do IEEE 802.1s não envia BDPUs para todas as instâncias ativas do STP separadamente, nem encapsula as mensagens de configuração da lista de números de VLAN. Em vez disso, um número de instância especial do STP 0 chamado Internal Spanning Tree (IST aka MSTI0, Multiple Spanning Tree Instance 0) é designado para transportar todas as informações relacionadas ao STP. Os BPDUs para IST contêm todas as informações padrão de estilo RSTP para o próprio IST, além de transportar campos informativos adicionais. Entre esses campos estão o nome da configuração, o número da revisão e um valor de hash calculado nas VLANs para o conteúdo da tabela de mapeamento MSTI. Usar apenas essas opções de informações condensadas pode detectar configurações incorretas nos mapeamentos de VLAN, comparando o valor de hash recebido do par com o valor local.
Você definitivamente deve conferir o restante desse white paper, é um ótimo recurso.