Eu descobri o que estava errado e consegui consertar. Foi um problema pequeno o suficiente para não devolver a bomba.
Conforme mostrado na imagem acima, o manômetro é protegido por uma tampa de plástico. É muito fácil deslizar essa tampa para cima do eixo da bomba e afastá-la.
Quando este estiver fora do caminho, o manômetro pode ser removido desaparafusando-o no sentido anti-horário.
O problema é que o pino que indica a pressão atual pode deslizar seu eixo até um ponto em que será girado pelo eixo quando a pressão mudar, mas não começará em 0. A maneira como eu a corrigi foi agitando o medidor até o indicador voltar ao lugar onde deveria estar. Suspeito que tenha se soltado quando andei de bicicleta pela cidade.
Depois de zerar novamente, você pode parafusar o medidor novamente e deslizar a tampa protetora para trás. Então você está pronto.