Os cantos das paredes do chuveiro nunca deveriam ter sido rejuntados. Os cantos são os mais sujeitos a movimento e, portanto, os mais propensos a rachar, de modo que são calafetados, não rejuntados.
Eu gosto de usar um calafetar lixado colorido nesta situação. Parece muito semelhante ao rejunte. Calafetar lixado vem em várias cores. Você deve conseguir aproximar-se do rejunte.
Ao contrário de removê-lo? É provável que o rejunte se rache ainda mais e, se você calafetar por cima, o calafetar em cima do rejunte pode ser afetado pelo rompimento. Melhor, IMO, para remover o rejunte o máximo que puder antes de calafetar.