O Razor foi desenvolvido para o ASP.NET Web Pages (WebMatrix), que não possui o mesmo tipo de proteção incorporada às pastas e roteamento de Views que você obtém no MVC. Como as páginas de layout nas Páginas da Web não devem ser exibidas diretamente, elas são prefixadas com o sublinhado. E a estrutura de páginas da Web foi configurada para não permitir que arquivos com sublinhados principais em seus nomes sejam solicitados diretamente. Outros arquivos .cshtml nas Páginas da Web geralmente precisam ser navegáveis. Eles são equivalentes a arquivos .asp ou .php.
A equipe do ASP.NET declarou que as páginas da Web são um ponto de partida no desenvolvimento do ASP.NET, o que deve levar à migração para o MVC a tempo (para aqueles que desejam seguir em frente). Parte disso significa que deve ser o mais fácil possível migrar das Páginas da Web para o MVC. Consequentemente, faz sentido transferir as convenções de nomenclatura estabelecidas nas Páginas da Web para os arquivos do MVC Razor.
Portanto, não é uma razão técnica para prefixar os nomes de arquivo com um sublinhado - ele só não é relevante para MVC.
[ATUALIZAÇÃO outubro de 2018]
Na nova estrutura do ASP.NET Core Razor Pages (além da versão 2.1), os arquivos com um sublinhado à esquerda são ignorados quando as rotas são geradas na inicialização - mesmo que tenham uma @page
diretiva (o que normalmente os tornaria uma página Razor rastreável) . É por isso que faz sentido nomear o layout e os arquivos parciais com um sublinhado à esquerda em um aplicativo Razor Pages se eles não pretendem ser navegados.