Para compará-lo a uma analogia de carro: um táxi pode percorrer mais de 500.000 quilômetros antes de precisar de uma reforma no motor. A razão para isso é que eles sempre estão funcionando 24 horas por dia, 7 dias por semana, e depois que o motor de um carro atinge a temperatura, a quantidade de desgaste que ele recebe enquanto está em funcionamento é bastante reduzida.
Um computador é o mesmo. A maioria do "desgaste" das peças pode ocorrer quando o servidor está inicializando. Basta conectar um amplificador ao seu computador e ligá-lo. Quando é inicializado, a energia consumida sobe muito alto e, em seguida, se instala quando todos os discos aumentam e o processador é inicializado. Além disso, pense em quanta atividade de disco o servidor sofre durante a inicialização ou quando está funcionando. Provavelmente, o acesso ao disco durante a inicialização do sistema operacional é uma atividade bastante sólida, enquanto quando o sistema operacional está em execução, a menos que seja um servidor de banco de dados muito pesado (acho que não), os discos provavelmente ficarão inativos. Se houver algum momento em que ele falhará, é provável que esteja na inicialização.
Ligar e desligar o servidor é uma ideia estúpida. Além de mencionar que a maioria dos servidores pode levar de 2 a 5 minutos para passar pelas verificações do BIOS, também é uma quantidade enorme de tempo perdido.
Atualização de 2018: Como a maioria dos computadores agora é essencialmente totalmente sólida, essa resposta pode não ser mais precisa como era antes. A analogia do táxi realmente não se adequa aos servidores modernos de hoje. Dito isto, normalmente você ainda geralmente não desativa os servidores.