A resposta curta para a pergunta (embora já tenha sido dada por outros) é "Sim, é possível sem grandes problemas". Alguns OEMs de servidores grandes realmente forneceram uma configuração vertical em uma tabela.
A maioria dos casos com os quais tenho lidado tem uma parte inferior reforçada para suportar melhor o peso do servidor (ou outro equipamento na parte superior, pois algumas pessoas gostam de salvar alguns trilhos de rack e apenas empilhar um servidor em outro - não recomendado).
Mas isso é feito apenas porque a parte inferior do gabinete é uma área grande e dobra se não for reforçada. Desde a sua implantação na vertical, o peso não descansa na parte inferior, mas na lateral, que também é frequentemente reforçada (para apoiar os trilhos do rack). Portanto, não há problema algum.
Também não afetará as peças giratórias (HDDs) ou os ventiladores, se o eixo de rotação tiver outra direção. Compare, por exemplo, algumas grandes prateleiras de armazenamento ou servidores blade, em que as bandejas SFF são montadas verticalmente em uma configuração "normal" com os caddies na horizontal. Se você não mover o servidor enquanto estiver operando (o efeito giroscópico tentará manter a parte giratória em sua posição original, enquanto o casco externo se mover, o que aplicaria força de flexão no eixo de rotação ou outros danos), você pode montá-lo em qualquer direção.
O único problema real (conforme declarado por @ user164241 e outros) poderia ser o calor - mas apenas se você não levar em conta as velocidades geralmente altas do vento dentro de um servidor. Apesar disso, tente não neutralizar o ar quente que se move para cima (portanto, não o monte com a frente voltada para cima).
A maneira mais lógica em relação às térmicas seria a sugestão de @Jens Timmerman (de frente para baixo), embora isso não seja tão legal ao remover caddies de armazenamento (a gravidade ainda se aplica a servidores montados verticalmente com a frente apontando para baixo :)), porque você corre o risco largando-os. Eu pessoalmente faria uma configuração de "frente para a esquerda ou para a direita".