Eu tinha o Windows 2012 R2 travado na reinicialização com o botão giratório girando com a tela mostrada na pergunta. A maneira como entrei nesse estado foi clicar no botão Reiniciar / Reiniciar no Windows Update e, em seguida, respondi "Sim" ao prompt para confirmar se era bom reiniciar, mesmo que outros usuários estivessem logados. Em seguida, ele exibia a tela "Reiniciando" para sempre. Acho que estava confuso, deveria me mostrar se eu queria fechar meus aplicativos primeiro antes de continuar, mas estava exibindo a tela Reinicializando para sempre.
Eu estava acessando o servidor via mstsc
(RDP), então, para sair dessa situação, pressionei ctrl+ alt+ end(que é como pressionar ctrl+ alt+ delno computador remoto). Isso veio com a exibição das opções de segurança. Depois, cliquei em "Sair". Isso fez com que a tela exibisse "Desconectando ..." por alguns segundos antes de me mostrar o aviso de que eu queria ou não salvar meus arquivos ou Reiniciar mesmo assim. Cliquei em Reiniciar mesmo assim para continuar.
Depois disso, o servidor me desconectou. Quando entrei novamente, vi que o tempo de atividade do servidor ainda era superior a alguns minutos. Então, iniciei uma reinicialização novamente e finalmente foi -_-.