Eu usei o truque app_offline.htm extremamente útil para desligar / atualizar sites no passado sem quaisquer problemas.
Certifique-se de que você está realmente colocando o arquivo "app_offline.htm" na "raiz" do site que você configurou no IIS.
Certifique-se também de que o nome do arquivo seja exatamente como deveria ser: app_offline.htm
Além disso, não deve haver nenhuma outra alteração no IIS que você precise fazer, já que o processamento desse arquivo (com este nome específico) é feito pelo tempo de execução do ASP.NET em vez do próprio IIS (para IIS v6).
Esteja ciente, no entanto, que embora colocar este arquivo na raiz do seu site force o aplicativo a "desligar" e exibir o conteúdo do próprio arquivo "app_offline.htm", quaisquer solicitações existentes ainda terão o site real servido para eles. Apenas novas solicitações obterão o conteúdo app_offline.htm.
Se você ainda estiver tendo problemas, tente os seguintes links para obter mais informações:
App_Offline.htm de Scott Gu
App_Offline.htm e contornar o recurso "Erros amigáveis do IE"
O app_offline.htm interromperá as solicitações atuais ou apenas as novas?