Se eu estou entendendo o tipo de janela que você está falando, não $ (window) .unload () (para a janela de diálogo) não daria o que você precisa?
(E se eu entendi errado, e você está falando sobre uma caixa de diálogo feita via CSS, em vez de uma janela pop-up do navegador, então tudo as maneiras de fechar essa janela são elementos pelos quais você pode registrar manipuladores de cliques.)
Edit: Ah, agora vejo que você está falando sobre diálogos jquery-ui, que são feitos via CSS. Você pode conectar o X que fecha a janela registrando um manipulador de cliques para o elemento na classe ui-dialog-titlebar-close .
Mais útil, talvez, é lhe dizer como descobrir isso rapidamente. Enquanto estiver exibindo a caixa de diálogo, basta abrir o FireBug e Inspecionar os elementos que podem fechar a janela. Você verá instantaneamente como eles são definidos e isso fornece o que você precisa para registrar os manipuladores de cliques.
Portanto, para responder diretamente à sua pergunta, acredito que a resposta é realmente "não" - não há um evento próximo que você possa conectar, mas "sim" - você pode conectar todas as maneiras de fechar a caixa de diálogo com bastante facilidade e obter o que você quer.