Clique duas vezes no arquivo .dmg para abri-lo (monte-o). Em seguida, inicie o Utilitário de Disco. Na lista de discos e imagens à esquerda, você deve ver o arquivo .dmg, com a versão montada do volume exibida recuada abaixo dele. Clique no volume recuado para selecioná-lo e a seção principal da janela agora terá uma guia "Apagar". Clique nessa guia e você poderá usar a interface do usuário para apagar sua imagem de disco.

Observe que o Disk Utility não é bom em atualizar a lista de discos e imagens à esquerda; portanto, se você abriu o Disk Utility antes de montar a imagem do disco, precisará sair e reiniciar o Disk Utility para obter a versão montada do a imagem para aparecer.
Eu fiz isso no OS X Mavericks (10.9.2). Você não disse qual versão do OS X estava executando.