A analogia de Tyler Faile é ótima.
Os dados não vão a lugar algum. O endereço dele é simplesmente marcado como espaço livre e, em seguida, é substituído quando novos dados precisam de um lugar para ir. Assim que é substituído, desaparece permanentemente.
Se você deseja excluir algo para que não seja recuperável, você pode substituí-lo diretamente ou substituir todo o espaço livre no seu disco rígido. Você deve ter cuidado com a substituição de arquivos, pois os arquivos são movidos pelo sistema operacional durante o uso normal. Se isso acontecer, a cópia antiga não será substituída com segurança.
Um bom programa para substituir arquivos e substituir todo o espaço livre é o Eraser.
http://eraser.heidi.ie/
Um bom programa para substituir discos rígidos inteiros (talvez antes de vendê-los) é o Boot and Nuke da Darik. Tenha muito cuidado com este programa. Seu nome é bastante preciso. Não use-o, a menos que tenha certeza de que não deseja dados em um computador.
Geralmente, há debates sobre se os dados ainda podem ser recuperados após uma única substituição. O fato é que isso nunca foi feito publicamente em um disco moderno. Peter Gutmann escreveu um artigo sobre isso, e um dos métodos é nomeado para ele. Você pode ler o artigo dele aqui:
http://www.cs.auckland.ac.nz/~pgut001/pubs/secure_del.html
Isto é o que ele tem a dizer sobre o excesso de passes múltiplos:
Desde que este artigo foi publicado, algumas pessoas trataram a técnica de substituição de 35 passagens descrita mais como uma espécie de encantamento de vodu para banir espíritos malignos do que o resultado de uma análise técnica das técnicas de codificação de unidades. Como resultado, eles defendem a aplicação do vodu às unidades PRML e EPRML, mesmo que isso não tenha mais efeito do que uma simples lavagem com dados aleatórios. De fato, executar a substituição completa de 35 passagens não faz sentido para nenhuma unidade, uma vez que tem como alvo uma mistura de cenários que envolvem todos os tipos de tecnologia de codificação (normalmente usada), que abrange tudo, desde os métodos MFM com mais de 30 anos (se você não entenda essa afirmação, releia o artigo). Se você estiver usando uma unidade que utiliza a tecnologia de codificação X, precisará executar apenas os passes específicos para X, e você nunca precisa executar todas as 35 passagens. Para qualquer unidade PRML / EPRML moderna, algumas passagens de lavagem aleatória são o melhor que você pode fazer. Como o artigo diz, "Uma boa limpeza com dados aleatórios funcionará tão bem quanto o esperado". Isso era verdade em 1996 e ainda é verdade agora.