Você quer fazer o "instantâneo do pobre homem". Faço isso com bastante frequência ao criar meus próprios MSIs para software de terceiros com WIX.
O Process Monitor é provavelmente um pouco detalhado para o que você está tentando fazer. Você pode tentar fazer um "instantâneo" do registro usando algo como:
REGEDIT /E BEFORE.REG
E depois novamente para que você possa comparar.
Com o sistema de arquivos, usei o utilitário freeware " FileList " para gerar um instantâneo "antes" e "depois" do sistema de arquivos.
Modificações dentro de arquivos existentes são problemáticas. Pode ser necessário tirar um instantâneo inicial, localizar arquivos que foram modificados e reverter (normalmente eu uso uma VM e a funcionalidade de instantâneo de disco interno para retroceder) e tirar um instantâneo "antes" de cada arquivo que você sabe que será modificado para comparar com a versão "depois".
Lembre-se de que capturar o que muda não é o mesmo que capturar a lógica do programa de instalação. Sempre que possível, a engenharia reversa do programa de instalação é preferida a apenas tentar capturar quais alterações. Você pode perder nuances que não está vendo devido às circunstâncias da configuração do seu computador de captura instantânea.
O antigo WinInstall 2003 LE que acompanha o Windows 2000 Server faz um trabalho bastante decente ao gerar esses tipos de instantâneos para fins de referência, mas os MSIs que ele gera são péssimos. (Desisti de usá-lo e comecei apenas a tirar instantâneos "manualmente", como descrevi acima.)