Minha melhor experiência é com Fraps, mas usei a versão completa (parecia um pequeno prêmio único para pagar por uma grande utilidade) que não tem limites ou logotipo. Você pode definir a taxa de quadros de antemão, como David Young sugeriu em seu comentário. Como muitas ferramentas de captura de vídeo, o Fraps usa uma compactação de baixo custo durante a gravação, que pode ser convertida para um formato de compactação mais alto de sua escolha. Para isso, eu costumo usar o VirtualDub.
Não tive problemas em executar o Fraps por trás do jogo em velocidade máxima (50fps no meu caso) obtendo capturas de alta qualidade.
O principal problema aqui é que a captura requer algum desempenho, e você deve sempre tentar fazê-lo no melhor computador disponível. Mais especificamente, a ferramenta de captura faz gravações em disco substanciais e contínuas, portanto, a chave para armazenar o arquivo em um disco rígido rápido. Os laptops geralmente vêm com discos rígidos de acesso mais lento, portanto isso pode afetar muito o desempenho. O uso de um tamanho de quadro menor durante a captura facilita o disco rígido e pode manter a taxa de quadros alta. Fraps permite definir quadros de meio tamanho.
No caso de Fraps, a qualidade do filme final é muito afetada pela compressão usada na conversão do AVI de captura codificado em FPS1 para um formato distribuível. Se você não considerar perdas aqui, é claro que não importará o desempenho da ferramenta de captura.
Sério, acho que os programas que você menciona geralmente não são tão bons, mas precisam de algumas configurações antes de serem executados da melhor maneira possível com o seu jogo específico.
Salvar todos os quadros individuais em PNG provavelmente não é uma boa ideia se você já tiver problemas com a velocidade. Provavelmente consumiria mais tempo de CPU e disco porque precisaria que cada quadro fosse armazenado com todas as suas informações. Ao codificar e armazenar um filme, muitos codificadores usam vários quadros-chave que estão completos e permitem que quadros sucessivos sejam definidos como a diferença entre um quadro e o seguinte. Isso pode ser uma enorme redução no tamanho, mas não permite que você retire um quadro e o leia sem o quadro-chave.
Não apenas o tamanho de cada quadro será maior se você tentar despejá-los em arquivos separados, mas também receberá uma sobrecarga do próprio acesso ao arquivo. Isso ocorre porque você deve abrir um novo identificador de arquivo para cada quadro, em vez de manter e transmitir para um arquivo como no caso do filme.
Sua melhor aposta ainda é gravar um filme sem perdas e extrair os quadros, OU para capturar um número finito de quadros, como capturas de tela durante a reprodução.