Na minha experiência, um para obter bons fps é Camtasia . Eu uso uma versão antiga dada por uma revista de computador, em um DVD. A empresa costumava distribuir versões mais antigas para revistas, agora eu não sei. Consegui capturar 60fps sem problemas 1024x768 e 1280x800. Então, não exatamente 720p, mas muito parecido. Usando um i5 650, 4ghz, com um cartão muito pior do que você tem (agora que me lembro, não capturou nenhum problema 60fps com um pentium 4). Cuidado, não é tudo sobre esse hardware. É provavelmente muito mais importante que o disco seja rápido e desfragmentado. Se a sua janela estiver instável ou tiver problemas de memória, isso será um problema. A chave para os hickups tende a ser memória / disco.
Eu tenho, mesmo com o Camtasia, percebi um melhor desempenho definindo o Windows totalmente para a resolução, ou próximo, no qual o vídeo deve ser capturado. IE, configurando a área de trabalho em 1024x768, portanto, sem captura de janela / região, mas simplesmente captura de tela inteira, com saída de vídeo de 1024x768.
De qualquer forma, existem configurações que você deve ajustar nas preferências.
Se você não pode comprar qualquer edição de revista antiga + CD, para a coisa Camtasia, eu tenho experimentado com uma joia para capturar fotos do jogo, mas parece capturar qualquer coisa. E é gratuito e mostra um desempenho incrível: Gregion . Foi o único que me permitiu uma grande captura em alto fps, de experimentos complexos que eu estava fazendo.
É claro que, se tudo isso falhar, você ainda terá a opção de fazer o download do teste do Camtasia, ver se funciona para você e depois comprá-lo ...
EDIT: A razão pela qual fraps pode estar capturando melhor, é porque certamente esses capturers deixam mais para o cartão 3d, e o uso de direct3d / opengl está sendo muito mais otimizado em um jogo, do que em um desktop de sistema de uso geral . Parece que o cartão está fazendo a maior parte do trabalho.