Você está procurando atualizar seu hardware ou seu software para fazer isso funcionar?
Se o software, eu acho que eu apenas tentaria um monte de software de screencast e ver o que lhe dá os melhores resultados.
Além disso, tente mexer nas configurações de qualidade (vá mais baixo) e capture o tamanho da área (diminua) para aumentar o desempenho.
(eu pessoalmente uso o Jing para simplificar)