Se você está falando sobre a transcodificação instantânea para streaming, não sei ao certo como ajudar, mas se você estiver falando sobre converter uma pilha de arquivos de um formato para outro, com um orçamento de US $ 500, aqui está boa solução!
Compre qualquer placa de vídeo baseada na Nvidia razoavelmente poderosa que possa tirar proveito de CUDA e dê uma olhada Badaboom , eu usei isso no passado e é incrível em quão rápido ele pode converter vídeos!
No site da Cuda, também encontrei um link para o TMPGEnc que não é gratuito mas tem uma demo, e Mediacoder que é gratuito, mas novamente, eu não usei esses dois.