De longe, o melhor software de codificação de vídeo gráfico que eu já vi é o handbrake , que é de código aberto e está disponível em praticamente todas as plataformas.
Se você não está muito preocupado com uma interface gráfica sofisticada, provavelmente quer ffmpeg ou mencoder, pois eles são rápidos e leves.