O motivo ffmpeg , mencoder , et al ainda existe (e ainda é tão popular) porque, se você os aprender, obterá os melhores resultados. Eu não vou discutir sobre isso, mas se você achar que não está obtendo bons resultados, você pode querer aprender um pouco e ver se isso melhora as coisas.
De qualquer forma. Handbrake é o meu go-to transcoer. É apenas uma interface gráfica para vários codificadores e "funciona" 99% do tempo. A melhor coisa que encontro em aplicativos como o Transmageddon (e um bilhão de outros transcodificadores de um clique) é que você pode realmente ajustar as coisas muito bem, colocá-las em fila e deixar tudo à noite.
