Qual saída você espera? Eu corri o seu comando em um antigo DVD aleatório e descobri que as taxas de bits estavam um pouco altas demais, mas o tamanho e a taxa da imagem estavam corretos.
Mas você tem que lembrar que os números que você dá são metas de compressão , não limites. Se você quiser ir mais longe, você precisa diminuir o tamanho do quadro, taxa de quadros ou taxa de amostragem (para áudio). E mesmo assim, alguns codecs têm muita sobrecarga para ir baixo
.HandBrakeCLI -i input.avi -o out.mp4 -e x264 -r 15 -b 128 -B 32 -R44.1 -X 320 -Y 140
Isso me deixou um pouco mais perto (vídeo de 123 kbps, 60kbps de áudio), mas você terá resultados realmente horríveis. Eles já são bastante ruins.