O Handbrake não oferece uma opção de miniatura / captura de tela, tanto quanto eu sei (nem uma pesquisa rápida de seu código-fonte do github gera algo para "miniatura" ou "captura de tela"). Eu corro o Handbrake CLI para gerar MP4s, então, separadamente, gero miniaturas após o fato com o ffmpeg. Dado que você já está usando a CLI, mais uma chamada de comando para o ffmpeg deve ser bem simples.
Eu gero automaticamente várias miniaturas (para uso em sprites) e, em seguida, seleciono manualmente a melhor imagem como miniatura de capa:
#e.g. generate thumbnail every 45th second
ffmpeg -i ../archive/myvideofile.mp4 -f image2 -bt 20M -vf fps=1/45 thumbs/myfile%03d.jpg
Eu redimensiono com utilitários de linha de comando adicionais - você pode ver o fluxo de trabalho que uso aqui para ter uma ideia, caso isso seja útil: link