O problema está no Debian Jessie handbrake
version, que é '0.9.9', e bem antigo no estilo que o Debian nos utilizou.
Veja o site oficial do HandBrake, na seção notícias :
v0.10.5 - Few minor bug fixes since the 0.10.3 release. This includes improvements in large AVI file handling.
v0.10.3 - Updated x265 to 1.8 which brings numerous bug fixes and some performance improvements.
Então, eu diria que você precisa de pelo menos 0.10.3 e aconselharia 0.10.5.
Infelizmente, não há novos pacotes nos backports; - Eu tentaria instalá-lo a partir do PPA do Ubuntu se as dependências não fizerem algo engraçado, ou compilá-lo manualmente. Experimente primeiro o PPA.
De acordo com o link , o stretch / Debian 9 já traz 0.10.5 com patches do Debian - se estiver em um servidor de pré-produção / home , Eu recomendaria a atualização para o Stretch.
Como para compilar isto em Jessie, veja Como instalar o HandBrake 0.9.9 no Debian Jessie, Debian Sid e Debian Wheezy