Não.
O Handbrake só pode converter vídeos usando esses codecs:
- Codec visual MPEG-4 do FFmpeg
- x264
- XviD (o suporte para isso foi descartado com 0.9.4 *)
… e como um contêiner ** suporta apenas:
- MKV
- MP4
- AVI (o suporte para isso foi descartado com 0.9.4, especialmente porque o contêiner AVI carece de tantos recursos)
Não existem muitos codificadores para o Windows Media Video por aí. O próprio FFmpeg suporta apenas a codificação do WMV 7 e 8, e não da versão 9. Na sua situação, tenho certeza de que os contêineres MP4 são adequadamente manipulados pela maioria dos softwares de reprodução. O mesmo vale para o MKV, que está vendo cada vez mais suporte nos dias de hoje.
* c.f. O HandBrake abandona o DivX para ripar DVDs, não é? - PC e amp; Autoridade Tecnológica
** "Codecs" são armazenados dentro "containers" - há uma diferença na terminologia aqui. Veja esta resposta para mais: O que é um codec (por exemplo, DivX?), e como ele difere de um formato de arquivo (por exemplo, MPG)?