A extensão AVI não tem nada a ver com o seu formato. AVI é o que é conhecido como um formato de contêiner, o codec que você provavelmente está pensando é DivX (e a alternativa open source Xvid ).
O Handbrake não converte em AVI.
Supondo que as leis de direitos autorais em seu país permitem backups, você pode usar o DVD Shrink para backup de DVDs, mas eles permanecerão como arquivos VOB (que são realmente do codec Mpeg). Você também pode usar algo como o Clone DVD Mobile para converter em DivX. No Clone DVD Mobile, existem opções simples para modificar a qualidade do vídeo de saída que também mostrará seu tamanho.
Existem outras opções, como o DVDX, já que o Clone não é freeware. Eu recomendo procurar conversores Xvid, pois os conversores Divx não são de graça (já que eles exigem licenças e quais não).
Veja também: lifehacker.com/380702/five-best-dvd-ripping-tools
Provavelmente, é melhor perguntar em fóruns do site do qual você fez o download desses arquivos. E não se esqueça de compartilhar mais informações! A digitalização de uma coleção de filmes é uma boa jogada, já que os discos são arranhados muito rápido demais.
ATUALIZAÇÃO: Eu apenas tentei AutoGK , é mais preciso que o Clone DVD Mobile no tamanho de saída . Além disso, é grátis.