O mais novo 'padrão' é o h264. Ele é usado em todos os lugares, de telefones celulares a Blueray e iPods. Além disso, o ffmpeg pode codificá-lo / decodificá-lo bem. Eu usei ffmpeg para esmagar DVDs completos para um arquivo de 120MB para colocar no meu iPod. É uma resolução menor, mas ainda parece ótimo.
Este site fornece um guia rápido para usar o ffmpeg para codificar o h264. link text