Por favor, sempre que você pedir ajuda com o avconv, anexe sua saída completa. Caso contrário, quem responder tem de recorrer à adivinhação.
Meu palpite nessa situação seria que seu avconv (ou mais precisamente libavcodec) não seja compilado com libx264, então o codificador mpeg4 ASP interno (com padrões atrozes) é usado. Portanto, a solução é obter o libavcodec com suporte a libx264 - no Ubuntu, você deve instalar o libavcodec-extra-53, caso contrário, talvez seja necessário compilar por conta própria.