Obtenha o MP4BOX e faça isso em alguns passes.
Primeiro, dê uma boa olhada nos fluxos em arquivo, você precisará saber os números deles para poder extraí-los apropriadamente:
mp4box -info media_file.m4v
Em seguida, você desejará extrair os fluxos individuais:
mp4box -raw 1 media_file.m4v
mp4box -raw 2 media_file.m4v
etc...
Finalmente, você desejará remontar os fluxos em um novo contêiner. Note que você pode precisar ajustar os fps - o MP4BOX usa como padrão 25fps. O comando info da etapa 1 deve incluir as informações relevantes
mp4box -add media_file.x264 -add media_file.aac -add media_file.ac3 -fps 23.976 new_output_container.m4v
Para uma boa medida, você pode querer também aproveitar o novo suporte para injetar um pouco de metadados em seu contêiner m4v:
mp4box -itags "name=Your Great Movie" new_output_container.m4v