O FFmpeg é uma ferramenta de linha de comando de código aberto capaz de fazer o que você pede.
Se você quiser instalá-lo a partir do código fonte, dê uma olhada em: FFmpeg no Mac OS X How -Para .
Se você quiser uma interface gráfica, confira: FFmpegX .