Acontece que a última versão estável do ffmpeg (1.2.2) não combina com o ZoneMinder 1.25.0.
Instalar a versão 0.9 do ffmpeg resolveu este problema.
wget http://www.ffmpeg.org/releases/ffmpeg-0.9.tar.gz
tar -xzvf ffmpeg-0.9.tar.gz
cd ffmpeg-0.9
./configure --enable-gpl --enable-shared --enable-pthreads
make
make install
make install-libs