Pelo que sei, o MKV é um contêiner, você precisa usar a compactação para o fluxo de vídeo, assim:
ffmpeg -r 1/5 -i img%03d.png -c:v libx264 -r 30 -pix_fmt yuv420p out.mp4
Neste exemplo, cada imagem terá uma duração de 5 segundos (o inverso de 1/5 quadros por segundo). O fluxo de vídeo terá uma taxa de quadros de 30 fps duplicando os quadros de acordo.
Para mais informações, consulte este artigo no wiki do FFmpeg .