ffmpeg -i input.avi -i sound.mp3 -map 0 -map 1 -c copy output.mkv
-map 0 -map 1
diz ao ffmpeg para pegar todos os streams da entrada 0 (input.avi neste exemplo) e todos os streams da entrada 1 (sound.mp3 neste exemplo). Veja esta página no wiki ffmpeg (um recurso geral muito útil para uso de ffmpeg) para mais informações.
Eu usei -c copy
para simplesmente copiar todos os fluxos, pois o MKV pode conter qualquer coisa (em termos de codecs de entrega) que o AVI possa conter. Claro, você pode usar qualquer opção de saída que quiser (novamente, dê uma olhada no ffmpeg wiki para mais informações).