Você não precisa do sinal +
no comando. Significa algo bem diferente do que você pensa.
mkvmerge -o output.mkv input.mkv input.mka
Isso deve fazer o truque para você.
O sinal de adição anexa os fluxos do segundo arquivo ao primeiro. Então, se você tivesse dois arquivos de vídeo e quisesse criar um único arquivo que reproduz primeiro o vídeo do arquivo1 e depois o vídeo do arquivo2 no mesmo fluxo, você usaria o sinal de adição. O erro basicamente diz que não é possível encontrar nenhum vídeo em seu arquivo .mka e não tem nada para acrescentar.