Você já tentou usar o devede pode funcionar melhor que o Brasero já que o seu principal objetivo é criar dvd's e vcd também eu rodaria o Brasero do terminal e veria quais mensagens saem para o terminal.
Finalmente, o comprimento máximo de um VCD será de 80min se você converter o mkv em um vcd "reproduzível" se estiver gravando o mkv no disco como um disco de "dados" e não haverá problemas.