What parameters should be passed to make result movie smooth with the same quality ?
Você provavelmente precisará regenerar os timestamps. Cada clipe tem um fluxo de timestamp separado, então quando você os concatena, o jogador percebe o tempo como indo para trás sempre que ele salta de uma parte do fluxo para um diferente que originalmente fazia parte de um arquivo TS diferente.
Tente adicionar -fflags +genpts
lá, pouco antes do nome do arquivo de saída.
Aliás, você quer -c copy
com o primeiro formulário de comando também. Caso contrário, ele pode reencodificar os arquivos ao longo do caminho.