Dependendo do tipo de edição de vídeo on-the-fly que você deseja fazer, a maneira mais fácil de fazer isso seria transcodificar rapidamente ...
Digamos que você deseje adicionar uma marca d'água simples em um vídeo, depois você pega o vídeo, faz o streaming, captura o fluxo, adiciona a marca d'água e o re-fluxo. (claro que o exemplo acima é tão simples que você pode fazer isso com os filtros existentes dentro do VLC, mas você entendeu)