A codificação de vídeo é um processo muito intenso da CPU (não consome muita memória, por isso a mudança de memória não ajudará). Seu computador está executando um processador relativamente lento (2.0 Ghz Celeron), portanto não é surpreendente que ele possa manipular apenas um fluxo por vez, especialmente se você estiver usando vídeo HD.
Para corrigir o problema, você pode procurar hardware externo para codificar seu vídeo ou em um computador mais potente. Outra opção seria diminuir a qualidade do vídeo (talvez cair para apenas 480p em vez de 720p).
Atualização:
Depois de pensar no seu problema por um segundo, o que você realmente quer fazer é ter um único aplicativo que codifique o vídeo e depois transmitir o vídeo codificado para dois serviços de streaming diferentes. Isso deve ser possível se a sua máquina puder transmitir para um sem problemas. Não estou familiarizado com o modo como os sites de streaming aceitam dados de streaming, por isso não posso ajudá-lo a implementá-los, mas algo como VLC que pode gerar resultados várias fontes podem fazer o truque.