Como exatamente você está transmitindo?
Eu imagino que o maior gargalo seria a sua rede doméstica, e não o hardware do seu computador. É sem fio ou conectado via ethernet?
Além disso, você quer dizer que deseja transmitir simultaneamente para três consoles? É muito difícil dizer exatamente o que você precisa (e eu não tenho experiência em transmitir 3 feeds de uma só vez), mas acho que seria justo sugerir pelo menos um decente processador quad-core e pelo menos 4GB de RAM.
Além disso, imagino que a placa de vídeo instalada possa ter o maior impacto. Eu acho que a maioria das GPUs de hoje tem aceleração de vídeo embutida para codificar as imagens. Eu não tenho uma idéia real das especificações mínimas que você deve estar procurando, mas para estar no lado seguro, sugiro que você veja as recentes placas de vídeo intermediárias.
Não tome nenhuma decisão até que alguém possa contribuir para essa resposta, já que tudo o que lhe dei é um palpite.