Se o hardware externo é uma opção, encontre um bom dispositivo de captura HDMI USB. Os bons se apresentarão como um dispositivo semelhante a uma webcam UVC, tornando muito fácil descobrir como exibir o fluxo de vídeo de entrada.
Em termos de software, obtive os melhores resultados do GStreamer. A codificação jpeg em RTP dará um bom compromisso de qualidade versus latência a 1080p. Algo como o H.263 será muito rápido, mas com qualidade limitada nessa resolução. O envio de vídeo bruto será o melhor em resoluções mais baixas, em que a largura de banda não é um problema. 1Gb / s LAN irá atendê-lo bem.