O Nginx pode fazer o cache sozinho com o módulo proxy_cache, embora o Varnish tenha mais recursos (que você pode não precisar). Você provavelmente será vinculado a E / S com essa tarefa, não vinculado à CPU. Então, eu realmente olharia para muita memória RAM para cache, ou SSDs. O RAID5 é uma idéia terrível (pequenas gravações aleatórias são muito lentas com RAID5), assim como unidades SATA para uma tarefa de IO alto (elas podem fazer apenas cerca de 70 IOPS por disco, dividido por um fator de 4 para RAID5 escreve).
Ainda com 10000 fluxos simultâneos e 5 segundos segmentos de vídeo, você está falando apenas do pior caso de 2000 IOPs aleatórios. Qualquer SSD pode lidar com isso, supondo que seja grande o suficiente, e se o conjunto de dados for pequeno o suficiente, o cache do sistema de arquivos o levará até lá.