Os requisitos do sistema de arquivos do MythTV (streaming, arquivos grandes, etc.) são muito parecidos com o que você está descrevendo. Eles têm uma página wiki discutindo a escolha de um sistema de arquivos para armazenamento de mídia. Sua recomendação é
Em suma, uma boa opção é ext3 ou ReiserFS para suas partições de sistema
e JFS ou XFS para o seu armazenamento MythTV. Se você tiver um / boot separado
partição, o ext2 é uma boa opção, já que o diário do ext3 fornece
benefício para uma partição deste tamanho, mas consome muito espaço em disco.
(embora a página wiki pareça ser bastante antiga e desde que foi escrita, o ext4 surgiu como outro candidato viável para um sistema de arquivos de armazenamento de mídia)
Aqui está outro artigo que compara o XFS e outros sistemas de arquivos, com links.