Vou apenas nomear alguns pontos pro e con para cada um. Esta não é uma lista exaustiva, apenas uma indicação. Se houver algumas grandes omissões que precisam estar nessa lista, deixe um comentário e eu as adicionarei, para que possamos ter uma boa e grande lista em um só lugar.
ext4
Pro:
- suportado por todas as distros, comercial e não, e com base no ext3, por isso é amplamente testado, estável e comprovado
- todos os tipos de recursos interessantes (como extensões, timestamps de subsegundos) que o ext3 não possui.
Con:
- Há rumores de que é mais lento que ext3, o sabonete dataloss fsync
XFS
Pro:
- suporte para sistemas de arquivos massivos (até 8 exabytes (sim, 'exa') em sistemas de 64 bits)
- desfragmentação online
- suportado no próximo RHEL6 como a opção 'sistema de arquivos grande'
- histórico comprovado: o xfs existe há muito tempo
Con:
- wikipedia menciona operações de metadados lentas, mas eu não saberia disso
- potencial de dataloss no corte de energia, o UPS é recomendado, não é realmente adequado para sistemas domésticos
JFS
Pro:
- disse ser rápido (tenho pouca experiência com o JFS)
- originado no AIX: tecnologia comprovada
Con:
- usado e suportado por praticamente ninguém, exceto IBM (corrija-me se estiver errado; nunca vi ou ouvi falar do JFS usado na produção, embora obviamente deva estar em algum lugar)
ReiserFS
Pro:
- rápido com arquivos pequenos
- muito eficiente em termos de espaço
- estável e maduro
Con:
- projeto não muito ativo, o reiser da próxima geração 4 foi bem sucedido
- sem desfragmentador online
Reiser 4
Pro:
- muito rápido com arquivos pequenos
- transações atômicas
- muito eficiente em termos de espaço namespaces de metadados
- arquitetura de plug-ins, (plug-ins de criptografia, compactação, dedup e metadados possíveis)
Con:
- O Reiser4 tem um futuro muito incerto e ainda não foi mesclado
- principal suporte de distribuição (SuSE) caiu anos atrás
- As "questões legais" de Hans Reiser não estão realmente ajudando
Eu recomendo esta página para leitura adicional.