Você pode considerar o exFAT. Você não disse se esta é uma unidade flash USB ou disco rígido rotacional. Se você estiver falando em Flash, ao longo do tempo você pode querer reduzir a gravação desnecessária para ele, o que significa evitar o registro no diário do ext4, por exemplo. Eu li exFAT tem algumas vantagens para drives Flash, e evita alguns dos grandes problemas (principalmente limitações de tamanho de arquivo) em FAT32. A desvantagem (na minha experiência) é que ele não é tão estável no Ubuntu quanto os outros sistemas de arquivos. A grande vantagem (eu li) é que é suportado em todas as versões recentes do Windows. (Eu não uso o Windows, então não posso dizer.)
Para instalar o suporte exFAT no Ubuntu:
sudo apt-get install exfat-fuse exfat-utils
[no repositório Universe para o Ubuntu 12.04 e posterior]
Para formatar uma partição exFAT:
sudo mkfs.exfat -n LABEL /dev/sdXn
ou
sudo mkexfatfs -n LABEL /dev/sdXn
Para alterar o marcador:
sudo exfatlabel /dev/sdXn NEW_LABEL
Obtenha informações sobre o sistema de arquivos:
sudo dumpexfat /dev/sdXn
Para verificar a partição:
sudo fsck.exfat /dev/sdXn
ou
sudo exfatfsck /dev/sdXn