Bem, o Mac OS X suporta msdos (também conhecido como vfat ou fat32) e a partir do 10.6.5 suporta fat64, então essa é uma opção.
O Mac OS X pode ler os principais tipos de tabelas de partições usados em PCs. Sua melhor opção seria usar uma tabela de partição GUID (GPT). Você pode usar o gparted para criar um. Você também precisará do suporte do kernel para o GPT.