Essas são duas tarefas separadas:
- Escreva um sistema de arquivos local para o Linux
- Exportar via NFS
O segundo é realmente (principalmente) independente do primeiro (se o kernel puder montá-lo, ele poderá ser exportado). O trabalho duro está no primeiro ponto. E, como muitas experiências com sistemas de arquivos remotos demonstraram, a conformidade total com POSIX é possível apenas com o preço de um desempenho totalmente inaceitável. Olhe em volta do NFS (várias versões), Remote File System, Andrew File System, e com certeza há outros que eu esqueço agora, para os tradeoffs considerados (e principalmente descartados, se por alguma razão o NFS ainda for o sistema de arquivos remoto para o Unix). Veja também o CIFS, o sistema de arquivos remoto do mundo do Windows.
O primeiro é um grande empreendimento. Olhe para a quantidade de trabalho massiva despejada no BTRFS by Oracle, e ainda está a poucos anos de status não-experimental. Considere o ReiserFS falido e outros. O atual sistema de arquivos ext4 é um desenvolvimento relativamente simples do sistema de arquivos ext, um dos primeiros sistemas de arquivos nativos para Linux.
Eu sugiro que você se ligue para trabalhar em um dos grupos de desenvolvimento atuais do sistema de arquivos para aprender as cordas antes de iniciar um projeto desse tipo.