O único ponto de entrada para interações do sistema de arquivos é o mecanismo de chamadas do sistema, que, por sua vez, depende muito (se não exclusivamente) do VFS.
Se alguém quisesse criar um sistema de arquivos que não dependesse do VFS, essa pessoa seria forçada a implementar um novo conjunto de chamadas de sistema de E / S que interagiria diretamente com o nível de bloco do Linux.
Isto não é elegante nem portátil. Além de ser um pesadelo para implementar, depurar e manter, esse sistema de arquivos personalizado seria acessível apenas por aplicativos que usem esse conjunto de chamadas de sistema personalizadas. Tal abordagem lança qualquer noção de portabilidade fora da janela.
Portanto, para responder à sua pergunta: Sim, é possível implementar um novo conjunto de chamadas do sistema, mas os únicos clientes do espaço de usuários desse sistema de arquivos seriam seus próprios aplicativos. Para algo mais portável do que isso, você precisa trabalhar com o VFS.
Editar:
Eu vi sua pergunta anterior sobre a implementação de um alto desempenho sistema de armazenamento de valor-chave para SSDs que, acredito, o levou a considerar essa abordagem. Eu gostaria de acrescentar duas coisas:
- O VFS não é um um gargalo. Ele encaminha as operações de E / S para o nível de bloco do Linux de maneira muito eficiente.
- A usabilidade de um aplicativo que requer correção de kernel (com código de qualidade questionável) é extremamente baixa. A menos que você esteja escrevendo este sistema explicitamente para seu próprio uso pessoal, sugiro explorar outras possibilidades antes de tentar otimizar as coisas dentro do kernel.