Sim, é chamado de FUSE . O kernel permite que sistemas de arquivos com recursos completos sejam implementados no espaço do usuário e você pode ter usado alguns deles já: sshfs, curlftpfs, ntfs-3g, archivefs, wikipediafs ...
A interface FUSE é um pouco mais baixa do que você descreve (o sistema de arquivos ainda precisa manipular individualmente as aberturas, leituras, gravações ...), mas ela tem ligações para várias linguagens do Python para bash . A maioria deles tem um exemplo de "hello world" que pode ser adaptado para fornecer a saída de um programa externo como dados.
O FUSE funciona atualmente no Linux, vários BSDs, macOS, Solaris ...