Não, não é atômico. O Btrfs receive cria um subvolume, então é atômico, mas inicialmente o subvolume está vazio. Então, o btrfs recebe o subvolume com os dados recebidos.
Você pode testar isso copiando para o DEST enquanto executa o backup e executa o ls ou o encontra repetidamente.