Citando a documentação:
Although in btrfs, subvolumes/snapshots are treated as directories, only subvolume/snapshot can be the source of a snapshot, snapshot can not be made from normal directories.
Como seu /home
dir não é um subvolume nem um instantâneo, não será possível criar um instantâneo de nada dentro dele.
Link: