Esse é o comportamento esperado.
Mesmo que eles correspondam por padrão no momento da criação, você não deve confundir os nomes dos conjuntos de dados, aqui tank e tank/home e os diretórios aos quais eles estão montados, inicialmente /tank e /tank/home .
Você (ou outra pessoa?) alterou a propriedade tank/home mountpoint para /home . Depois de fazer isso, o conjunto de dados tank pode conter um diretório denominado home e esse diretório é completamente não relacionado ao diretório /home contido no conjunto de dados tank/home .
Note também que tank não é uma unidade nem mesmo um volume, tank e tank/home compartilham o mesmo conjunto de armazenamento, portanto, o preenchimento de um deles reduzirá o espaço comum disponível.