Não, isso não acontece. Tenha em atenção que, mesmo que a sua unidade diga /dev/sdb , corra mount e veja que não existe /dev/sdb , ainda é possível que as partições da unidade sejam montadas por etiqueta ou por uuid. Nesse caso, use blkid para descobrir qual rótulo / uuid pertence a qual unidade. Alguns aplicativos (como máquinas virtuais) podem usar partições usando diretamente fuser /dev/sdb1 para descobrir esses casos.
Se nenhuma partição for montada, você sob certas condições (seu controlador SATA a suporta) pode até mesmo remover / instalar discos SATA como dispositivos removíveis comuns como flash USB. O sistema operacional não usa nada nele.