Complementando outras respostas corretas: a filosofia Unix (herdada pelo Linux) é que "tudo é um arquivo". Tudo (a primeira aproximação) é um dispositivo de bloco, incluindo discos, mas também impressoras, dispositivos USB, RAM ....
O FAT é uma maneira de organizar dados em uma partição de disco. O que você vê como letras de unidade no DOS / Windows (C :, D :, etc.) são partições de disco. O Linux pode usar discos FAT, mas também discos organizados de maneiras diferentes, como explicado por @glglgl. Observe que o Windows reconhece as mesmas partições que o Linux, se você conectar o mesmo disco rígido a ambos (não ao mesmo tempo!). E, assim como no Windows, onde você pode atribuir a mesma partição de disco como D: ou E: ou Z :, você pode montá-lo no Linux como / media / mydisk ou / media / externaldisk ou / mnt / securedisk ou o que quiser.
Há muitas complicações (por exemplo, o RAID pode reconhecer vários discos físicos como uma partição ), mas essa é a explicação básica para casos simples.