mount em si tem uma opção de autodetecção, -t auto , você pode sempre tentar isso.
Para verificar o tipo de algum arquivo, eu costumo achar o file como uma boa ferramenta, talvez file -k se você quiser ter certeza de que ele não irá parar no primeiro jogo.
Se file não fornecer nenhuma informação útil, você terá que examinar o arquivo e tentar encontrar alguma pista (por exemplo, olhando para hexdump -C ). Alguns tipos de arquivo terão o nome do tipo de arquivo ou algum código específico do tipo no início. Isso é o que o file confia para detectar muitos dos tipos de arquivos.