Primeiro, você criptografou todo o disco rígido /dev/sdf ou uma partição /dev/sdf1 ? Tente cryptsetup luksOpen /dev/sdf test de um terminal raiz para ver se você criptografou todo o volume e não a primeira partição nele. O que é certo, você só precisa se lembrar disso toda vez que montá-lo e ignorar os avisos de partição. (Você provavelmente não pode montá-lo através da GUI do Disk Utility - você precisará usar a linha de comando a cada vez.)
Se você realmente substituiu a tabela de partições, pode ser necessário usar uma ferramenta para recriar. Não seria muito difícil se você tivesse apenas 1 partição e um utilitário como cfdisk pudesse ajudar. Não formate a partição depois, obviamente.
Algo que pode ser mais seguro do que colocar uma nova tabela de partições, se você realmente sobrescreveu a tabela de partições, é obter cryptsetup para não olhar o setor 0 daquele volume, mas o setor no qual seu volume criptografado começa. Tenho certeza de que é possível de alguma forma, mas não consigo pensar em uma ferramenta que faz isso (você pode fazer isso com arquivos de "loopback" facilmente, mas não tenho certeza se losetup funciona com um dispositivo bruto /dev/sdf ).
Você pode provavelmente dd if=/dev/sdf | hexdump -C | less e percorrer até encontrar o texto LUKS - depois dividir isso por 512 para obter o bloco inicial de sua partição LUKS.