DopeGhoti está correto.
Para confirmar um cabeçalho LUKS corrompido, você pode usar o seguinte comando:
cryptsetup luksDump /dev/sda5
Você deve receber a mesma mensagem de erro.
Para consertá-lo, recrie o contêiner LUKS, configure o swap novamente, e faça um backup do cabeçalho LUKS. Algo parecido com isto:
cryptsetup luksFormat /dev/sda5
cryptsetup open --type luks /dev/sda5 sda5_crypt
mkswap -L SWAP /dev/mapper/sda5_crypt
swapon -L SWAP
cryptsetup luksHeaderBackup /dev/sda5 --header-backup-file /root/sda5_luks_header.img
O cabeçalho LUKS é tão vulnerável. Há apenas uma cópia, então quando você a perder, não há como desbloquear o dispositivo. A menos que você tenha um backup;)