O LUKS é configurado via cryptsetup , que possui uma limitação compilada de 512 caracteres para uma senha interativa. Em teoria, não há limitação quanto ao comprimento da senha, pois ela é processada por meio de uma função de derivação de chave.
$ crypsetup --help
...
Default compiled-in key and passphrase parameters:
Maximum keyfile size: 8192kB, Maximum interactive passphrase length 512 (characters)
Default PBKDF2 iteration time for LUKS: 1000 (ms)
Default compiled-in device cipher parameters:
loop-AES: aes, Key 256 bits
plain: aes-cbc-essiv:sha256, Key: 256 bits, Password hashing: ripemd160
LUKS1: aes-xts-plain64, Key: 256 bits, LUKS header hashing: sha1, RNG: /dev/urandom