Sim, você pode. O LUKS permite que você tenha várias chaves, para que você possa adicionar / modificar / remover as chaves conforme necessário. A chave real que é usada para acessar os dados é interna e oculta. Não há diferença entre uma senha simples, uma chave em um arquivo ou chaves derivadas.
Você pode adicionar uma nova frase secreta, por exemplo, com
cryptsetup luksAddKey DEVICE FILEWITHPASSPHRASE
Então você pode testá-lo. Se tudo funcionar, você pode remover sua senha antiga com
cryptsetup luksRemoveKey DEVICE
Veja a página de manual do cryptsetup para mais detalhes.