Tenho certeza de que o pam_cracklib não pode checar palavras repetidas (a menos que você tenha criado um dicionário de palavras duplicadas). Eu acho que você encontrará mais sucesso na definição de requisitos de complexidade (o sistema de "créditos" no pam_cracklib) do que apenas checar as palavras do dicionário. Veja man pam_cracklib
para detalhes.