Dê uma olhada no libpam-script . Ele permite que você execute scripts durante a autorização, alterações de senha e sessões.
Para atender a sua necessidade, você pode criar uma configuração do PAM (em /etc/pam.d/<whatever> ) que organize esse módulo para ser executado logo antes de pam_deny , se a sequência normal dos módulos negar o login.