PAM está lhe dizendo que está configurado com "retry = 3" e irá ignorar quaisquer outras solicitações de autenticação do sshd dentro da mesma sessão. No entanto, SSH continuará tentando até esgotar a configuração MaxAuthTries (cujo padrão é 6).
Você provavelmente deve definir ambos (SSH e PAM) para o mesmo valor para o máximo de tentativas de autenticação.
Atualizado
Para alterar este comportamento:
Para sshd , edite /etc/ssh/sshd_config e defina MaxAuthTries 3 . Também reinicie o servidor SSH para que a configuração entre em vigor.
Para PAM , você precisa procurar a configuração no diretório /etc/pam.d (acho que é common-password no Ubuntu), você precisa alterar o valor retry= .
Nota: Eu sugeriria strongmente que eu também checasse a resposta de Peter Hommel sobre o motivo destes pedidos, já que é possível que seu SSH esteja sendo forçado a brutalidade.