Verifique o conteúdo do arquivo com last -f /var/log/btmp . Se você tiver um problema de bot, tente alterar a porta sshd padrão de 22 para algo como 2222 . Você também pode instalar o DenyHosts como uma maneira de moderar as tentativas de login.
De qualquer forma, você pode truncar o arquivo com segurança com : > /var/log/btmp .