Parece que denyhosts exige que um servidor SMTP seja configurado em denyhosts.cfg - ele não suporta a interface /usr/sbin/sendmail padrão.
Tente executar denyhosts --foreground , verifique também o syslog e / ou o arquivo de log configurado.
Você também pode usar esse script para enviar um email de teste; execute-o usando sudo -u denyhosts :
#!/usr/bin/env python
import sys
sys.path.insert(0, '/usr/share/denyhosts')
from DenyHosts import constants, prefs, util
prefs = prefs.Prefs(constants.CONFIG_FILE)
util.setup_logging(prefs, True, False, False)
util.send_email(prefs, "This is a test.")
FYI: aqui "sendmail" não se refere especificamente ao Sendmail MTA, mas sim ao programa executável em /usr/sbin (às vezes /usr/lib ), que é instalado por qualquer MTA - não apenas Sendmail, mas também Postfix, Exim e outros.