Eu também estou tentando obter algumas informações sobre como obter o denyhosts para trabalhar no Mac OS X Mountain Lion. Até agora não consegui, mas sei para onde ir em seguida. Não tenho certeza se realmente preciso disso.
De acordo com o link :
In order to take advantage of DenyHosts, you must ensure that your sshd server has been compiled w/ tcp_wrappers support.
O que parece não ser mais o caso com o OS X ML. link
É por isso que o hosts.deny é ignorado no Mountain Lion.
Mas eu não tenho certeza se quero passar a instalar o libwrap através do Mac Ports ... Talvez eu apenas mude a porta SSH para algo mais alto para limitar o ataque de tentativas falhas de autenticação.
Uma vez que você está aceitando somente a autenticação de chave pública com o sshd, você está realmente perdendo apenas um pouco de desempenho mensurável e um pouco mais de espaço em disco através do syslog.