No seu arquivo /etc/ssh/sshd_config
você deve usar a linha:
PasswordAuthentication no
Recarregue a configuração do ssh com:
sudo service ssh reload
Agora, não deve mais ser possível efetuar login usando a autenticação baseada em senha, supondo que você esteja usando o Ubuntu:)