Por padrão, PasswordAuthentication está definido como sim, mesmo que você comente. Esse é o caso em seu /etc/ssh/sshd_config .
Você precisa defini-lo explicitamente como não para permitir somente a autenticação de chave pública.
# Change to no to disable tunnelled clear text passwords
PasswordAuthentication no
E reinicie o sshd service ssh restart (migração pré-systemd) ou systemctl restart sshd.service .