Esse problema pode estar vindo do firewall ou pode estar vindo do SElinux ou pode ser um serviço que não está em execução. Eu não estou ciente de sua distribuição, mas eu vou te dizer para RPM e & sistema operacional debian: Para SO baseado em RPM
Para o comando de firewall flush
iptable -F
Para desativar o SElinux
setenforce 0
Para iniciar o serviço
service sshd restart
Se você estiver usando o SO baseado em Debian, siga estas etapas: para instalação
sudo apt-get install openssh-server openssh-client
Para reiniciar o servidor ssh, digite:
sudo /etc/init.d/ssh restart