Em tais casos, a causa mais provável é que o daemon ssh não seja executado no lado remoto. Você precisa iniciá-lo com o comando /etc/init.d/ssh start . Se fosse muito melhor se você desse, qual distro linux você está usando.
Também é possível que o IP ou a porta de conexão seja de alguma forma adicionado às regras de negação, também há um problema de firewall. Você pode testar isso, se você desligar temporariamente o seu firewall - se houver o problema, você saberá o que fazer.
Em tais relatórios, também é muito bom copiar e colar as mensagens de erro relevantes, pode ajudar muito.