Para o ssh, parece que você está usando uma chave putty, o ssh não pode usar uma chave putty a menos que seja exportado para o formato openssh. parece que o arquivo foi editado manualmente, se possível restaurar a chave privada de um backup, ou tentar regenerar as chaves que você usa ou criar uma nova chave e comparar as duas para ter certeza de que a chave que você está usando não teve sua formatação alterada.
Quanto à terminação do telnet imediatamente, é de se esperar que o ssh esteja procurando conexões ssh e não conexões telnet.
Depois de corrigir os principais problemas, você poderá enviar o ssh para a caixa.
quanto ao login mysql, geralmente o login padrão para root é limitado a 127.0.0.1 & host local. Então, a menos que você tenha permitido determinados hosts (yourhost.domain) ou% (% é uma má idéia, a propósito) você não será capaz de se conectar a menos que você use um túnel ssh para que você possa se conectar localmente. Outra coisa é que seu comando atual de mysql -h db5 -uroot está tentando se conectar ao root sem uma senha. Em vez disso, tente mysql -h db5 -u root -p que solicitará a senha.