Já faz muito tempo desde que essa pergunta foi feita, mas resolvi o mesmo problema.
Primeiro, as permissões da pasta .ssh devem ser 0700, no 600
$ chmod 0700 ~/.ssh
Segundo, o servidor foi instalado em uma instância do Amazon EC2, usando o domínio mycompany.cxx
da empresa, um Elastic Load Balancer e a configuração SSL. Por alguma razão, o nome myserver.mycompany.cxx não funcionou.
$ ssh -i ~/.ssh/my-key.pem [email protected]
Eu poderia resolvê-lo usando o nome DNS público da configuração do EC2:
$ ssh -i ~/.ssh/my-key.pem [email protected]