Até onde eu sei, a chave privada só pode ser recuperada no momento em que você cria o par de chaves (via console de gerenciamento da web EC2 ou via Linha de comando daAPI ).
Portanto, você precisa salvar a chave privada em algum lugar e recuperá-la no trabalho para conectar-se à instância via SSH, já que as chaves públicas dos pares de chaves são instaladas automaticamente nos servidores do EC2 quando você as inicia.
Espero que ajude.