Tudo o que você precisa é a parte privada do seu par de chaves. Se você não tiver definido uma senha ao criar o par de chaves, não precisará inserir uma senha ao se conectar à sua instância.
Você só precisa usar a chave privada ao se conectar via ssh.
Na linha de comando:
ssh -i privatekey.pem [email protected]
Se você estiver usando uma GUI como o Putty, atribua o arquivo de chaves antes de conectar-se, em:
Connection | SSH | Auth | Private key file...