ssh lida com as credenciais de login e com a chave pública para fornecer acesso.
a chave pública é salva no arquivo ~/.ssh/known_hosts
na máquina local.
@Nani, o que você está recebendo no prompt é "você está sendo solicitado a salvar a chave pública em sua máquina local".
Você precisa responder sim, para que a chave seja salva e não seja solicitada novamente. (A menos que a chave pública da máquina remota seja alterada).
Se a chave pública da máquina remota for alterada, você terá que remover a chave salva anteriormente do ~/.ssh/known_hosts