O login ssh usando chaves é inerentemente mais seguro do que o uso de senhas, que na maioria das vezes são mal escolhidas e podem ser forçadas a brute se o servidor estiver configurado de forma insegura.
Como senhas, os arquivos de chave podem ser perdidos, mas isso não deve ser um problema. Dependendo da solução escolhida, você pode entrar em contato com o hoster para redefinir o mecanismo de autenticação para que você possa fazer o login com uma senha. Ou, se você escolher um servidor dedicado, poderá acessá-lo por meio de seu painel de controle da Web.