O erro significa que o FileZilla tentou todos os métodos de autenticação disponíveis e não foi bem-sucedido. No seu caso, havia apenas o método de autenticação de chave pública disponível (um método que o cliente [FileZilla] e o servidor concordaram mutuamente).
Como você afirma que configurou o FileZilla corretamente, é provável que você não tenha configurado a chave pública no lado do servidor.
Para obter instruções, consulte:
Embora, na verdade, todos os guias esperem que você tenha uma maneira de se conectar (por exemplo, autenticação de senha). O que parece não ser o caso. Possivelmente, o administrador do servidor / provedor de hospedagem possui seu próprio mecanismo para configurar a autenticação de chave pública.
Se você especificar, como é o seu servidor, você pode obter respostas mais específicas.