Os certificados são mais comumente usados com TLS / SSL (FTPS), em vez de SSH / SFTP.
Tem certeza de que você deve se conectar ao SFTP? Não é FTPS? Estes dois são comumente confundidos.
Versões recentes do OpenSSH suportam o método de autenticação proprietária que de fato usa certificados. Mas eu não acho que este método é suportado por qualquer outro cliente SSH / SFTP. Definitivamente não é suportado pelo FileZilla.