O FTP pode usar SSL, que suporta autenticação de cliente usando certificados X.509. No entanto, embora muitos servidores FTP suportem FTPS, não conheço nenhum que suporte certificados de cliente. (Além disso, a autenticação do cliente é complicada no SSL - em muitos casos, você teria que criar e manter sua própria autoridade de certificação e outros. Não muitos clientes suportam esse tipo de autenticação.)
Muito mais fácil é usar o SFTP, o protocolo de transferência de arquivos SSH. Ele usa exatamente as mesmas chaves que o SSH "normal". No Windows, WinSCP e O FileZilla suporte SFTP.