Dois protocolos completamente diferentes.
FTPS é FTP com SSL para segurança. Ele usa um canal de controle e abre novas conexões para a transferência de dados. Como usa SSL, requer um certificado.
O SFTP (Protocolo de Transferência de Arquivo SSH / Protocolo Seguro de Transferência de Arquivo) foi projetado como uma extensão do SSH para fornecer capacidade de transferência de arquivos, por isso normalmente usa apenas a porta SSH para dados e controle.
Na maioria das instalações do servidor SSH, você terá suporte a SFTP, mas o FTPS precisará de uma configuração adicional de um servidor FTP suportado.