Eu resolvi esse problema examinando um monte de diferentes partes da documentação sobre como configurar o FTPS para o IIS 7.5. O problema não é que eu estava criando um segundo site FTPS com configurações diferentes do primeiro site FTPS, mas certificando-se de que o nome FQDN / host no SSL e o cabeçalho do host para o site FTPS correspondam exatamente ao garantir:
1) O Filezilla tinha 'Exigir FTP implícito sobre TLS' foi ativado, mas o formato 'hostheader | username' foi preenchido para o nome de usuário.
2) Certificar-se de que o servidor / nome do site / fqdn na configuração do FTP corresponda aos cabeçalhos do host / FQDN em seu certificado SSL. Uma das informações mais enganadoras na documentação que encontrei foi que os hostheaders precisavam ter 'ftps' ou algo parecido para funcionar no Filezilla.
3) que o segundo site FTPS foi configurado para uma porta separada do site 1 (o site 1 está configurado para a porta 21 e o site 2 está configurado para a porta 990)
A melhor informação que encontrei para guiá-lo no futuro é este tutorial:
FTPS de configuração no IIS 7.5 usando o tutorial de cabeçalhos de host