Bem, posso absolutamente verificar se o FileZilla funciona com o Windows Server 2008 R2 (usei-o várias vezes). Então, é provavelmente um problema de configuração.
Parece óbvio, mas você tentou alternar entre o modo PASSIVO e ATIVO nas propriedades da Conexão do FileZilla (cliente)? Isso é muitas vezes uma causa de problemas. (Há um ótimo guia para entender suas diferenças aqui ).
Lembre-se:
- Para portas abertas de conexões ativas 20 e 21
- Para conexões passivas abertas Portas 21 e 1024+ (e superiores)
Vou postar mais se pensar em mais problemas comuns. Boa sorte!