De acordo com sua configuração, você deve alterar
AuthOrder mod_auth_file.c
por
AuthOrder mod_auth_pam.c* mod_auth_unix.c
Porque mod_auth_file.c
é feito apenas para usar o arquivo de autenticação especial proftpd.
Você pode consultar as opções do AuthOrder aqui == > Directiva Proftpd AuthOrder