As ACLs devem ser capazes de fazer o que você precisa (dê uma olhada na documentação para determinar se path_beg, path_dir, path_end ou outro método funciona para seu caso de uso)
acl folder1 path_end -i /folder1
acl folder2 path_end -i /folder2
acl folder3 path_end -i /folder3
use backend BACKEND1 if folder1
use backend BACKEND2 if folder2
use backend BACKEND3 if folder3
Por favor poste sua configuração haproxy se ainda não estiver funcionando.