Provavelmente, o grupo de administradores, na verdade, não tem as permissões necessárias para excluir a pasta. Quando você tenta excluir as pastas através do Explorer, é mais provável que modifique automaticamente a ACL para fornecer as permissões necessárias na pasta, antes de realmente excluí-la.
Você provavelmente precisará modificar seu programa para alterar as permissões no diretório (apropriando-se, se necessário) para permitir a exclusão.