Como mencionado nos documentos que você citou, o Apache suporta este estilo de referências de regex em expressões ( docs ), mas AuthUserFile espera um arquivo caminho como um argumento - pegando sua string literalmente.
Consulte os documentos da diretriz If para ver como uma diretiva que dá suporte a uma expressão é listada . A página de documentação sobre expressões tem uma lista de diretivas que as suportam.